DeepSeek выпустила DSpark: скорость генерации токенов растёт на 57-85%

DeepSeek выпустила DSpark и сразу открыла исходный код. Это система ускорения инференса на основе speculative decoding, и цифры у неё конкретные.

Что такое DSpark и какие цифры заявляет DeepSeek

По данным DeepSeek, DSpark увеличивает скорость выдачи токенов для одного пользователя на 57-85% при сопоставимой вычислительной мощности. Конкретнее:

• DeepSeek-V4-Flash: прирост 60-85% по сравнению с предыдущим механизмом MTP-1.
• DeepSeek-V4-Pro: прирост 57-78% по тому же сравнению.

Технология уже работает в production на обеих моделях.

Как это работает

Обычно языковые модели генерируют текст строго последовательно - токен за токеном. При длинных ответах это плохо утилизирует GPU и увеличивает задержку.

DSpark использует speculative decoding: лёгкая вспомогательная модель заранее предлагает несколько следующих токенов, основная модель проверяет их пакетно. Если прогноз верный - система выдаёт сразу несколько токенов вместо одного.

Чем DSpark отличается от обычного speculative decoding

DeepSeek добавила два механизма поверх стандартной схемы.

Первый - полуавторегрессионная генерация. Система формирует небольшие блоки токенов, но учитывает связь между ними. Это снижает число ошибок в прогнозах.

Второй - планировщик, который регулирует объём проверки в зависимости от уверенности модели и текущей нагрузки на инфраструктуру. То есть система адаптируется к реальным условиям, а не работает по фиксированной схеме.

DeepSpec и поддержка других моделей

Вместе с DSpark DeepSeek опубликовала DeepSpec - набор инструментов для обучения и оценки подобных систем. К нему прилагаются готовые контрольные точки для нескольких открытых семейств моделей.

В тестах компании DSpark работала с Qwen и Gemma - не только с собственными моделями DeepSeek.

Лицензия MIT: кто сможет это использовать

Tехнология распространяется по лицензии MIT, то есть любой разработчик или компания могут адаптировать её для своих открытых моделей.

Оговорка важная: для этого нужен доступ к весам модели и собственной инфраструктуре инференса. Если ты работаешь через закрытый API - например, OpenAI или Anthropic - подключить DSpark самостоятельно не получится. Такую оптимизацию должен внедрять сам провайдер.

Что это значит

Если ты разрабатываешь или деплоишь открытые модели - DSpark уже сейчас можно изучить и потестировать: исходный код открыт, DeepSpec с контрольными точками прилагается.

Если работаешь через API DeepSeek - ускорение уже там, в V4-Flash и V4-Pro, без дополнительных настроек с твоей стороны.

Если сидишь на OpenAI или Anthropic - пока ждёшь, пока провайдеры сами не внедрят что-то похожее. DSpark напрямую сюда не пришить.

Источник: Devby, 30 июня 2025 - https://devby.io/news/deepseek-vypustila-dspark-pomoschnik-uskoryaet-otvety-ii-do-85