
中国AI初创公司DeepSeek宣布推出针对DeepSeek-V4模型的推理优化技术DSpark。据Tech in Asia报道,该技术定位为“推测性解码”框架,旨在提升大语言模型在密集使用场景下的响应速度,每位用户的响应速度最高可提升85%。
DSpark并非新模型架构,而是作为附加推理模块运行于DeepSeek-V4-Pro之上。这属于工程导向的改进,在不改变模型核心能力的前提下实现更快响应。目前,DSpark已在DeepSeek-V4的Flash和Pro版本中投入实时流量使用。
该系统基于轻量级“草稿模型”预先预测候选token,再由主模型批量验证,使生成过程从逐token推进转变为并行结构。其独特之处在于采用半自回归生成与基于置信度的验证机制,通过筛选值得验证的候选token,有效减少GPU资源浪费。
测试数据显示,相比上一代MTP-1,DSpark使Flash模型终端用户生成速度提升60%至85%,Pro模型提升57%至78%。同时,DSpark生成的被接受token序列长度优于Eagle3和DFlash等现有推测性解码方法。
伴随DSpark,DeepSeek还推出了开源工具包DeepSpec。该项目以MIT许可证在GitHub发布,提供涵盖数据准备、草稿模型训练及评估的全栈代码库,支持DSpark、DFlash和Eagle3算法,并兼容Qwen3和Gemma模型系列。

