大数跨境

DeepSeek推出新的推理优化方案DSpark,可将每位用户的响应速度提升高达85%

DeepSeek推出新的推理优化方案DSpark,可将每位用户的响应速度提升高达85% 土耳其小莫
2026-06-29
2
导读:在DeepSeek的测试中,与上一代MTP-1基准相比,DSpark在Flash模型中将用户侧的生产速度提升了60%至85%,在Pro模型中则提升了57%至78%。

中国AI初创公司DeepSeek宣布推出针对DeepSeek-V4模型的推理优化技术DSpark。据Tech in Asia报道,该技术定位为“推测性解码”框架,旨在提升大语言模型在密集使用场景下的响应速度,每位用户的响应速度最高可提升85%。

DSpark并非新模型架构,而是作为附加推理模块运行于DeepSeek-V4-Pro之上。这属于工程导向的改进,在不改变模型核心能力的前提下实现更快响应。目前,DSpark已在DeepSeek-V4的Flash和Pro版本中投入实时流量使用。

该系统基于轻量级“草稿模型”预先预测候选token,再由主模型批量验证,使生成过程从逐token推进转变为并行结构。其独特之处在于采用半自回归生成与基于置信度的验证机制,通过筛选值得验证的候选token,有效减少GPU资源浪费。

测试数据显示,相比上一代MTP-1,DSpark使Flash模型终端用户生成速度提升60%至85%,Pro模型提升57%至78%。同时,DSpark生成的被接受token序列长度优于Eagle3和DFlash等现有推测性解码方法。

伴随DSpark,DeepSeek还推出了开源工具包DeepSpec。该项目以MIT许可证在GitHub发布,提供涵盖数据准备、草稿模型训练及评估的全栈代码库,支持DSpark、DFlash和Eagle3算法,并兼容Qwen3和Gemma模型系列。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 26498
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读242
粉丝0
内容26.5k