2026年4月24日，DeepSeek正式发布并开源了全新系列模型DeepSeek-V4预览版。这不仅是时隔十五个月后的一次大版本迭代，更像是一份深思熟虑的产业宣言——在算力生态博弈加剧、开源与闭源竞争白热化的关键节点，DeepSeek V4选择了一条独辟蹊径的技术路径：不盲目追求参数规模的绝对领先，而是在架构创新、推理效率和算力生态独立三大维度上构建系统性壁垒。
根据官方技术报告，DeepSeek V4系列包含两个MoE模型版本——V4-Pro总参数1.6万亿、激活参数49B，V4-Flash总参数284B、激活参数13B，两者均原生支持100万token上下文长度。官方在报告中坦诚表示，V4的能力水平仍落后GPT-5.4和Gemini-3.1-Pro，“发展轨迹大约滞后前沿闭源模型3至6个月”，将V4定位为“把长上下文成本重构、为下一阶段test-time scaling铺路的基础设施发布”。这一自我定位折射出V4的战略底色——不是一次能力上的越级，而是一次面向普惠的系统性重构。
本文基于官方技术报告及公开验证信息，从核心技术架构、长上下文突破、训练与优化、性能定位、生态战略等维度，对DeepSeek V4进行系统化技术解析与深度洞察。
一、模型布局：双版本分层策略
DeepSeek-V4系列包含两个MoE模型版本：
● DeepSeek-V4-Pro：总参数1.6T，每次推理激活约49B参数；
● DeepSeek-V4-Flash：总参数284B，每次推理激活约13B参数。
两者均原生支持100万token上下文长度。Pro版定位为性能旗舰，Flash版主打极致性价比。每款模型都提供三档推理强度：Non-think（直出）、Think High（常规深度思考）和Think Max（最大推理强度）。Max模式专为榨出模型能力上限而设计——V4-Pro-Max在HLE测试中从Think High的34.5分跃升至37.7分，Apex Shortlist测试中从85.5分升至90.2分，代价是输出token数翻倍。
值得注意的是，V4-Pro的总参数量（1.6T）相比V3系列（670B）的扩容并非无差别堆积，而是通过更激进的MoE细粒度切分，将激活参数占比压缩至仅约3%，延续了“效率优先”的设计理念。这一设计在保证强大表征能力的同时，维持了推理成本的可控性。在100万上下文设置下，V4-Pro的单token推理FLOPs仅为V3.2的27%，KV Cache仅为10%；V4-Flash更为极致，分别压至10%和7%。
DeepSeek-V4开创了一种全新的注意力机制，在token维度进行压缩，结合DSA稀疏注意力（DeepSeek Sparse Attention），实现了全球领先的长上下文能力，并且相比于传统方法大幅降低了对计算和显存的需求。1M上下文就此成为DeepSeek官方服务的标配。
API价格延续了DeepSeek一贯的普惠思路。V4-Pro每百万token输入1元（缓存命中）或12元（缓存未命中），输出24元；V4-Flash分别为0.2元、1元、2元。API服务兼容OpenAI ChatCompletions与Anthropic两套接口标准，通过修改model_name为deepseek-v4-pro或deepseek-v4-flash即可调用。
二、核心目标与核心优势
1.核心目标
打破超长上下文场景下普通注意力机制二次计算复杂度的瓶颈，实现百万令牌上下文长度的高效支持，解锁测试时扩展的新前沿，适配长周期任务（如复杂代理工作流、跨文档分析）。
2.核心优势
在百万令牌上下文设置中，相比DeepSeek-V3.2：
● DeepSeek-V4-Pro仅需27%的单令牌推理FLOPs、10%的KV缓存；
● DeepSeek-V4-Flash进一步优化，仅需10%的单令牌推理FLOPs、7%的KV缓存；
● 路由专家参数采用FP4精度，未来硬件可实现1/3的效率提升。
三、关键架构创新
DeepSeek-V4在继承DeepSeek V3的MoE框架和多Token预测（MTP）策略基础上，引入了三大核心升级：
● 混合注意力机制：这是实现百万级上下文的核心。它结合了两种新型注意力——
√ 压缩稀疏注意力（CSA）：先将Key-Value（KV）缓存压缩到1/m，再通过稀疏注意力仅选取Top-k个压缩后的KV对进行计算，并辅以滑动窗口保留局部细节。
√ 重度压缩注意力（HCA）：以更大的压缩率m’对KV缓存进行压缩，但保留稠密注意力计算，同样结合滑动窗口机制。
● 流形约束超连接（mHC）：将残差连接中的映射矩阵约束在双随机矩阵流形上，以增强深层网络信号传播的稳定性，替代传统的残差连接。
● Muon优化器：在大部分参数模块上采用Muon优化器替代AdamW，以实现更快的收敛和更高的训练稳定性，并结合了混合Newton-Schulz迭代进行正交化。
1. 混合注意力架构（CSA+HCA）
注意力机制是Transformer架构的核心计算瓶颈，也是长上下文场景下的最大成本来源。DeepSeek V4在这一领域的创新尤为关键——V4采用了CSA和HCA混合注意力方案。该混合注意力架构，大幅降低长上下文注意力计算成本，是百万令牌效率的核心支撑：
在此基础上，V4进一步引入混合注意力架构，结合了压缩稀疏注意力（CSA）和重度压缩注意力（HCA），在token维度上进行压缩，显著降低了长上下文场景下的计算和显存开销。这是实现“百万上下文普惠化”的核心技术支撑。
● 压缩稀疏注意力（CSA）：先将每m个令牌的KV缓存压缩为1个条目，再通过DeepSeek稀疏注意力（DSA）让每个查询仅关注top-k个压缩KV条目；补充滑动窗口KV条目增强局部依赖，采用分组输出投影降低计算负担。
● 重度压缩注意力（HCA）：采用更激进的压缩率（m’>>m），将每m’个令牌的KV缓存合并为1个条目，不使用稀疏注意力，同样搭配滑动窗口、分组输出投影等策略。
● 辅助优化：对查询/KV条目做RMSNorm避免logits爆炸；部分旋转位置嵌入（RoPE）保留相对位置信息；注意力汇聚（attention sink）优化注意力分数分布。
V4“开创了一种全新的注意力机制，在token维度进行压缩，结合DSA稀疏注意力一起用，相比传统方法大幅降低了对计算和显存的需求”。在1M上下文设置下，V4-Pro的推理FLOPs降至V3.2的27%，KV Cache降至10%。这意味着，上下文从V3.2的128K扩展到V4的100万token，理论上放大了近8倍，但单token算力需求反而大幅下降。对于开发者而言，以往因显存和算力成本而被“束之高阁”的超长上下文能力，如今真正具备了大规模部署的经济可行性。百万token上下文从技术Demo走向生产标配。
2. Hyper-Connections残差连接（mHC）
在超大规模模型的训练中，跨层信号传播的稳定性是一个长期挑战。V4引入了基于此前论文的Hyper-Connections方案（亦称流形约束超连接mHC），以取代传统的残差连接。与朴素的超连接相比，mHC的核心思想是将残差映射约束到一个特定的流形上，从而增强跨层信号传播的稳定性，同时保持模型的表现力：
● 将残差映射矩阵约束到双随机矩阵流形，保证谱范数≤1，增强跨层信号传播稳定性；
● 输入/输出映射通过Sigmoid函数约束为非负且有界，避免信号抵消；
● 参数动态生成（分动态输入依赖+静态偏置），并通过Sinkhorn-Knopp算法将残差映射投影到双随机矩阵流形。
3. Muon 优化器
由于Muon优化器具有更快的收敛速度和更高的训练稳定性，因此将它用于DeepSeek-V4系列中的大部分模块。在大部分参数模块上采用Muon优化器替代AdamW（仅嵌入、预测头等少量模块保留AdamW），以实现更快的收敛和更高的训练稳定性，并结合了混合Newton-Schulz迭代进行正交化。
● 采用混合Newton-Schulz迭代实现矩阵正交化，分两阶段迭代（前8步快速收敛，后2步稳定奇异值）；
● 结合Nesterov技巧、权重衰减，重新缩放更新矩阵RMS以复用AdamW超参数；
● 无需QK-Clip技术（注意力架构自带RMSNorm防logits爆炸）。
4. 继承与微调的设计
沿用DeepSeekMoE框架（微调路由激活函数、负载均衡策略，替换前几层密集FFN为哈希路由MoE层）、多令牌预测（MTP）策略；同时保留Transformer基础架构，仅针对长上下文场景做核心模块升级。
四、通用基础设施优化
为支撑模型高效训练与推理，构建了全链路优化体系：
1. 专家并行（EP）优化
设计细粒度通信-计算重叠方案，将MoE层的Dispatch/Combine（通信）与Linear-1/Linear-2（计算）融合为单一流水线核，通过wave化专家调度进一步放大重叠收益：
● 通用推理负载加速1.50~1.73倍，RL生成/高速代理服务等延迟敏感场景加速达1.96倍；
● 给出硬件设计建议：瞄准计算-通信比平衡点（如DeepSeek-V4-Pro需6144 FLOPs/Byte），预留足够功耗预算适配全并发负载。
2. 高效核开发与精度优化
● 采用TileLang领域特定语言平衡开发效率与运行时性能；
● 提供批不变性/确定性核库，保证训练-推理按位可重现；
● FP4量化感知训练（MoE专家权重、索引器QK路径），减少内存与计算开销。
3. 训练/推理框架优化
● 训练框架：扩展自动微分实现细粒度激活检查点；混合ZeRO策略适配Muon优化器；上下文并行管理压缩注意力；
● 推理框架：异构KV缓存结构+磁盘存储策略，实现高效共享前缀复用。
五、预训练与后训练
1. 预训练优化
在预训练上，V4同样引入了一系列重大优化：
● 数据规模：V4-Flash基于32T令牌、V4-Pro基于33T高质量多样令牌训练；
● 量化感知训练（FP4 QAT）：在后训练阶段对MoE专家权重和CSA索引器路径进行FP4量化训练，使模型适应低精度推理，降低部署成本。
● 原生支持1M上下文长度：V4-Flash-Base已超越DeepSeek-V3.2-Base，V4-Pro-Base在推理、编码、长上下文等任务上树立新基准。
● 训练稳定性：引入预测性路由和SwiGLU钳位技术，有效缓解了万亿参数模型训练中因路由机制和异常值导致的损失尖峰问题。
2. 后训练优化
DeepSeek-V4采用“领域专家独立训练+同策略蒸馏整合”两阶段后训练范式，强化学习阶段采用GRPO算法并辅以KL散度校正。首先通过监督微调（SFT）和GRPO强化学习分别训练领域专属专家，再通过在线蒸馏将它们统一合并为单一模型，这一策略在专业化能力和模型通用性之间取得了更好的平衡。
● 专家培养：首先，对基础模型在各个特定领域（如数学、编程、Agent任务）分别进行监督微调（SFT）和强化学习（RL），培养出多个独立的高性能领域专家模型。
● 同策略蒸馏（OPD）：然后，通过OPD技术，以反向KL散度为目标，以这些专家模型为教师，训练一个统一的学生模型。该学生模型在自己的生成轨迹上学习并整合所有专家的能力，通过同策略蒸馏将多专家能力整合为统一模型，实现了模块化能力的融合。
V4的发展轨迹大约滞后前沿闭源模型3至6个月，将V4定位为一次“基础设施发布”而非能力上的越级。
1. 核心基准表现
● 知识类：V4-Pro-Max（最大推理算力模式）在SimpleQA/Chinese-SimpleQA上超越领先开源模型，MMLU-Pro/HLE/GPQA接近专有模型Gemini-3.1-Pro；
● 推理类：扩展推理令牌后，V4-Pro-Max优于GPT-5.2/Gemini-3.0-Pro，略逊于GPT-5.4/Gemini-3.1-Pro；V4-Flash-Max与GPT-5.2/Gemini-3.0-Pro性能相当；
● 代理类：公开基准与Kimi-K2.6/GLM-5.1持平，内部评估优于Claude Sonnet 4.5，接近Opus 4.5；
● 长上下文类：1M令牌窗口下，学术基准超越Gemini-3.1-Pro。
2. 版本对比
● V4-Flash因参数规模更小，知识类评估略低，但推理任务（增大思考预算）、部分代理任务可与V4-Pro持平，仅复杂高难度任务落后。
DeepSeek V4最具战略意义的动作，是对国产算力体系的全链路适配。根据官方公开信息，V4已运行于华为昇腾芯片之上。工程师团队为此投入大量精力，不仅重写了核心代码，还完成了从NVIDIA CUDA生态向华为CANN框架的底层迁移。这一技术决策标志着DeepSeek在硬件适应性上的重大突破。在昇腾950上，经深度优化的推理速度较初期版本提升了35倍。
然而，这一进程并非一帆风顺。V4的多次推迟恰恰说明，从CUDA到CANN的迁移远比想象中复杂。昇腾芯片在超大规模集群的“全连通能力”上仍与英伟达存在物理层差距，CANN框架在算子覆盖、自动并行、内核融合等方面的成熟度也落后于CUDA生态。DeepSeek创始人梁文峰将这一进程称为“万里长征的第一步”，所言非虚。
更值得关注的是DeepSeek在这一过程中的战略选择：将早期访问权限独家开放给国产芯片厂商，并未给英伟达或AMD提供提前优化适配的机会。据公开信息，阿里、字节、腾讯等国内大厂已提前下单数十万颗昇腾芯片。这表明，DeepSeek V4的国产算力适配已超越单一公司战略，正在演变为中国AI产业链的系统性工程。
洞察一：竞争焦点正从“模型能力”转向“系统工程能力”
DeepSeek V4的延迟发布、华为芯片适配的复杂历程、以及DualPath等推理框架的创新，共同指向一个深刻变化：AI竞争的焦点正在从“谁的模型更大更强”转向“谁能把模型跑起来、跑稳定、跑便宜”。在万亿参数时代，算力压力已从纯计算转向系统调度与通信效率。DeepSeek V4的三个核心架构创新中，两个直接与推理效率相关，这本身就是最清晰的信号——工程化能力正在成为模型竞争力的核心维度。
洞察二：长上下文普惠化将重塑应用开发范式
V4以V3.2仅27%的推理FLOPs和10%的KV Cache实现百万上下文能力，这不仅仅是技术指标的提升，而是改变了超长上下文能力的经济模型。当百万级上下文从“技术可及”变为“成本可及”，代码仓库级理解、法律卷宗分析、学术论文综合等应用场景将迎来爆发式增长。Agent开发也将从“短记忆、多轮检索”转向“长记忆、全局理解”的新范式。V4-Flash的极低成本（输入1元/百万token）使这一能力向中小企业全面敞开。
洞察三：开源生态中的“基础设施先行”策略
V4的定位不是“超越所有闭源模型”，而是“为下一阶段铺路的基础设施发布”。官方试图完成三层重构——long context scaling（使1M上下文变为可能）、reasoning scaling（端侧模型可直接使用的思考预算）、compute scaling（数万张GPU的MoE训练稳定性）——每层都指向同一个方向：降低门槛，提升可得性。这种“不追求单点超越，而追求系统普惠”的策略，有可能比短期性能领先产生更深远和持久的产业影响力。
洞察四：中国AI自主技术体系的压力测试
V4对华为昇腾芯片的全链路适配（从CUDA到CANN的底层迁移、35倍推理提速），是中国AI体系首次在真实生产环境中，系统性探索在非CUDA平台上承载顶级模型能力的尝试。其成败将深远影响中国AI产业链的技术路线选择——是继续依赖CUDA生态的成熟便利，还是坚定走向自主底层技术的长远布局。DeepSeek选择将早期访问权限独家开放给国产芯片厂商，已经用行动表明了立场。这场“压力测试”正推动国产算力生态进入规模化落地的关键期。
来源：李特整理；免责声明：引用会标注来源，内容仅代表作者个人观点，版权归原作者或出版社所有，不对所涉及的版权问题负法律责任，如有侵权，请联系删除。