近日，在业界知名的具有极高性价的独立推理云服务商 DeepInfra 发布的最新基准测试报告 中，一组看似违背算力常识的真实账单数据轰动了整个 AI 技术圈：
拥有 284B 总参数的 DeepSeek V4 Flash，其输出端（Output）每百万 Token 的官方价格仅为
作为一家以提供极致吞吐量和高性价比著称的专业 AI 基础设施服务商，DeepInfra 揭示的这一现象迅速引发了深入讨论。传统的参数量决定成本逻辑正在失效。通过对这份报告的深度解构，我们得以窥见现代 AI 基础设施（AI Infra）在性能、显存与商业成本之间进行的残酷博弈。
架构的差异
既然两款模型同样采用了 MoE（混合专家）稀疏架构，那么在理论上，计算量已被稀疏激活砍到了同一条起跑线上。然而，大模型的真正红利在于其架构空间能够容纳更激进的显存减负机制。
-
小 MoE 的物理局限：
Qwen 3.6 35B 每次推理仅激活 3B 参数，计算极其轻量。但它采用的是相对传统的 GQA（分组查询注意力）机制。在高并发或长文本（如 100k+）场景下，KV Cache 会随着序列长度和并发数呈线性激增。每一代对话的历史信息，都要以高维矩阵的形式实打实地驻留在昂贵的 HBM（高带宽显存）中，迅速将显存带宽和容量塞满，迫使 GPU 计算核心由于“数据搬运不及时”而陷入排队。
-
大 MoE 的隐空间压缩（Latent Compression）：
DeepSeek V4 Flash 每次推理虽然需要激活更大的 13B 参数（绝对计算量是 Qwen 的 4 倍以上），但它原生采用了颠覆性的 MLA（Multi-head Latent Attention，多头潜在注意力） 机制。
MLA 打破了传统注意力机制必须拉满尺寸存储 Key 和 Value 的思维定势。它通过精密的数学设计，在特征进入缓存前，将其投影到一个极低维度的隐空间（Latent Space）中进行联合压缩。打个比方，常规架构是将 100 兆的原始高清设计图（高维 KV 向量）直接塞进缓存，而 MLA 则利用低秩矩阵将其实时压缩成 1 兆的矢量线稿（低秩隐向量）。
当模型需要调用历史记忆时，它不需要从显存中搬运庞大的完整矩阵，而是直接在算力核心内部通过矩阵乘法（Up-projection）瞬时重构出这些特征。根据技术报告，在百万字长文本场景下，MLA 将 KV Cache 的物理显存占用直接斩断到了传统常规架构的 10% 左右。这种“以工程算力换显存空间”的路径，让大模型在最底层的物理世界中放下了沉重的包袱
速度与吞吐平衡
深入对比 DeepInfra 的测试数据，我们会发现一个此前被大多数人忽略的底层技术Trade-off：
-
Qwen 3.6 35B：在 DeepInfra 上跑出了
121 tokens/sec，生成速度极快。 -
DeepSeek V4 Flash：由于运行在深度思考的高开销推理模式（high-effort reasoning mode）下，其速度仅为
23 tokens/sec。
我们可以发现DeepSeek 便宜 5 倍的本质，不是因为它在单次请求中跑得更快，而是它通过降低单请求的生成速度，换取了硬件在后台可以进行更深度的连续批处理（Continuous Batching）调度。
在传统或低并发模式下，大模型推理属于典型的访存受限（Memory-Bound）状态。虽然 GPU 的计算核心（Tensor Core）速度极快，但由于每个用户的对话历史和上下文都会产生庞大的 KV Cache，这些数据会随着并发量（Batch Size）的增加而呈线性暴增，瞬间填满昂贵且空间有限的 HBM 显存，导致显存容量（OOM 溢出）成为无法逾越的物理天花板。同时，在低并发下，GPU 搬运一次庞大的模型权重进入核心，只能服务少量请求，导致算力核心绝大多数时间都在“闲置排队”等待显存数据的搬运，根本无法通过堆叠并发来提高利用率。因此，在没有类似 MLA 机制进行显存深度压缩和 Continuous Batching 动态调度之前，由于显存容量瓶颈和带宽瓶颈的双重枷锁，调度系统绝无可能把并发打上去。
而 DeepSeek 推出的 MLA机制打破了这一显存枷锁。它在特征进入缓存前，通过数学矩阵将其压缩成极低维度的“隐向量”，大大降低显存占用，为调度系统拉大 Batch Size 腾出了巨大的物理空间。有了充足的显存后，智算中心便可进行激进的Trade-off：系统不再盲目追求单请求的吐字速度，而是主动将其生成速度放缓，并利用 Continuous Batching 技术，将更多的并发请求缝合在一起，将 Batch Size 推向硬件的物理极限。至此，GPU 不再等数据，而是让 Tensor Core 进入 100% 满载的 Compute-Bound 状态，单位时间内的总 Token 吞吐量被拉到极致，分摊到每百万 Token 的固定成本自然呈现断崖式下跌。
Qwen 3.6-35B 更高的能力表现
然而，低价并不等同于全方位的技术碾压。在 DeepInfra 的长文本代码库推理（AA-LCR）测试 中，Qwen 3.6 35B 却以 64% 的表现反超了 DeepSeek 的 63%。体量更小的 Qwen 能够维持极高的性能上限，来自于另一套完全不同、针对“高智商密度”优化的 AI 系统工程：
【 现代大模型算力设计的两条演进路径 】[ 路径 A：DeepSeek 模式 ] [ 路径 B：Qwen 模式 ]MLA 压缩显存 + 原生 FP4 部署 Gated DeltaNet 线性注意力 + 256 细粒度专家│ │▼ ▼【 极致吞吐量 / 极低单价 】 【 极速吐字 (121 t/s) / 强悍上下文长文本能力 】
-
Gated DeltaNet 线性注意力：
传统 Transformer 的计算复杂度随文本长度呈二次方（
-
256 细粒度专家路由系统：
相较于常规 MoE，Qwen 3.6 将 35B 参数拆分成了 256 个微型专家。每个 Token 激活 8 个路由专家 + 1 个共享专家，凑出 3B 的激活参数。专家数量越多，分工越精细，使得它在处理科学代码等高度抽象的逻辑时，“智商密度”极高。
-
YaRN 与 原生 FP8 部署：
配合 YaRN 位置编码扩展技术，Qwen 彻底终结了长文本“中间迷失（Lost in the Middle）”的通病。在 DeepInfra 上以比FP4更高的精度 FP8原生Serving，不仅保留了代码生成时的语法严谨性，更直接催生了 121 tokens/sec 的极速。
算力经济
技术创新的终点是商业落地，而这两种不同的技术路线，在市场选择中划出了不同的商业闭环。
-
大模型的规模经济：
当全行业都在疯狂调用 DeepSeek 时，服务商有绝对的商业底气去针对性地堆叠 NVIDIA B200 等顶级算力集群，通过 PagedAttention 配合大 Batch Size 将硬件折旧和电力成本压到极致。
-
小模型：
相反，像 Qwen 3.6 35B 这样单请求响应极快、长文本能力极其惊艳的模型，因为调用量和场景更加细分，如果无法在基座层面跑出同等规模的并发经济，服务商就不得不让硬件处于低 Batch 的状态运行。极致的单字生成速度与高精度的表征，让它在商业账单上反而退化成了一种高性能的“算力奢侈品”。
终究是一个权衡
DeepSeek V4 Flash 与 Qwen 3.6 35B 的这场算力交锋，完美诠释了现代 AI Infra 步入成熟期后的 Trade-off 艺术
没有绝对完美的模型，只有对特定硬件和场景压榨到极致的工程方案。DeepSeek 通过降低单请求生成速度、极度压缩显存（MLA），走了一条“用工程换取低成本、依靠海量并发实现规模经济”的道路；而 Qwen 3.6 则在小体量下实现了高速度、高精度的性能爆发。
这种两条路径的百花齐放，清晰地昭示了 AI 基础设施的未来：模型的竞争力不再取决于单纯的物理参数大小，而取决于你如何在算力与算法之间，进行最高效的流动权衡。