DS 太牛逼了。
真的,太牛逼了。
今天看到 DeepSeek V4.1 Flash 的新架构,我第一反应就是:梁圣。
我们公司现在实际跑 Agent,有一个非常明显的特点:
输入极长,输出很短。
我们自己的真实数据,差不多是:
Input : Output = 93 : 1
这其实非常符合现在 Agent 的工作方式。
Agent 每做一步,都要吃进去大量上下文:
历史消息、代码、文件、工具返回、环境状态、Memory、各种 system prompt……
最后真正输出的,可能就几十个 token,甚至只是一个 tool call。
所以 Agent 时代,本质上不是“生成很多 token”。
而是:
读很多,写很少。
这个事情已经困扰我很久了。
我也一直觉得,今天大模型推理一个很大的浪费,就是:
输出已经可以 MoE 了,只激活一小部分参数;
但输入这一大坨 token,很多模型依然要做非常重的计算。
对于 Agent 来说,这就很亏。
因为 Agent 93% 以上的工作量,可能都在“读”。
但我从来没敢往一个方向想:
输入为什么不能 MoE?
结果 DeepSeek 真干了。
V4.1 Flash 是 552B 参数 MoE,但这次直接做成了非对称的 Causal-Encoder-Decoder:
输入激活 8B,输出激活 16B。
输入和输出,终于不再被当成同一种计算问题。
这个思路我觉得太重要了。
过去大家优化 LLM,天然会盯着 generation:
一秒生成多少 token,decode 多快,输出激活多少参数。
但 Agent 真正规模化以后,也许最应该优化的根本不是“说话”。
而是读。
因为 Agent 是一个永远在疯狂读上下文、偶尔做一个动作的东西。
如果未来 Agent 的 Input : Output 普遍都是几十比一、上百比一,那今天很多围绕 decoder 优化出来的模型架构,可能都不是最终答案。
DeepSeek 这次最让我震撼的,不只是“又便宜了”“又快了”“benchmark 又高了”。
而是他们真的从 workload 出发,重新问了一遍:
模型为什么一定要对输入和输出一视同仁?
这才是第一性原理。
我们每天就在跑 Agent。
93:1 的数据天天摆在我面前。
我知道输入贵,我知道 KV Cache 贵,我知道 Agent 最大的成本越来越来自上下文。
但我就是没敢再往前想一步。
DeepSeek 想了。
而且做出来了。
梁圣。

