京东云宣布拟建设十万卡全功能GPU集群后，很多人的注意力都落在“十万卡”这个数字上。我更在意的，是京东云总裁曹鹏解释合作原因时提到的一句话：看重摩尔线程在国产训练级GPU上的“稀缺能力” 。

为什么是“稀缺能力”？能够适配大模型、把现成模型运行起来的国产GPU正在增多。但如果要求变成从零训练基础模型，再把训练扩展到万卡，并为十万卡级集群做好准备，符合条件的选择会迅速减少。

GPU能用于模型推理，不代表把它训练出来

所谓“点亮模型”，通常是把一个已经训练完成的模型加载起来，让它正常运行并通过推理生成答案。训练面对的却是一个尚未形成能力的模型。

模型要从海量数据中反复学习：先完成前向计算，再比较结果与正确答案之间的差距，通过反向传播计算梯度、更新参数，然后进入下一轮。这个过程可能重复数百万次，持续数周甚至更久。

因此，一块GPU能运行大模型，并不代表它能把大模型训练出来。训练期间，显存里还要保存中间结果、梯度和优化器状态；数据需要在芯片之间高速流动；不同计算精度既要提高效率，又不能让误差在长期迭代中不断放大。算得快只是基础，算得准、算得稳同样重要。

摩尔线程的S5000覆盖FP8到FP64多种计算精度，并针对Transformer和MoE模型进行了增强。据摩尔线程披露，合作伙伴基于MTT S5000智算集群，使用超过25T规模的语料，从零完成MoE-236B基础大模型训练，训练损失曲线与国际主流计算卡高度一致。

我觉得这个案例真正有分量的地方，是它没有停留在“模型可以运行”。基础模型在S5000上走完了读取数据、反复纠错和更新参数的全过程，这才是训练级能力最直接的证明。

卡数上万以后，决定效率的是系统协同

单张GPU能完成训练任务，证明的是芯片和软件具备基本能力。但大模型越来越大，单张卡很快就会遇到显存和计算量的上限，任务必须被拆到成百上千乃至上万张GPU上。

卡数增加以后，难点不再只是每张卡算得够不够快。每完成一步计算，各张卡都要交换数据、同步结果。一张卡变慢、一条通信链路拥堵，或者一个节点突然故障，都可能让大量GPU停下来等待。卡数越多，局部问题越容易被放大。

而摩尔线程和合作伙伴合作训练的MoE模型，还会增加调度难度。它会根据任务调用不同的“专家”模块，这些专家分散在大量GPU上。任务怎么分、怎样避免部分节点排长队、结果如何快速汇总，都会变成通信和负载均衡问题。

这也是MUSA软件栈和夸娥智算集群的重要性。MUSA负责底层计算和通信，夸娥把大量S5000组织成可以管理和维护的集群，并提供任务调度、运行监测、故障诊断和断点续训。芯片负责计算，整套系统则要保证训练持续向前。

据摩尔线程披露，其万卡级集群训练线性度达到95%，夸娥万卡训练容错系统的有效训练时间占比超过90%。前一个数字说明新增GPU有多少转化成了训练效率，后一个数字反映集群遇到故障后能否迅速恢复。对于持续数周的训练，这两项能力往往比短时间的峰值性能更重要。

到了十万卡，客户要的是持续可用的算力

十万卡不是把万卡集群简单复制十遍。卡数增加十倍后，通信关系、故障点和运维复杂度都会继续上升。网络、供电液冷、全局调度和灾备能力，都会影响最终有多少GPU能够长期转化为有效算力。

到了这个级别，客户选择的已经不只是一张GPU，而是一条能够持续扩展的技术和工程路线。芯片性能要跟得上，软件生态要能承接现有模型，集群要稳定运行，故障要快速恢复，厂商还要具备大规模交付和长期运维能力。

摩尔线程已经展示的MTT C256超节点架构规划，目标之一就是支持集群从万卡向十万卡平滑扩展；“花港”架构也把十万卡以上集群扩展纳入设计。它们要解决的，正是已有万卡能力如何继续向更大规模延伸。

京东云把摩尔线程全功能GPU纳入十万卡集群规划，我更愿意把它理解为一个需求侧信号。头部客户提出的问题，已经从“国产GPU能不能用”，变成“能不能训练基础模型、扩展到更大规模并长期稳定交付”。双方围绕JoyAI开展的协同，也让这种需求进入了具体的模型迭代。

从这个角度看，摩尔线程的稀缺性并不只来自S5000。真正拉开差距的，是它已经把训练级芯片、万卡集群、MUSA软件栈、夸娥管理平台和面向十万卡的演进路线逐步接到了一起。能做出国产GPU的公司会越来越多，能够把完整训练链路真正跑通的公司，依然不会很多。