大数跨境

突破算力瓶颈:中国大模型为何总是"追近又被拉开"

突破算力瓶颈:中国大模型为何总是"追近又被拉开" 九顶创业生态圈
2026-11-01
4
导读:过去三年,中国大模型上演了一出反复上演的戏码:奋力追赶,一度逼近,然后被对手用更大的投入再次甩开。

过去三年,中国大模型上演了一出反复上演的戏码:奋力追赶,一度逼近,然后被对手用更大的投入再次甩开。

Epoch AI的能力指数揭示了一个残酷事实:2023年以来,每一个处于全球前沿的模型都出自美国,中国模型平均滞后约7个月。差距确实在收窄——斯坦福《2026年AI指数报告》显示,中美最佳模型性能差距已从2023年5月的30%以上压缩至2026年3月的约2.7%。DeepSeek-R1在2025年初甚至短暂追平过美国最强模型,但旋即被GPT-6 Astra等新一代再次拉开。

追近又被拉开,循环往复。根本原因只有一个字:算。

Epoch AI估算的数字冰冷而直白:DeepSeek-R1训练计算量约4×10²⁴次浮点运算,Qwen3-Max约1.5×10²⁵次;而同期的GPT-5约6.6×10²⁵次,Grok 4约5×10²⁶次——美国前沿模型的训练算力,整整高出中国一个数量级。


一、提效追不上规模:杰文斯悖论的AI版本

在高端芯片受限的条件下,中国走出了一条"以效率换差距"的独特路径。DeepSeek-V3用2048张H800完成预训练,凭借混合专家架构和8位精度训练,将正式训练成本压至约560万美元。同期Meta训练Llama 3.1 405B却动用了约1.6万张H100。

但效率提升存在天花板,而且会反噬——这正是19世纪"杰文斯悖论"的AI版本。 当年蒸汽机效率大幅提高后,英国煤炭消耗不降反升,因为效率提升降低了使用成本,刺激了更多需求。AI领域同理:效率越高,同等投入能产出更强模型,各方追加算力的意愿就越强。

更关键的是,中国团队摸索出的效率创新,美国实验室很快就能吸收,再叠加十倍算力倾泻而下,差距瞬间重新拉开。只要训练算力的量级差距存在,中国大模型就无法跳出这个循环。

二、规模定律:算力需求的底层引擎

大模型越做越大,驱动力是规模定律——一项在实践中反复验证的经验规律:模型预测误差随参数量、数据量和计算量按幂律稳定下降。 投入产出可以事先估算,这让科技巨头敢于押注千亿美元。

业界经验公式C≈6×N×D给出了训练算力的粗略量级:总计算量等于6倍参数量乘以训练Token数。以Llama 3.1 405B为例,4050亿参数、15.6万亿Token,计算量约3.8×10²⁵次——用一张H100满负荷跑,需要约1200年。

而前沿模型的计算量仍在加速膨胀:GPT-3(2020年)约3×10²³次,GPT-4约2×10²⁵次,GPT-4.5约4×10²⁶次,2026年9月的GPT-6 Astra已达10²⁷量级。短短六年,前沿模型训练计算量膨胀了3000倍以上。

三、从一张卡到一台机器:训练算力供给的五大支柱

训练计算可拆解为另一个公式:C≈P×G×u×T,即单卡峰值算力、卡数、有效利用率与训练时间的乘积。计算量C由模型决定,训练时间T由竞争倒逼——芯片一年一代,训练周期拖长意味着上线即落后;前沿模型享有阶段性垄断利润,追赶者刚追上就可能遭遇降价清场。近两三年前沿模型正式训练大多压缩在三到四个月内完成。

按此倒推:GPT-6 Astra量级的模型,用GB200在四个月内训完,需要约10万张卡。计算量再翻十倍,就需要百万卡集群。规模,是被竞争期限逼出来的。

但并行不是免费的。每步计算后,所有GPU都要交换中间结果、同步参数才能继续。一个4000亿参数模型仅参数、梯度和优化器状态就需要数TB显存,而单张H100只有80GB——模型本身必须切片分布到上百张卡上。这意味着训练集群不是一堆各自为战的芯片,而是必须通过高速互联连成"一台机器"。

这台"机器"由五大要素构成:

  • "算"——能力的起点。 训练服务器典型配置是8块高性能GPU,加速卡按售价占训练服务器成本七到八成。

  • "存"——HBM是命脉。 GPU数据吞吐要求比CPU高一个数量级,HBM将多层内存芯片垂直堆叠并与GPU封装在一起,通过上千条通道并行传输。以B200为例,HBM约占整卡物料成本的一半,全球仅SK海力士、三星、美光三家能大规模供货。

  • "连"——从配套变为命脉。 训练网络须同时满足高带宽、低时延、高可靠三项要求。集群按通信密度分层:纵向Scale-up用专用高速互联将一组卡连成整体(如英伟达GB200 NVL72把72张卡做成一个互联域),横向Scale-out再用InfiniBand或以太网连接成集群。博通CEO预计,当集群走向50万至100万卡时,网络芯片将占AI芯片支出的15%-20%——而在传统数据中心,交换机只占资本开支的个位数。

  • "管"——集群软件决定利用率。 Meta披露Llama 3.1 405B训练的模型算力利用率(MFU)为38%-43%,其余消耗在通信等待和系统开销上;训练中平均约3小时意外中断一次。规模越大越难守:卡数从8192翻倍到16384,MFU从43%降至41%;按同等故障率推算,十万张卡平均约半小时就会中断一次。

  • "供"——电力与散热。 训练机柜功率可达100千瓦以上,必须液冷。训练GPT-6 Astra的10万张GB200连同配套设施功耗超2亿瓦,前沿训练园区正走向吉瓦级——一个1吉瓦AI数据中心前期投资约380亿美元,功率相当于一座大型核电机组。


五项要素合计算账:1000台通用服务器连同机房约2000万美元;换成1000台8卡H100训练服务器,合计约4.6亿美元,是前者的20多倍。 同样数量的服务器,一边是写字楼里的办公设备,一边是自带变电站的重型工厂。

四、英伟达为何不可替代:系统锁定与网络效应

五项要素的扩产速度不同:先进制程与封装集中在台积电,HBM集中在三家存储厂,电力受制于电网建设周期——这些都以年计扩产;而需求约一年一代。供需节奏错配,稀缺环节获得定价权。

但价格是周期性的,标准制定权才是结构性的。 HBM规格围绕加速器需求反推,英伟达直接向三家存储厂采购再交台积电封装;光模块、液冷等厂商也围绕其机架参考架构设计产品。GPU厂商既是引擎,也是规则制定者。

从买方角度看,训练的试错成本极高——系统不稳定导致训练周期拉长甚至失败,数月时间和上亿美元投入随之蒸发。 理性选择是只采用经过大规模验证的方案,为确定性支付溢价。Meta把推理交给AMD试水,训练仍坚持用英伟达,就是因为推理可以拿部分流量试验,训练试不起。用的人越多,验证越充分,下一个买家越不敢换——这是典型的网络效应。

英伟达的优势恰好覆盖了公式中供应商能左右的三个变量:P、G和u。 单卡算力领先但纸面参数可被追平;真正难以复制的是把数万张卡连成一台机器并稳定运行数月的能力。2020年收购Mellanox获得InfiniBand,把纵向NVLink与横向集群网络都握在手中;通信库和算子库建立在近20年CUDA生态之上。规模越大,利用率越难维持,英伟达的统治力恰恰来自这套覆盖芯片、网络与软件的完整体系——训练侧的竞争不奖励单项冠军,只奖励能把几万张卡变成一张卡、并让极度厌恶风险的客户放心使用的厂商。

五、中国现状:五项要素,四项有短板

截至2025年5月,美国约占全球GPU集群算力的四分之三,中国约15%。在美国,芯片和HBM虽紧张但市场化扩产正常运转,最硬的约束反而是电力。用同一框架审视中国:

  • "算": 高端GPU无法购买,华为昇腾950DT的8位精度算力约1 PFLOPS,约为B200的两成多;下一代昇腾960DT预计2027年Q1就绪,单卡约2 PFLOPS,仍不及B200的一半。瓶颈不在设计而在先进制程,制程背后是光刻机管制。
  • "存": 海外HBM采购渠道基本切断,长鑫存储已小规模试产HBM3E,比国际三强落后一代,上一代HBM3综合良率估计仅25%左右。
  • "连": 光模块由中国厂商主导,但高速DSP和高端激光器仍依赖进口;交换芯片华为做到51.2T,博通已达102.4T。
  • "管": CUDA积累近20年,国产算子库、通信库和工具链仍需补齐,但差距可以追赶。
  • "供": 这是中国最强的一项。 2025年新增发电装机5.4亿千瓦,是美国同年十倍。

用公式倒推:同样一个10²⁷量级的模型在四个月内训完,由于单卡算力约为B200的五分之一,采用昇腾950级芯片需要四五十万张卡。卡数越多,利用率越难维持,HBM和互联器件需求成倍放大。各地兴建的大量智算中心也填不了这个缺口:规模有限、芯片型号各异,即使存在闲置算力,也拼不成"一台机器"。

六、三阶段突围路线图

短期:以系统弥补单卡,以提效对冲算差

单卡差距短期难以追平,就在卡数G和利用率u上做文章。华为的超节点把紧密互联扩展到跨机柜4096张卡,灵衢总线让数千张卡在软件层面更像一台机器,NPO近封装光学降低互联功耗与故障率。代价是能耗——华为CloudMatrix 384超节点单位算力耗电是英伟达GB200 NVL72的两倍多。但电费仅占吉瓦级数据中心年化总成本约7%,耗电翻倍只令总成本增加一成。电力恰是中国最充裕的资源。

模型层面,混合专家架构只激活部分参数可大幅降低计算量;8位低精度训练使芯片峰值算力翻倍、通信量减半,DeepSeek已证明可行。

同时应务实用好进口芯片。今年中国对英伟达H200进口持审慎态度,获批数量可能不到申请量一半。顾虑可以理解——进口芯片过多,国产芯片将失去验证机会。但前沿竞争存在时间窗口,错过一代,追赶成本成倍上升。 与其一味强调国产替代,不如以安全可靠为标准两条腿走路:前沿训练在许可范围内用好进口芯片抢时间,国产芯片先在推理和中等规模训练中放量,逐步向前沿推进。资源集中于少数大型训练集群,避免分散投入。

中期:产能爬坡、生态成熟与"第一个吃螃蟹的人"

没有EUV光刻机,只能靠存量有限的DUV以多重曝光逼近先进制程,设备保有量和良率决定了昇腾产量;一颗昇腾960估计需配8到12块HBM,卡数放大则HBM需求同步放大。突破方向有三:国产GPU和HBM良率产能爬坡、补齐高速DSP和激光器等互联短板、推动软件生态从"能用"走向"好用"——昇腾CANN已于2025年8月全面开源,DeepSeek也开源了面向昇腾的训练组件,开源技术本质上是反垄断的,任何一方都无法借此"卡脖子"。

中期还有一个市场自身无法解决的死结:训练买家极度厌恶风险,无人愿意率先在新平台上押上数月时间和上亿美元;无人使用,平台就得不到验证,越得不到验证越无人使用。 而首个吃螃蟹者的经验全行业都能受益——典型的正外部性问题。此时政府需要介入,但方式至关重要:不必亲自组织团队分配资源,可以提出需求、设立奖励——谁能在国产算力体系上完成一次前沿规模的训练,即给予奖励或有保障的采购合同。做不成,奖励不发,政府不承担财务风险;做成了,每一分钱都换来实在成果。具体如何实现,交给最了解情况的市场。

还须警惕风险过度集中。 目前中国能交付整套前沿训练体系的只有华为一家,它事实上扮演着"中国英伟达"的角色。枢纽立住生态才能运转,但路线一旦偏差便无第二套体系兜底。培育第二套训练体系、推动接口与软件兼容,是中期不可回避的任务。

长期:核心设备与人才才是底层战场

长期决定性因素是以光刻机为首的核心设备——这是先进制程芯片和HBM共同的瓶颈。国产光刻机以及刻蚀、沉积、量测等设备的攻关,才是真正的底层战场。华为提出的"逻辑折叠"等绕开制程限制的新路径,据其披露要到2030年前后才能用于训练芯片。

设备攻关,资金固然重要,人才更为关键。 光刻机牵涉光学、精密机械、材料、控制等众多学科,顶尖人才培养以十年计,急不得,但必须现在着手。


尾声

短期靠系统工程和模型提效,中期靠产能爬坡和首批大规模验证,长期靠核心设备与人才。三个阶段争夺的是同一件事:能否依靠自身力量,把几万张卡变成一台机器。

提效让我们追得更近,算力才能让我们走到前面。规模定律仍在生效,前沿训练的门槛每年成倍抬高。这是一场长跑,比拼的是持续投入的耐力与方向——而方向,已经比以往任何时候都更加清晰。


【声明】内容源于网络
0
0
九顶创业生态圈
秉持“正道利他”价值观,提供企业咨询服务。
内容 1042
粉丝 0
九顶创业生态圈 秉持“正道利他”价值观,提供企业咨询服务。
总阅读14.8k
粉丝0
内容1.0k