最近AI圈有几件事凑到一起，信号非常强烈：

一是OpenAI、Google保持着半年一代的迭代速度，国产大模型这边DeepSeek-R1横空出世后，智谱GLM、MiniMax、阿里通义也集体提速，中美已经成为全球大模型的两极；二是海外云厂商的资本开支继续狂飙，2026年Alphabet预计砸1800-1900亿美元、亚马逊2000亿美元、Meta 1250-1450亿美元，全部投向AI基础设施；三是2026年5月国家首次在安全可靠测评中专门设立AI芯片品类，华为、平头哥、海光等9款国产芯片获评I级，正式纳入信创体系。

这三件事指向同一个结论：AI算力的游戏规则正在被改写。

过去比拼"谁的单卡FP16算力高"的时代过去了，现在比的是芯片、HBM、互联、编译器、推理框架、集群调度的全栈效率；过去英伟达一家通吃的局面正在松动，国产算力在信创+大模型的双轮驱动下，迎来了真正的放量窗口。

一、算力风向变了：推理正式超越训练

ChatGPT刚出来的2022-2024年，AI基础设施的钱主要砸在训练侧——建千卡万卡集群，把大模型"炼"出来。但从2024年开始，一个关键拐点出现了：推理侧的投资规模正式超过训练侧。

这背后的逻辑很简单：模型训练是一次性的，但推理是每天都在发生的"水电煤"。随着AI应用规模化落地，Token消耗量呈指数级增长，长上下文、多模态、Agent调用让推理算力需求水涨船高。

据IDC预测，2024-2028年全球AI推理收入CAGR为14.3%，训练收入CAGR为13.8%，推理增速已经跑赢训练。

维度	训练侧需求	推理侧需求
核心诉求	更大规模、更高吞吐、更强互联	更低延迟、更高并发、更低成本
关键指标	矩阵吞吐、显存容量、集群通信	长上下文显存、并发调度、单Token成本
技术重点	千卡/万卡集群稳定性、并行训练效率	KV Cache管理、批处理优化、模型压缩
代表场景	基础大模型预训练、微调	对话、搜索、代码、多模态生成、Agent

这一转向对芯片提出了完全不同的要求。训练芯片看重绝对算力和多卡互联效率，而推理芯片更看重能效比、显存带宽和成本性能比。谁能把推理的单位Token成本打下来，谁就能吃下最大的那块蛋糕。

二、五层蛋糕：AI竞争早已不止是芯片

英伟达CEO黄仁勋有个著名的"AI五层蛋糕"比喻：能源→芯片→基础设施→模型→应用。今天的算力竞争，本质是这块"蛋糕"的系统级竞争，而不是某一层的单点突破。

层级	核心要素	国产进展
能源层	电力供应、液冷散热、绿电	液冷渗透率快速提升，金刚石等新散热方案涌现
芯片层	GPU/NPU/ASIC、HBM、先进封装	华为昇腾、海光、寒武纪等已量产，HBM仍在攻关
基础设施层	服务器、互联网络、集群调度	浪潮、华为、新华三整机能力强，CPO/铜缆升级中
模型层	基础大模型、推理框架、算子库	DeepSeek、智谱等加速迭代，CANN等国产栈持续完善
应用层	行业Agent、多模态应用、MaaS	政务、金融、通信落地最快

摩尔定律的边际效应在减弱，单靠制程升级带来的性能提升越来越有限。AI算力的增长，越来越依赖系统级协同：Chiplet先进封装、HBM高带宽存储、NVLink/PCIe高速互联、编译框架优化、液冷散热，缺了哪一环都不行。

算力芯片的演进路径也清晰地印证了这一点：

code

DownloadCopy

CPU通用计算 → GPU并行计算 → GPGPU平台化 → 张量加速 → 高密度集群 → 机架级系统算力

从单芯片跑分，到整柜交付（如英伟达GB200 NVL72），再到万卡集群调度，算力竞争的维度正在快速升维。

三、海外三巨头的三条路：平台化是终局

海外算力芯片的竞争，早已不是"谁的晶体管多"，而是三种截然不同的平台化路线之争。

英伟达：从卖芯片到卖"AI工厂"

英伟达的进化史，就是一部AI算力史：1999年发明GPU，2006年CUDA开启通用计算，2017年V100引入Tensor Core，2020年A100成为大模型训练标配，2022年H100支撑生成式AI爆发，2024年GB200直接把竞争维度拉到机柜级。

产品代际	核心突破	竞争维度
GeForce 256（1999）	首款GPU	图形渲染
Tesla/V100（2017）	CUDA+Tensor Core	GPGPU通用计算
A100（2020）	统一训练/推理	数据中心AI芯片
H100/H200（2022-2023）	Transformer Engine+HBM3e	大模型专用加速
GB200/GB300（2024-2025）	NVL72整柜系统	机架级AI系统
Rubin（下一代）	平台持续迭代	全栈AI数据中心

英伟达最可怕的不是芯片本身，而是"GPU+CUDA+NVLink+InfiniBand+整柜系统"的完整生态闭环。客户买的不再是一张卡，而是一套可以即插即用的AI算力工厂。

谷歌：TPU从自用走向云平台

谷歌走了一条完全不同的路。2016年为内部搜索、翻译业务推出第一代TPU时，它只是个自用的推理ASIC；但经过七代迭代，TPU已经成为支撑Gemini大模型和Google Cloud的完整平台。

2025年发布的第七代Ironwood TPU，定位就是"推理时代的TPU"——专门面向大规模低延迟推理、多模态生成。从单芯片到TPU Pod集群，从内部自用再到对外云服务，谷歌的路线是"自研芯片+自有模型+云服务"三位一体。

AWS：用两条ASIC产品线拆分AI成本

亚马逊AWS的打法最务实：不追求通用最强，而是把训练和推理拆成两条线，用自研ASIC把云上AI成本打下来。

推理线

：2018年推出Inferentia，主攻低延迟推理，2022年Inferentia2增强大模型能力；

训练线

：Trainium系列对标GPU训练，Trainium2面向生成式AI，2025年Trainium3+Trn3 UltraServer升级到3nm工艺，强调大HBM和高带宽。

AWS的核心逻辑是：在云端，客户最终关心的是"每美元能买多少Token"，而不是单芯片峰值算力。ASIC虽然通用性不如GPU，但在特定场景下成本优势巨大。

三条路线的启示：通用GPU仍是大模型训练的底座，但ASIC在推理降本和规模化部署中的价值持续提升，未来一定是CPU、GPU、NPU/ASIC百花齐放、各司其职的异构格局。

四、国产算力：信创开闸，9款芯片正式"入列"

如果说海外是平台化之争，那么国内算力市场最大的变量，就是信创与大模型的历史性共振。

2026年5月是一个里程碑节点。国家发布的《安全可靠测评结果公告（2026年第2号）》中，首次在安全可靠认证框架下设立专门的AI芯片品类，9款国产AI训练推理芯片获评安全可靠等级Ⅰ级：

序号	芯片产品	送测单位	路线特点
1	昇腾310	华为海思	推理芯片，端边云协同
2	昇腾910	华为海思	训练芯片，全栈生态最完整
3	真武M530	平头哥（阿里）	云端推理
4	真武M890	平头哥（阿里）	训练+推理一体
5	壁砺™166	壁仞科技	通用GPU，高性能计算
6	DCU-3G	海光信息	类CUDA生态，兼容性好
7	KCC-V100X	天数智芯	通用GPU训练/推理
8	MXC600	沐曦	全功能GPU，训推一体
9	PH100	摩尔线程	全功能GPU，兼顾图形+智算

这意味着什么？过去信创主要替代CPU、操作系统、数据库等通用IT；现在智能算力正式进入信创采购清单，政务、金融、电信、能源、教科这些大B端市场，国产AI芯片有了"准入证"。

市场有多大？两组数据说明一切

中国智能算力规模预计从2024年到2028年保持39%的CAGR，2028年接近3000 EFLOPS；

中国加速计算服务器市场同期CAGR达34%，2028年接近1500亿美元。

市场	2024年	2028年E	CAGR
中国智能算力规模（EFLOPS）	~500	~2800	39%
中国加速计算服务器（亿美元）	~350	~1400	34%

从2025年出货量看，中国AI加速卡总出货量约400万张，英伟达仍占55.2%，但国产品牌份额已快速提升至40%以上：

厂商	2025年中国AI加速卡出货份额	核心优势
英伟达	55.2%	CUDA生态壁垒
华为昇腾	20.4%	全栈布局最完整，政企/运营商优势大
平头哥	6.4%	阿里云生态支撑
AMD	3.5%	通用GPU方案
寒武纪	3.0%	思元系列深耕推理
昆仑芯、海光、沐曦等	其他	各有细分优势

五、国产算力拼什么？不是单卡跑分，是全栈效率

这里必须强调一个认知误区：国产算力的竞争，已经过了"PPT对标A100/H100"的阶段。真正决定能不能大规模用起来的，是全栈效率——

芯片+HBM+互联+服务器+编译器/算子库+推理引擎+模型适配芯片 + HBM + 互联 + 服务器 + 编译器/算子库 + 推理引擎 + 模型适配芯片+HBM+互联+服务器+编译器/算子库+推理引擎+模型适配

单卡峰值算力高没用，跑DeepSeek、GLM这些主流国产模型稳不稳？长上下文能不能撑住？多用户并发卡不卡？推理成本比英伟达低多少？这些才是客户真正关心的问题。

国产大模型的迭代方向，也在倒推芯片适配的重点：

代表模型	核心特点	对国产算力的要求
智谱GLM	文本/代码/Agent/多模态全覆盖	企业级部署稳定性，多用户并发，多模态任务
MiniMax-M3	长上下文、原生多模态、Agent	大显存、长文本处理、多步骤任务稳定性
DeepSeek-V/R系列	MoE架构、推理强、高性价比	MoE专家并行、KV Cache效率、低成本部署

华为是目前国内产业链布局最完整的玩家——从昇腾NPU芯片、Atlas板卡/服务器/集群，到CANN算子库、MindSpore训练框架、MindIE推理引擎，再到华为云ModelArts平台，实现了软硬件一体化、端边云协同。这也是华为能拿下最大国产份额的核心原因。

六、客户结构有别，运营商+云厂商成为国产算力主力

中国和海外AI基础设施的客户结构差异很大，这恰恰是国产芯片的机会所在。

海外市场以超大规模云服务商（AWS、Azure、GCP、Meta等）为主，他们对英伟达生态依赖深；而中国市场通信服务商（三大运营商）占比远高于全球，此外政务、金融、能源等非服务商客户也是大头——这些客户对安全可控、自主信创的需求极强，是国产算力天然的"良田"。

从落地情况看，政务、通信、教科、金融、能源已经成为大模型中标金额最高的几大领域：

行业	中标项目数量占比	中标金额占比
通信	26.0%	10.9%
教科	25.0%	15.8%
政务	11.0%	34.7%
金融	9.0%	4.0%
能源	11.0%	10.9%
其他	18.0%	23.8%

政务虽然项目数量不算最多，但单体金额大，是信创采购的核心阵地；通信行业项目数量最多，三大运营商算力网络建设正在加速；教科、金融、能源则紧随其后。

七、结语：国产算力从"可用"到"好用"的关键一跃

总结下来，AI算力产业正在经历三重变革：

需求侧

：推理超越训练，从"炼模型"转向"用模型"，高并发、低成本、低延迟成为核心诉求；

技术侧

：单芯片摩尔定律放缓，竞争转向芯片+HBM+互联+软件+集群的系统级效率，异构计算成为长期格局；

供给侧

：信创首次纳入AI芯片品类，国产算力从"备胎"走向"主力"，全栈生态取代单卡跑分成为真正的护城河。

当然也要清醒看到差距：国内在HBM高端存储、先进制程、CUDA级别的开发者生态上仍有短板，高端芯片供给受限的大背景也没有根本改变。但方向已经明确——当大模型应用在中国市场爆发，当信创采购闸门正式打开，当DeepSeek这样高效率的国产模型与国产芯片深度适配，国产算力产业链从芯片、服务器、互联到软件栈，都将迎来确定性最高的一轮增量机遇。

英伟达的平台化壁垒不是一天建成的，但中国市场足够大、应用场景足够丰富、自主可控需求足够强烈，国产算力生态没有理由长不出来。