大数跨境
首页
>
原生液冷不是液冷技术的“Pro Max”，Token工厂需要一次系统重构
>

原生液冷不是液冷技术的“Pro Max”，Token工厂需要一次系统重构

原生液冷不是液冷技术的“Pro Max”，Token工厂需要一次系统重构 智东西
2026-08-03
14
导读：Token可以“热”，但Token工厂必须靠原生液冷“冷”下来。

Token 可以“热”，但 Token 工厂必须靠原生液冷“冷”下来。
作者 |  王涵
编辑 |  漠影
从年初 OpenClaw 爆火出圈开始，Agent 的爆发势不可挡。AI 任务正从单一模型的阶段性训练推理，演进为大模型训练、多模型协同及海量 Agent 持续运行的“永远在线”新阶段。
在 2026 世界人工智能大会（WAIC 2026）上，中国工程院院士郑纬民指出，单智能体 Token 消耗量可达传统对话应用的百倍至千倍。随着海量 Agent 并发调用，Token 消耗速度呈指数级飙升，直接推高了 AI 基础设施规模天花板，万卡乃至十万卡集群成为标配。
面对有限的电力与空间，满足无限 Token 需求的核心在于极致提升单位空间内的算力密度。然而，单机柜功耗从数十千瓦跃升至 MW 级时，传统冷板液冷方案在散热、空间及互连三方面遭遇瓶颈。Token 工厂若要继续扩产，必须从系统底层寻求计算、散热、互连、供电耦合的新解法——原生液冷。

01. Token 需求井喷：传统液冷的三重困境

Token 需求爆发将单机柜功率推向极限，传统液冷在三个关键维度亮起红灯。

困境一：算力密度受限于全系统热管理

高密度部署意味着芯片、HBM、内存等全系统部件集成度更高，发热量剧增。传统冷板液冷“逐个加板”的方式难以追上全系统发热增速。一旦散热滞后触发芯片温度墙导致降频，Token 产出即从峰值衰减。

困境二：散热结构挤占计算空间

当前占据市场 93.5% 份额的冷板液冷，多采用风扇、冷板、软管层层叠加的逻辑。这种堆叠不断挤占计算单元空间，限制了单柜 GPU 装载上限。当机柜功率迈向 MW 级，空间矛盾被放大，单柜 Token 产能上限被锁死。

困境三：散热与互连冲突在 MW 级被放大

Scale-up 计算域扩大需要高带宽、低时延的统一系统。但在传统架构中，背板、线缆、风道等分别规划，拉长了互连路径并增加了接口数量，导致通信时延上升。在多卡并行推理中，微小延时会成倍放大，系统性压低整体效率。
三重困境表明，Token 工厂的问题已超出单纯“散热”范畴，而是计算、互连、供电、散热在有限空间内互相掣肘的系统性困局，必须从设计源头进行统一规划。

02. 原生液冷：从系统源头回应三重困境

原生液冷并非冷板液冷的简单升级，其本质区别在于三个维度的重构：时间上，热设计从后置变为前置；空间上，散热从分散覆盖走向全域管理；逻辑上，优化对象从单一部件上升为整个计算系统。

算力密度：全系统协同散热

原生液冷采用散热与计算架构协同的全系统热设计，通过一体化冷板与全域液冷重构，将 GPU、CPU、内存、网卡、光模块、SSD 全部纳入统一热管理。整机柜算力密度可提升至传统方案的 10 倍以上，确保芯片在高负载下不掉频，Token 产出稳定在峰值。

空间密度：极简工程设计释放空间

通过系统结构重构，原生液冷实现零软管、零线缆、零风扇，装配接口减少 80%，流阻降低 60%，释放 50% 设备空间用于核心计算单元。同样的机柜空间可承载更多计算单元，彻底打开单柜 Token 产能上限。

互连密度：无中背板正交直连

原生液冷采用无中背板正交直连架构，解耦计算节点与交换节点，构建高密、低时延的直连网络矩阵。基于单 GPU 与 Switch 4.8TB/s 高速直连设计，64 卡全互连架构可提供 300TB/s 互连带宽，支持 224G 高速数据传输，系统性拉高集群整体 Token 吞吐能力。

03. Agent 时代的双底座：浪潮信息的原生液冷实践

Agent 的工作流需“两条腿走路”：GPU 负责高速生成 Token，CPU 负责高效调度 Agent。针对这两类需求，浪潮信息基于原生液冷架构推出了对应的高密整机柜产品。

GPU 侧：千卡算力高密部署

浪潮信息 GPU 原生液冷整机柜服务器，在 48U 空间内承载千卡算力，密度达传统方案 10 倍以上。其创新采用一体式 SDAC 冷板，实现热源双面高密平面化部署，散热效率翻倍；互连方面首创无中背板 MDP 矩阵式直连架构，支持千卡、万卡超大规模无损扩展。
该方案单柜功率覆盖 330kW 至 1MW，大模型吞吐达到 146 万 tokens/s，确保持续满速输出不降频。

CPU 侧：高并发 Agent 调度

浪潮信息同步推出 CPU 原生液冷整机柜服务器，基于液冷 OCM 架构，单柜集成 384 颗 CPU，支持 4 万以上 Agent 高并发运行，确保调度响应始终处于低延迟状态。
两类算力底座在统一的原生液冷架构下协同工作，消除了全链路的散热瓶颈与掉速隐患，让 Token 从生成到执行始终保持高效。

04. 结语：系统架构能力决定 Token 产能天花板

当前 AI 基础设施硬件层面差距正在收窄，核心器件性能日益透明。当电力和空间成为硬约束，真正的分水岭在于谁能将相同组件组织成更高效率的算力 Token 产线。
同样的千卡规模算力，放入不同的系统架构中，最终 Token 产出可能相差 30% 以上。差距源于芯片间的通信效率、热量导出能力、供电分配及空间利用等系统设计选择。系统架构能力是对算力转化上限的物理层定义，考验的是在计算、散热、互连、供电之间权衡与协同的设计功底。
原生液冷，正是这种系统级创新的物理层体现。
【声明】内容源于网络
0
0
智东西
各类跨境出海行业相关资讯
内容 11763
粉丝 0
智东西 各类跨境出海行业相关资讯
总阅读202.2k
粉丝0
内容11.8k