大数跨境

【大学习|技术前沿】智算超节点Scale-Up互联技术演进:从“堆显卡”到“算力协同”

【大学习|技术前沿】智算超节点Scale-Up互联技术演进:从“堆显卡”到“算力协同” 采购供应链管理与实操
2026-10-16
2
导读:这篇文章,我们就来聊聊:什么是超节点?显卡之间如何“对话”?未来的算力互联将走向何方?


当ChatGPT、Sora等大模型一次次刷新我们对AI的认知时,支撑这些“智能大脑”的底层算力设施也在经历一场静默的革命。

过去,提升AI算力的思路很简单——堆更多的GPU显卡。但今天,万亿参数级别的模型让这种“堆料”模式走到了尽头:显卡之间通信太慢、协作效率太低,大量算力被白白浪费。于是,“超节点”应运而生,而决定超节点成败的关键,正是Scale-Up高速互联技术。

这篇文章,我们就来聊聊:什么是超节点?显卡之间如何“对话”?未来的算力互联将走向何方?




 一、什么是超节点?AI算力的“最小作战单元”


想象一个场景:你要完成一项需要100个人协作的复杂工程。如果这100人分散在10个办公室,彼此靠微信沟通,效率一定很低;但如果把他们安排在一个大平层,面对面交流,效率就会大幅提升。

AI训练也是如此。传统智算中心把大量GPU分散在不同服务器里,通过网络“远程协作”,通信开销巨大,整体效率往往不足50%。

超节点的思路,就是把尽可能多的GPU“塞”进一个紧密协作的单元里:基础智算单元由8张及以上GPU组成一个小团队;超节点则由32张甚至上百张GPU组成一个“超级连队”,内部通过高速通道直接互联。在这个“连队”内部,GPU之间可以毫秒级甚至微秒级同步数据,大幅减少通信损耗。超节点因此被视为大模型训练的“最小作战单元”,也是未来智算中心的标准化模块。



 二、显卡如何“对话”?三条互联技术路线


GPU之间要协同工作,必须有一条“高速公路”来传输数据。目前业界主要有三条技术路线,各有优劣:

01
封闭专用互联——性能之王,生态孤岛


以英伟达NVLink为代表,这是专为GPU并行计算定制的“私人高速公路”。优点是带宽极高、时延极低,软硬件深度优化,能把GPU协作效率拉满。在GPT-4级别的大模型训练中,这种方案目前仍是性能天花板。缺点是生态完全封闭,只能用在英伟达的硬件体系内。就像苹果的Lightning接口,性能好但不通用,代价是你被锁在这个生态里了,想换门很难。

02
PCIe总线——老将出马,力不从心


PCIe是服务器里最常见的通用总线,就像城市里的主干道,什么车都能走,生态极其成熟。问题在于:PCIe 6.0的带宽上限,已经追不上大模型的数据胃口了。打个比方,它像一条双向四车道,平时够用,但遇到AI训练这种“百吨王”车队同时通过,立刻堵得水泄不通。而且PCIe的总线共享机制,多卡并发时容易“抢道”,时延波动大。所以,PCIe更适合存量设备改造或轻量级AI场景,面对未来的万亿参数模型,它已触及天花板。

03
高速开放以太网——开放生态的逆袭


以太网是大家最熟悉的网络技术,从家里的WiFi到数据中心,无处不在。过去它被认为“不够快”,不适合AI训练这种高端场景。但近年来,以太网完成了一次关键进化:物理层提速,单通道速率从100Gbps跃升到112Gbps,224Gbps也在路上,多通道聚合可实现TB/s级带宽;协议优化,RDMA、RoCEv2等技术让以太网也能实现“直达内存”的高速通信,时延大幅降低;拥塞控制革新,CBFC(基于信用的流控)替代传统PFC,显著降低了过去容易“死锁”、丢包的问题。

如今,800G以太网已规模化商用,在AI集群中的部署占比持续攀升。它的核心优势是:开放、兼容、迭代快、成本低,支持不同品牌的GPU混用,打破了封闭生态的垄断。业内普遍认为,面向未来的大规模超节点建设,高速开放以太网将成为主流选择。



 三、协议生态大乱斗:谁能成为统一标准?


互联技术要落地,离不开协议标准。当前,全球算力互联协议正经历一场“战国时代”。

01
国际阵营:UALink vs ESUN


UALink由AMD、博通等推动,目标是打造全开放的协议栈,性能对标NVLink,适合对算力性能敏感的高端训练场景。ESUN(OCP框架)则基于成熟以太网做增强优化,依托现有商用芯片即可快速部署,是“务实派”路线,兼顾性能与落地速度。两者共同的目标很明确:打破英伟达NVLink一家独大的局面,给市场一个开放的选择。

02
国内布局:从各自为战到CLink统一


国内此前也涌现出多种方案:中移OISA、中兴OLink、华为灵衢(UB)、腾讯ETH-X、字节/北大Ethlink、阿里/中科院ETH+等。百花齐放虽好,但也带来生态碎片化的问题——不同方案互不兼容,产业成本居高不下。为此,工信部正牵头推动CLink统一标准。CLink兼容以太网生态,同时针对AI场景做了专门优化(如支持IP+GPUID双寻址、全域流量工程、在网计算等),有望成为国内智算互联的“通用语言”。对行业而言,统一标准意味着:设备兼容性更好、技术迭代更快、产业成本更低。



 四、物理连接革命:正交架构与光互联


协议解决了“怎么说话”的问题,物理连接则决定了“说话的质量”。当前,超节点的物理架构也在经历两场重要革新。

01
正交互联:让机柜里“无线可循”


传统超节点内部,GPU板和交换板之间靠大量高速线缆连接。一个机柜里可能有成千上万根线缆,像一团乱麻。这不仅占用空间,还带来严重隐患:线缆松动、老化、接口氧化,都会导致信号衰减甚至系统宕机,排查故障往往需要数小时。

正交互联架构的思路很巧妙:取消所有机柜内高速线缆,让计算板和交换板直接“面对面”垂直插接,通过正交连接器完成信号传输。这种设计带来了几个显著好处:信号更干净,大幅缩短信号路径,误码率更低;空间更省,没有线缆占地方,机柜里能塞下更多算力芯片;可靠性更高,从根本上消除了线缆故障,系统稳定性大幅提升;运维更简单,故障修复从“小时级”缩短到“分钟级”。可以说,正交互联是下一代高密度智算中心的优选物理架构。

02
光互联:突破电信号的物理极限


当单通道速率向224Gbps乃至更高迈进时,传统电互联遇到了物理瓶颈:信号在铜线里跑得太快,功耗和发热急剧上升,就像让一辆跑车在乡间小路上全速行驶,既费油又危险。

光互联,就是用光纤替代铜线来传输信号。目前主要有两种形态:NPO(近封装光连接),光引擎靠近交换芯片放置,技术成熟度高,兼容性好,预计2026年就有产品面世;CPO(共封装光连接),光引擎与交换芯片“合封”在一起,距离最近、功耗最低、性能最好,但可靠性仍在验证中,预计2027-2028年逐步商用。光互联的成熟,将从根本上解决超节点内部的“内存墙”和“功耗墙”问题,支撑算力密度继续攀升。



 五、Scale-Up与Scale-Out:内网与外网如何协同?


在智算中心里,其实存在两张“网”。Scale-Up网络是超节点内部的“局域网”,负责机柜内几十张GPU的高速互联,追求极致带宽和低时延;Scale-Out网络是超节点之间的“广域网”,负责把多个机柜联成万卡甚至十万卡的大集群,追求扩展弹性和成本可控。

传统方案里,这两张网各自独立,需要分别买交换机、光模块和光纤,设备层数多、架构复杂。而最新的“融合组网”思路,是用统一的高性能交换设备同时承载两类流量,省去一层Leaf交换机和大量光模块,整体架构更简洁、成本更优。打个比方:以前每个小区(超节点)内部有自己的道路系统,小区之间还有另一套市政道路,两套系统不互通;融合组网则像建了一座立交桥,内部路和外部路共用一套交通枢纽,车辆(数据)可以灵活分流,整体效率更高。未来,随着模型参数继续膨胀,机柜内部的HBD域(高带宽域)可能需要突破单机柜限制,通过机柜间无收敛带宽互联来扩展。融合组网的优势将愈发明显。



 六、未来三年:技术演进路线图


结合当前技术成熟度,超节点互联的未来三年大致可以这样勾勒:

表:超节点互联技术未来三年演进路线图



结  语



从“堆显卡”到“算力协同”,AI基础设施正在经历一场深刻的范式转变。超节点作为这一转变的核心载体,其互联技术的选择将直接影响未来大模型的训练效率和成本。

封闭与开放之争、电与光之辩、节点内与节点间的融合,构成了这场技术变革的三条主线。可以预见,未来三年将是定义下一代AI算力基础设施格局的关键窗口期。开放、标准、融合,或许是最值得关注的三个关键词。毕竟,在AI这场马拉松里,算力互联的“高速公路”修得怎么样,决定了智能时代能跑多快、跑多远。









END






来源:李特整理;免责声明:引用会标注来源,内容仅代表作者个人观点,版权归原作者或出版社所有,不对所涉及的版权问题负法律责任,如有侵权,请联系删除。

全文由TeleAgent排版整理。

【声明】内容源于网络
0
0
采购供应链管理与实操
致力于提高采购人员的职业道德水平和技能水平,欢迎转载。 联系邮箱18901360614@189.cn
内容 326
粉丝 0
采购供应链管理与实操 致力于提高采购人员的职业道德水平和技能水平,欢迎转载。 联系邮箱18901360614@189.cn
总阅读1.1k
粉丝0
内容326