大数跨境

英伟达消息:算力芯片迎来机遇

英伟达消息:算力芯片迎来机遇 北交所研讯
2024-06-06
1
导读:数据中心GPUComputex2024英伟达未来三年迭代路线确认。

数据中心GPU
Computex2024英伟达未来三年迭代路线确认。
1、Roadmap更新:英伟达Blackwell芯片现已开始投产,25年将会推出BlackwellUltraGPU芯片(用8个12层的HBM3e)。下一代AI平台名为“Rubin”,RubinGPU和RubinUltraGPU分别计划于26/27年发布,将集成8/12颗HBM4内存。
2、推理能耗优势:在Pascal时代(16年),生成每个Token能耗高达17,000焦耳,约相当于两个灯泡运行两天的能量,而生成一个单词大约需要3个Token,对应巨大的能量消耗。Blackwell生成每个Token只需消耗0.4焦耳的能量,相比Pascal降低了约350倍。Groq今年2月推出的Mixtral大模型推理时每秒生成500tokens,若采用Blackwell进行推理,每秒仅需耗费200焦耳。Blackwell大幅提升推理优势,有望加速AI推理应用进一步落地。
数据中心网络架构

英伟达持续推动以太网网络解决方案进展,关注以太网配套产业链机遇。继在25Q1业绩会中指引Spectrum-X将在一年内跃升为数十亿美元产品线之后,本周Computex大会黄仁勋进一步为Spectrum-X系列交换机提出了一年更新一代的路线图。英伟达将在25年及之后分别推出SpectrumX800Ultra、X1600,分别可支持数十万、数百万GPU算力集群的互联。

由于InfiniBand网络在早期就集成了RDMA(远程直接内存访问)技术,允许网卡之间直接进行数据读写,网络内部互联效率更高,因此在高性能计算领域,InfiniBand网络占据了主导优势。为追赶InfiniBand的性能,以太网也在2010年推出了远程直接内存访问技术的网络协议RoCE,并在2014年发布了RoCEV2协议技术标准,在网络层优化、带宽和吞吐量、拥塞控制、跨网段路由能力等方面都有显著的提升。

2023年7月,在Linux基金会的牵头下,AMD、Intel、CISCO、Broadcom、HPE、微软、META等公司联合成立了超以太网联盟,其成立目的即开发超以太网传输协议以解决传统以太网性能不足的问题,进而达到替代InfiniBand网络的目的。相比InfiniBand,以太网具备更广泛的兼容性,且采用通用网络设备,具备组网成本更低的优势。随着以太网技术进一步升级,未来十万卡、百万卡等大规模算力集群的持续发展将为以太网配套产业链带来投资机遇。

【建议关注】
服务器:沪电股份、工业富联等;
网络架构:新易盛、中际旭创、天孚通信、盛科通信;
HBM产业链:通富微电、赛腾股份等;
国产算力链:寒武纪、海光信息等。

【声明】内容源于网络
0
0
北交所研讯
解析沪深京A股上市公司讯息,发布研报资料。
内容 1510
粉丝 0
北交所研讯 解析沪深京A股上市公司讯息,发布研报资料。
总阅读403
粉丝0
内容1.5k