大数跨境

英伟达下一代Blackwell平台将于2025年初登陆谷歌云

英伟达下一代Blackwell平台将于2025年初登陆谷歌云 海外洞察
2024-04-09
4
导读:除了全新的定制版基于 Arm 架构的 Axion 芯片外,今年发布的大多数内容都围绕 AI 加速器展开,无论是谷歌还是英伟达的产品。

本周拉斯维加斯 Google Cloud Next 大会期间,Google Cloud Platform 发布了一批新实例类型与加速器。除全新基于 Arm 架构的 Axion 芯片外,今年重点聚焦 AI 加速器(含谷歌自研及英伟达产品)。

尽管英伟达数周前已发布 Blackwell 平台,但谷歌相关机器上线尚需时日。支持 AI 与高性能计算(HPC)的高性能 Nvidia HGX B200,以及用于大语言模型(LLM)训练的 GB200 NBL72 预计于 2025 年初推出。值得注意的是,GB200 服务器将采用液冷散热方案。

鉴于英伟达 Blackwell 芯片计划于今年第三季度才公开上市,此次发布属于提前布局。

图片来源:Frederic Lardinois/TechCrunch

在Blackwell之前

针对当前 LLM 训练算力需求,Google 宣布推出 A3 Mega 实例。该实例由谷歌与英伟达联合开发,搭载行业标准 H100 GPU 及新型网络系统,单块 GPU 带宽提升高达两倍。

另一款新品 A3 confidential 旨在“强化训练与推理期间敏感数据及 AI 工作负载的机密性与完整性”。依托谷歌长期提供的机密计算服务,启用后可通过受保护 PCIe 对英特尔 CPU 与 Nvidia H100 GPU 间的数据传输进行加密,且无需修改代码。

自研芯片方面,Cloud TPU v5p 处理器已于周二实现通用可用性。作为迄今最强自研 AI 加速器,其浮点运算速度提升 2 倍,内存带宽提升 3 倍。

图片来源:Frederic Lardinois/TechCrunch

为匹配高速芯片性能,Google 同步推出 AI 优化存储选项。处于预览阶段的下一代块存储服务 Hyperdisk ML,据称可将模型加载时间缩短多达 3.7 倍。

在传统实例方面,Google Cloud 推出了搭载英特尔第四代和第五代 Xeon 处理器的新品。其中,通用型 C4(侧重性能)与 N4(侧重性价比)实例均搭载第五代 Emerald Rapids Xeon 处理器;C4 目前处于私有预览阶段,N4 已全面开放使用。

此外,还发布了搭载第四代 Intel Xeon 处理器的 C3 裸金属机器、处于预览阶段的 X4 内存优化型裸金属实例,以及 Z3 存储优化型虚拟机。Z3 承诺提供“主流云厂商中存储优化型实例最高的 IOPS”。

英伟达在GTC大会上的主题演讲带来了一些惊喜

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14239
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读46.0k
粉丝0
内容14.2k