尽管英伟达（Nvidia）H100 GPU单价超3万美元且长期处于缺货预订状态，Google Cloud仍于Cloud Next大会宣布：搭载H100的A3 GPU虚拟机将于下月正式推出。该方案此前已开启私有预览，将英伟达芯片与Google自研200 Gbps基础设施处理单元（IPU）深度结合。
鉴于谷歌云聚焦生成式AI及大语言模型的训练与部署，市场正密切关注其能否有效满足对H100芯片的庞大需求。
去年发布A3时，谷歌云宣称其AI算力高达26 exaflops；得益于定制IPU加持，网络带宽较上一代A2机器提升多达10倍。
谷歌云计算机与机器学习基础设施副总裁兼总经理Mark Lohmeyer在发布会前表示：“A3专为训练、微调及服务高难度、可扩展的生成式AI与大模型工作负载而生。它融合了多项谷歌独家创新技术，包括支持基础设施处理与卸载的网络架构，从而保障此类工作负载所需的极致规模与性能。”
