正如我们在过去几个月里看到大型语言模型和生成式AI以惊人的速度进入视野，这些模型在训练和运行时需要消耗巨大的计算资源。认识到这一点，Google Cloud 今天在 Google I/O 大会上宣布推出一种新的 A3 超级计算机虚拟机。
A3 专为应对资源密集型用例的巨大需求而设计
该公司在公告中写道：“A3 GPU VM 专为提供当今机器学习工作负载的最高性能训练而打造，配备现代 CPU、改进的主机内存、下一代 Nvidia GPU 以及重大网络升级。”
具体而言，这些机器配备了 Nvidia H100 GPU，并结合专用数据中心，以极高的吞吐量和极低的延迟获得巨大算力，同时价格比通常购买此类配置更为合理。
核心规格与性能优势
如果你关注规格参数，这款虚拟机由以下组件驱动：
- 8个 Nvidia H100 GPU
- 第4代 Intel Xeon 可扩展处理器
- 2TB 主机内存
- 通过 NVSwitch 和 NVLink 4.0 实现的 8 个 GPU 间 3.6 TB 互连带宽（旨在最大化多 GPU 吞吐量）
这些机器可提供高达 26 exaFlops 的计算能力，有助于缩短训练更大规模机器学习模型所需的时间和成本。此外，工作负载运行在 Google 专用的 Jupiter 数据中心网络架构中，包含“26,000 个高度互联的 GPU”，使“全带宽可重构光链路能够按需调整拓扑结构”。该方法也有助于降低运行成本。
其目的是为客户提供强大算力，以更经济高效的方式训练复杂工作负载，无论是复杂的机器学习模型还是运行生成式 AI 应用的大语言模型（LLM）。
部署方式与获取渠道
Google 将以多种方式提供 A3：
- 自助方式：在 Google Kubernetes Engine (GKE) 和 Google Compute Engine (GCE) 上运行 A3 虚拟机；
- 托管服务：在公司的托管机器学习平台 Vertex AI 上运行 A3 虚拟机，由 Google 处理大部分繁重工作。
虽然新的 A3 虚拟机是在今天的 Google I/O 大会上宣布的，但目前仅可通过注册预览等待名单来获取。
