Google Cloud推出第五代TPU:训练性能翻倍,支持跨集群扩展
在年度用户大会Cloud Next上,Google Cloud宣布推出第五代AI训练与推理专用张量处理单元(TPU)。相比2021年发布、2022年开放的第四代产品,新一代芯片以效率为核心,承诺每美元训练性能提升2倍,推理性能提升2.5倍。
Google Cloud计算和机器学习基础设施副总裁兼总经理Mark Lohmeyer表示:“这是迄今为止最具成本效益且易于获取的云TPU。”他强调,新TPU支持将AI模型扩展至单个Pod或集群的物理边界之外,使大型工作负载可跨越多个物理集群、扩展至数万颗芯片,同时保持高成本效益,为客户提供更灵活的选择以满足新兴AI需求。
此外,Google宣布将于下月在A3系列虚拟机中向开发者普遍提供Nvidia H100 GPU。


