
Google发布第七代AI芯片Ironwood,专为推理优化
Google昨日正式发布第七代人工智能芯片Ironwood。作为公司首款专为推理优化的张量处理单元(TPU),该芯片旨在显著提升人工智能应用性能。
最强能效比:为大规模推理而生
Google Cloud副总裁Amin Vahdat指出,Ironwood是公司迄今最强大、功能最强且最节能的TPU,专为赋能大规模推理型AI模型设计。其架构通过最大限度减少芯片内数据移动与延迟,实现了卓越的能效表现。
核心参数:算力与带宽大幅跃升
据Google内部测试,Ironwood峰值算力达4,614 TFLOP。单芯片配备192 GB专用RAM及近7.4 Tbps带宽,内存容量较上一代Trillium TPU提升六倍以上,内存带宽增长4.5倍。此外,芯片集成SparseCore专用核心,可高效处理高级排序与推荐工作负载中的特定数据类型。
部署规划:支持万级芯片液冷集群
Ironwood计划于今年晚些时候面向Google Cloud客户推出,提供256芯片与9,216芯片两种集群配置。后者由最多9,216个液冷芯片组成,通过新型片间连接(ICI)技术实现直接通信。未来,Ironwood还将与Google Cloud模块化计算集群AI Hypercomputer深度集成。
行业趋势:科技巨头加速自研AI芯片
当前,各大科技巨头正竞相开发自有AI加速器。Amazon已推出Trainium、Inferentia及Graviton处理器并通过AWS提供服务;Microsoft凭借Maia 100 AI芯片崭露头角;OpenAI与Meta近期亦纷纷布局自研芯片赛道。

