Google Cloud 于周三宣布推出第八代定制 AI 芯片——张量处理单元（TPU），该系列分为两类：专为模型训练设计的 TPU 8t，以及面向推理任务的 TPU 8i。其中，推理指模型在用户提交提示词后的持续使用过程。
据官方宣称，新一代 TPU 性能显著提升：AI 模型训练速度最高提升 3 倍，每美元性能提高 80%，且支持单集群协同超 100 万个 TPU。相比前代，新芯片能以更低能耗和成本提供更强算力。其命名为“TPU”而非 GPU，源于其作为低功耗定制芯片最初被定义为 Tensor。
不过，Google 的芯片目前并非对 Nvidia 的全面替代。与 Microsoft、Amazon 等云厂商类似，Google 正利用自研芯片补充基础设施中的 Nvidia 系统，而非完全取代。事实上，Google 已承诺今年晚些时候将在云服务中提供 Nvidia 最新 Vera Rubin 芯片。
长远来看，随着企业将 AI 需求迁移至云端并适配自研芯片，构建自有 AI 芯片的超大规模厂商（如 Amazon、Microsoft、Google）或逐步降低对 Nvidia 的依赖。
但就当下而言，押注 Nvidia 仍是稳妥选择。知名芯片分析师 Patrick Moorhead 曾在 X 上调侃，他早在 2016 年 Google 推出首款 TPU 时便预测其将对 Nvidia（及 Intel）构成威胁；然而如今 Nvidia 市值已近 5 万亿美元，足见该预测未经受住时间考验。
若按 Nvidia 规划推进，即便大量工作负载运行于 Google 自研芯片之上，Google 作为 AI 云提供商的增长反而将为 Nvidia 带来更多业务。
此外，Google 已与 Nvidia 达成合作，共同开发计算机网络技术以提升基于 Nvidia 系统的云运行效率。双方正重点强化名为 Falcon 的软件定义网络技术——该技术由 Google 于 2023 年创建并开源，现已纳入被誉为开源数据中心硬件鼻祖的 Open Compute Project。