周二,谷歌宣布其备受期待的PyTorch版本TorchTPU现已作为开源项目发布。借此机会,谷歌加入亚马逊的行列,试图打破英伟达在人工智能行业的垄断地位,因为大多数人工智能应用默认都是为运行在英伟达芯片或GPU上而编写的。
PyTorch 是广受欢迎的开源工具包,AI 应用开发者和初创公司使用它来构建、训练和运行 AI 模型。据一些统计,85% 的 AI 应用都在使用 PyTorch。PyTorch 最初由 Meta(当时的 Facebook)于 2016 年开发,当时世界尚未意识到大语言模型(LLMs)将改变世界。那时,Nvidia 的 GPU 已经是 AI 研究的标准硬件,因此 PyTorch 的许多功能都是专门为与这些硬件配合工作而设计的。2022 年,Meta 将 PyTorch 移交给了 Linux Foundation,这是一个管理众多重要开源项目的非营利组织。
Google 的版本 TorchTPU 允许 AI 应用在 Google 的 AI 芯片——张量处理单元(TPUs)上运行。它还使得将现有的 PyTorch 应用迁移到 TPUs 以及 Google Cloud 变得容易。开发者只需进行简单的配置更改,无需重写应用程序即可完成这一操作。
亚马逊周一做出了类似的宣布,当时它发布了自家版本的PyTorch,名为TorchNeuron。TorchNeuron允许将人工智能应用移植到亚马逊自研的人工智能芯片Trainium以及AWS上,且无需重写代码。亚马逊还表示,它在努力削弱英伟达对PyTorch的控制方面将采取更进一步的措施,正在向PyTorch主项目提交代码,以将各种功能与英伟达芯片解耦,从而默认使其对任何硬件更加开放。
然而,Google 可能在某些方面超越了 Amazon。Google 表示,它与 Meta、Hugging Face、Inferact(vLLM 的制造商)、RadixArk(SGLang 的制造商)以及其他公司直接合作,以确保 TorchTPU 的功能和代码库能够像原始 PyTorch 一样,与这些流行的 AI 开发工具良好兼容。
此外,这家搜索巨头还推出了一款专用工具——TPU代理套件,以帮助开发者将其应用迁移至谷歌的芯片和云平台,并在过程中修复错误。它还更新了其流行的LiteRT工具(该工具可在手机、笔记本电脑和嵌入式设备上运行人工智能),以更好地支持PyTorch人工智能应用。
这并不意味着 AI 应用开发者会仅仅因为现在可以轻松迁移到其他芯片和云平台就大规模抛弃 Nvidia 的硬件。但 Amazon 和 Google 显然正在努力终结 Nvidia 的优势。

