周一，亚马逊云科技发布了一款名为 TorchNeuron 的工具，它让AI初创公司能够轻松地将他们的AI应用迁移到亚马逊的AI芯片Trainium上。通过此举，亚马逊也在直接挑战那些帮助Nvidia成为AI应用默认硬件选择并推动其崛起为AI硬件首选供应商的软件优势。
TorchNeuron与PyTorch配合使用，这是一个免费的开源工具包，开发者用它来构建、训练和运行AI模型。据亚马逊称，只需更改一行配置，即可让用PyTorch编写的AI应用在Trainium上运行——无需重写代码。
亚马逊表示，约85%的AI应用是用PyTorch编写的。Facebook最初开发了它，但从2022年起，它已成为Linux基金会的一部分，该基金会负责维护开源项目。多年来，Nvidia一直致力于确保其CUDA软件（允许应用在Nvidia GPU及其他硬件上运行的软件基础设施）无缝支持用PyTorch编写的AI应用。因此，Nvidia的硬件现已深深嵌入该工具包中，几乎成为默认选择。
由于TorchNeuron是基于PyTorch适配而来的，所以熟悉PyTorch的开发者已经知道如何使用它。亚马逊并非首家尝试轻松将其芯片接入该平台的公司。PyTorch用户也可以通过简单的配置更改，将他们的应用移植到AMD GPU甚至Apple的芯片上。
然而，亚马逊认为，移植到Trainium不仅简单，还能让AI初创公司访问亚马逊的整个云平台。毫不意外的是，AWS声称这是比使用新云服务商更好的选择，其中许多新云服务商与Nvidia及其硬件绑定，例如CoreWeave、Nebius和Firmus。
"你是在AWS上构建，而不是押注于单一用途的计算提供商，然后匆忙围绕它构建其他一切，" AWS Annapurna Labs（制造亚马逊定制芯片的部门）技术软件副总裁Colin Brace通过电子邮件对TechCrunch表示。"在AWS上，"他继续说道，"从原型到生产的基础设施已经存在，使创始人能够快速移动并在需要时扩展。"
AWS表示，由于同一芯片既处理训练（教AI模型）又处理推理（将完成的模型投入使用，例如回答用户的问题），并且与初创公司所需的云基础设施紧密集成，因此即使AWS不提供最低的每token价格，其云服务也能帮助他们节省资金。
“Trainium 的价值在于其性价比，以及它作为支持训练和推理的统一平台，从而改善了整个工作负载的经济性。”Brace 表示，“以 Deepgram 为例——他们利用原生 PyTorch 支持 迁移到了 Trainium，在达到生产级准确率的同时，每美元处理的音频量增加了 70%。” Deepgram 是一家 AI 语音应用提供商，是 ElevenLabs 的竞争对手。
但亚马逊并不满足于仅仅给PyTorch应用开发者一个轻松迁移到其云平台的选项。
亚马逊还表示，它正在推动 PyTorch 减少自动以 Nvidia 为中心，并将为此贡献的代码提交给 PyTorch 主项目。在宣布新工具的博文中，该公司写道：
亚马逊的方法超出了其自身硬件的范围。该公司正在向PyTorch本身贡献上游更改，与PyTorch社区合作，移除将框架与特定芯片绑定的代码。目标是使PyTorch对整个开发者社区（而不仅仅是Trainium用户）更加硬件无关化。
虽然这种策略无疑对销售与英伟达竞争的硬件和云服务的企业有利，但PyTorch的一个核心目标正是掩盖让AI代码在硬件上运行时所面临的各种棘手难题。我们将拭目以待，看英伟达被进一步边缘化后，是否会像亚马逊承诺的那样，为开发者提供更多选择和更实惠的选项，还是仅仅带来更多的配置麻烦。
无论如何，如果亚马逊成功地将PyTorch与英伟达深度解耦，这将对这家GPU巨头产生比单纯应对芯片竞争对手更为深远的影响。正如Brace所言：“真正的故事在于消除那种让开发者根本无法做出真正选择的锁定效应。”