亚马逊宣布推出“TorchNeuron”软件工具,旨在提升AWS Trainium芯片在AI应用开发与运行中的可访问性。该工具专为电商及零售等企业设计,支持基于PyTorch的AI模型直接在Trainium处理器上运行,无需重写现有代码。
Amazon为PyTorch开发者提供TorchNeuron支持的Trainium服务
TorchNeuron由AWS推出,可直接对接开源AI平台PyTorch(约85%的AI研究人员与开发者使用)。开发者仅需调整一项配置即可将现有应用迁移至Trainium处理器。对比测试显示,其在不同处理器上的模型训练效果与速度保持一致。该工具将以Apache 2.0许可证开源,并于2026年10月20日PyTorch北美大会向开发者开放。
正在开发Nvidia软件生态系统的替代方案
TorchNeuron是构建CUDA替代方案的关键一环,旨在降低PyTorch对特定硬件的依赖。AWS Annapurna Labs技术软件副总裁Colin Brace表示,AWS基础设施可为初创企业提供从原型到商业部署的一体化服务;同时,利用Trainium统一进行AI模型训练与推理,具备显著成本优势。
面向电子商务和零售公司的人工智能基础设施
TorchNeuron兼容的云基础设施适用于AI客服、产品推荐、需求预测及自动化内容生成等场景。通过同一处理器执行训练与推理,可实现跨工作负载的资源共享。案例显示,语音技术商Deepgram转向Trainium后,每美元处理的音频量提升了70%。
Amazon Expands Open-Source Integrations
TorchNeuron支持Trainium2和Trainium3处理器,集成Hugging Face开发工具,并可用于大型AI模型分布式训练平台TorchTitan。此外,亚马逊还通过共享开源组件助力vLLM项目以加速AI模型执行。据悉,每个新版本TorchNeuron均会在数十万个AI模型上进行测试,致力于拓宽开发者对不同硬件选项的访问权限。

