大数跨境

亚马逊推出基于PyTorch的AI工具TorchNeuron,作为英伟达的替代方案

亚马逊推出基于PyTorch的AI工具TorchNeuron,作为英伟达的替代方案 跨境联盟
2026-10-20
3
导读:亚马逊推出了TorchNeuron,这是一款开源AI开发工具,使PyTorch模型能够在AWS Trainium芯片上运行,而无需重写现有代码。该技术旨在为英伟达的软件生态系统提供替代方案……

亚马逊宣布推出“TorchNeuron”软件工具,旨在提升AWS Trainium芯片在AI应用开发与运行中的可访问性。该工具专为电商及零售等企业设计,支持基于PyTorch的AI模型直接在Trainium处理器上运行,无需重写现有代码。

Amazon为PyTorch开发者提供TorchNeuron支持的Trainium服务

TorchNeuron由AWS推出,可直接对接开源AI平台PyTorch(约85%的AI研究人员与开发者使用)。开发者仅需调整一项配置即可将现有应用迁移至Trainium处理器。对比测试显示,其在不同处理器上的模型训练效果与速度保持一致。该工具将以Apache 2.0许可证开源,并于2026年10月20日PyTorch北美大会向开发者开放。

正在开发Nvidia软件生态系统的替代方案

TorchNeuron是构建CUDA替代方案的关键一环,旨在降低PyTorch对特定硬件的依赖。AWS Annapurna Labs技术软件副总裁Colin Brace表示,AWS基础设施可为初创企业提供从原型到商业部署的一体化服务;同时,利用Trainium统一进行AI模型训练与推理,具备显著成本优势。

面向电子商务和零售公司的人工智能基础设施

TorchNeuron兼容的云基础设施适用于AI客服、产品推荐、需求预测及自动化内容生成等场景。通过同一处理器执行训练与推理,可实现跨工作负载的资源共享。案例显示,语音技术商Deepgram转向Trainium后,每美元处理的音频量提升了70%。

Amazon Expands Open-Source Integrations

TorchNeuron支持Trainium2和Trainium3处理器,集成Hugging Face开发工具,并可用于大型AI模型分布式训练平台TorchTitan。此外,亚马逊还通过共享开源组件助力vLLM项目以加速AI模型执行。据悉,每个新版本TorchNeuron均会在数十万个AI模型上进行测试,致力于拓宽开发者对不同硬件选项的访问权限。

【声明】内容源于网络
0
0
跨境联盟
各类跨境出海行业相关资讯
内容 243
粉丝 0
跨境联盟 各类跨境出海行业相关资讯
总阅读5.2k
粉丝0
内容243