"我们的客户需要我们具备出色的生成式 AI 能力，" AWS CEO Adam Selipsky 在Bloomberg Technology上表示。"我们制定了战略，为客户提供适合当前任务的最佳选择，因此 Anthropic 将提供一系列卓越的模型，以满足众多客户的使用场景。"
那么，这次与 Anthropic 的扩展合作带来了什么？以下是一份简要总结，重点介绍我们强大的专用 AI 芯片——AWS Trainium和AWS Inferentia——以及它们如何在我们与 Anthropic 的合作中发挥核心作用。
Anthropic 是领先的基座模型（FM）提供商，也是生成式 AI 负责任部署的倡导者，自 2021 年起就是 AWS 的客户。Anthropic 的基座模型名为“Claude”，在深思熟虑的对话、内容创作、复杂推理、创造力和编程方面表现出色，并通过Amazon Bedrock向 AWS 客户提供。基座模型（如 Claude）是在海量数据上预训练的大型机器学习模型，可用于驱动生成式 AI 应用。
此次扩展合作有何不同？
通过扩展合作伙伴关系，Anthropic 向全球 AWS 客户做出了长期承诺，使其能够通过 Amazon Bedrock 访问其未来世代的基座模型。AWS 客户还将率先获得用于模型定制和微调的独特功能。
这与 AWS AI 芯片有什么关系？
随着 AWS 成为 Anthropic 的主要云提供商——这是我们扩大合作的另一个关键要素——Anthropic 将在 AWS 云上使用我们的 Trainium 和 Inferentia 芯片训练和部署其未来的 FM。AWS 的芯片将成为这些 FM 的核心引擎。此外，Anthropic 还将与我们合作开发未来的 Trainium 和 Inferentia 技术。
亚马逊为何开发Inferentia和Trainium？
机器学习需要巨大的计算能力。随着越来越多的客户采用机器学习、人工智能以及如今的生成式人工智能，亚马逊发现需要一种既强大又具有成本效益且能耗更低的芯片。Trainium 是专为训练深度学习模型而设计的芯片，与同类芯片相比，可将训练成本降低高达 50%Amazon Elastic Compute Cloud (Amazon EC2)实例。Inferentia 芯片使模型能够以更低的成本更快地生成推理结果，价格性能提升高达 40%。
我们的芯片如何为客户和合作伙伴（如 Anthropic）带来益处？
数据科学家不再从零开始构建生成式 AI，而是以基础模型（FMs）为起点。这些超大规模模型（如 Claude）能够降低新生成式 AI 应用的开发成本并提升效率。AWS 于去年推出的 Trainium 是一款高性能机器学习芯片，专为缩短生成式 AI 模型的训练时间与降低成本而设计，可将部分模型的训练时间从数月缩短至数小时。这也意味着构建新模型所需的资金和电力更少，与同类实例相比，有望节省高达 50% 的成本，并将能耗降低多达 29%。我们的 Inferentia2 机器学习推理芯片在每瓦性能方面可提升高达 50%，与同类实例相比，成本可降低多达 50%。
这对我们的客户和环境都是好消息。我们处理培训的速度越快，消耗的电力就越少。我们提供不同类型的芯片，并与客户分享功耗特性和性能数据，以便他们为相应的工作负载选择合适的芯片，并在最低成本下实现最低的功耗优化。
Trainium 和 Inferentia 已经在帮助亚马逊及其客户完成哪些任务？
AWS 客户一直在使用 Trainium 和 Inferentia，以下是一些示例。Finch Computing一家AWS客户开发了自然语言处理技术，使客户能够从海量文本数据中发现洞察。使用Inferentia进行语言翻译使该公司的推理成本降低了80%。Dataminr该服务可检测对企业客户和政府客户具有高影响力的事件及新兴风险，在针对 Inferentia 优化的 AI 模型方面，实现了每美元吞吐量提升九倍。更贴近实际应用场景的是，Inferentia 使得Alexa以低于标准通用芯片的成本和延迟，运行更为先进的机器学习算法。我们正利用 Trainium 提升客户购物体验，训练包含文本、图像、多种语言和本地化内容的大型语言模型，以及涵盖产品、查询、品牌和评论等不同实体的模型。
Trainium 和 Inferentia 的未来发展方向是什么？
AWS 将继续为客户创新，提供访问最先进技术的机会，同时提升性能、成本效益和可持续性。我们将与 Anthropic 等合作伙伴协作，开发下一代 Trainium 和 Inferentia 技术。
了解更多关于Trainium和Inferentia的信息。