Amazon Web Services (AWS)Writer 宣布在 Amazon Bedrock 中推出 Palmyra X5——一款全新的、最先进的自适应推理模型，拥有 100 万 token 的上下文窗口。Palmyra X5 由企业生成式 AI 领域的领导者 Writer 发布，是首批在 Amazon Bedrock 上提供如此大规模上下文窗口的模型之一。该模型针对速度和成本效率进行了优化，使客户能够构建先进的多步 AI 智能体，并以前所未有的精度改变其对企业海量数据的推理方式。AWS 是目前唯一一家且首家提供 Writer 完全托管、无服务器模型的云提供商，包括全新的 Palmyra X5 和 Palmyra X4，更多模型即将上线。
随着生成式 AI 的持续加速，客户需要广泛选择模型，以挑选最符合其需求的模型。将 Writer 加入 Amazon Bedrock，进一步扩展了由领先 AI 公司提供的、目前最广泛的完全托管模型选择范围，使客户能够轻松且安全地构建和扩展生成式 AI 应用，从而推动业务转型并助力创新。
为什么你应该关心
Palmyra X5 是首批在 Amazon Bedrock 上提供的支持 100 万上下文窗口的大模型之一，进一步丰富了 AWS 客户可用的选项。（上下文窗口是指模型每次输入或请求能够处理和“记住”的信息量。它以 token（模型可处理的最小文本单元）为单位进行衡量，可被视为模型的“短期记忆”。）凭借如此大的上下文窗口，Palmyra 能够准确处理多达 1500 页的内容，相当于约 6 本书的篇幅。它也是业界首批商业化部署的自适应推理模型之一。该模型将先进的大型语言模型（LLM）能力与扩展的记忆和处理能力相结合。企业现在可以应对长程任务——如财务报告、法律合同分析、医疗记录综合、客户反馈挖掘等——而无需超出预算。
除了推理能力之外，Palmyra X5 还具备驱动智能体与系统交互、高级代码生成与部署的能力，并支持超过 30 种语言。
认识 AI：Palmyra X5 是什么
如果 Palmyra X5 是一个人，它将拥有超能力：能在 22 秒内阅读 100 万词，并立即生成可操作的洞察。它是这样的团队成员：不仅记得 200 页战略文档中的所有内容，还能理解这些内容与昨天的客户会议以及上季度的财务结果之间的关联。面对复杂问题时，它能有条不紊地逐步推导解决方案，并清晰阐述其思考过程——无论是帮助分析大量客户反馈以识别共同主题，还是排查技术问题。
来自源头，Writer 与 AWS 关于 Palmyra X5
"我们选择 AWS 作为首批主要云提供商，通过其平台提供 Writer 的全托管模型，这得益于 AWS 无可匹敌的安全能力，以及我们共同致力于变革企业利用 AI 推动创新与增长的愿景。" Writer CTO 兼联合创始人 Waseem AlShikh 表示。"Palmyra X5 是 Writer 迄今为止最先进的模型，能够以关键速度处理海量企业数据，这对于扩展多智能体系统至关重要。借助 Amazon Bedrock，我们可以将这些强大能力带给全球更多企业，并赋能客户在 Bedrock 安全、可扩展的环境中部署模型。"
"基于我们与 Writer 深厚的战略合作关系，AWS 很高兴通过 Bedrock 提供 Writer 的 Palmyra 系列模型，为全球组织开启代理式创新的新纪元。" AWS Amazon Bedrock 总监 Atul Deo 表示。"Palmyra X5 在处理长上下文输入时表现出色，同时具备企业级可靠性和速度。无缝接入 Writer 的 Palmyra X5 将使开发者和企业能够构建并扩展 AI 智能体，转变他们处理海量企业数据的方式——充分利用 AWS 的安全性、可扩展性和高性能。"
数字背后的故事
- Palmyra X5 是市场上最高效的大上下文大语言模型之一，在速度和成本方面均经过优化。Palmyra X5 可在约 22 秒内吸收整个百万 token 的提示词，并在约 0.3 秒内返回单个函数调用轮次。
- 在最新的 Longbench v2 评估中，Palmyra X5 展现出业内领先的得分-成本比，平均得分高达 53%。企业在获得接近顶级准确率的同时，每百万 token 的成本显著降低，从而能够在不超出预算的前提下，大规模执行代理式和长上下文任务。
- 它支持超过 30 种语言，为全球企业提供真正的多语言能力。
- 其定价为每百万输入 token 0.60 美元，每百万输出 token 6 美元，使其成为市场上最具成本效益的大上下文大语言模型之一。
- Palmyra X5 在 BigCodeBench（Full, Instruct）评估中也位居前列，得分为 48.7，展现了其在应对实际且具有挑战性的编程任务方面的能力。
更大的图景
尽管生成式人工智能正在改变我们创建、分析和与信息的交互方式，但智能体人工智能将从根本上重塑工作本身的性质。这一 AI 新前沿超越了内容创作和洞察生成，转向使用能够独立规划、执行和调整复杂动作序列的 AI 智能体。随着 Palmyra X5 在 Amazon Bedrock 上可用，AWS 客户可以利用 Writer 的模型，在不管理底层基础设施的情况下，安全且私密地构建和扩展 AI 智能体。对于各行各业的企業而言，尤其令人振奋的是，Palmyra X5 允许他们构建和部署更复杂的 AI 智能体，这些智能体需要处理更大规模的数据，包括访问其他智能体、大型语言模型（LLM）以及外部系统中的工具。
Writer 提供精确且完全自主拥有的模型，这些模型从不经过后训练量化或蒸馏处理，因此您今天验证的行为就是明天所见的行为。Palmyra X5 在此基础上进一步强化了这一承诺：它与旧版本保持严格的向后兼容性，使团队免于重新调整流程的痛苦；提供可被客户影响的企业路线图；并采用延迟优化的推理技术，即使在百万 token 规模下，也能让 LLM 交互和检索增强生成（RAG）感觉如同瞬时完成一般。
即将推出的功能
Writer 宣布，由于采用了新颖的 Transformer 设计（一种能够同时而非顺序审查输入数据的架构）以及混合注意力机制（允许多种方式同时聚焦于信息，兼顾效率与效果），它现在将其未来发布的所有 LLM 的最小上下文窗口大小设定为 100 万 token。这意味着企业可以围绕持续扩展的能力来规划其 AI 战略，而不受上下文窗口的限制。
深入了解
请访问AWS News blog以获取有关 Palmyra X5 的更多详细信息，包括如何在 Amazon Bedrock 中部署该模型及其潜在用例，并查看Amazon Bedrock 中的 Writer产品页面。
如何使用 Palmyra X5 和 Palmyra X4
要开始使用，请访问Amazon Bedrock 控制台。