关键要点
- 智能体 AI 需持续运行而非批量处理，依赖持续算力及核心间高速通信。
- AWS Graviton 等 CPU 专为始终在线的推理工作负载设计。
- Meta 等企业正部署数千万个 Graviton 核心，为全球智能体 AI 提供动力。
智能体 AI 的独特之处
多年来，AI 基础设施讨论多聚焦于大语言模型训练芯片。AWS Trainium 等加速器和 GPU 擅长并行处理海量数据，适合模型训练密集型任务。
但智能体 AI 运行逻辑不同。理解 CPU 为何重回 AI 视野，需厘清标准语言模型（SLM）、大语言模型（LLM）与 AI 智能体的区别。语言模型类似计算器：接收提示后执行大量并行数学运算预测 token，这正是 GPU 优势所在——多核同时运行数千次计算。
AI 智能体则更像管理者。它是能自主行动、完成多步骤任务的始终在线系统，持续处理信息并采取措施。例如数字助手不仅响应命令，还能代表用户管理日程、跨系统协调及决策。若要求智能体“研究公司并起草简报”，它需将目标分解为顺序步骤：打开浏览器导航链接、解析文件数据、过滤噪声并运行代码生成草稿。
尽管推理长期由 GPU 主导（CPU 现也承担更多此类负载），但从逻辑判断、文件管理到网络调用和代码执行等其他环节，均属 CPU 原生任务。这要求持续算力及核心间极快通信。
这正是 AWS Graviton 的关键价值。该处理器专为代理式 AI（agentic AI）时代的持续、低延迟工作负载设计。因此，Meta 等公司利用 Graviton 运行最新代理式 AI 负载，部署数千万核心以支持持续推理及服务数十亿用户的 AI 系统。
Graviton 如何应对这一挑战
代理式系统以快速执行周期运作：除推理外，还主动检索数据、调用工具并采取行动，随后循环评估下一步。每个周期均要求处理器各部分快速共享数据。
Graviton 芯片旨在最大限度减少内部通信耗时。对于推理中不断交换信息的 AI 系统，这种速度至关重要。
全球规模运行代理式 AI 的组织选择 Graviton，因其架构与工作负载高度匹配。模型训练多为高强度突发式；而代理式系统需持续性能与不断适应，以应对不同任务所需的多样化工具。
为何这对持续智能至关重要
当 AI 系统持续服务数百万用户时，性能与能效不可或缺。Graviton 提供更优性能且能效最高。对全天候全球运行的系统而言，高效既环保又经济。二者结合使大规模持续运行复杂代理式系统成为可能。
构建永不停止思考的系统的基础设施
代理式 AI 兴起标志着 AI 基础设施的根本转变。随着 AI 更自主并深度融入日常数字体验，相关要求持续演进。
Graviton 等处理器专为持续低延迟计算而非周期性训练突发设计，正成为新时代基石。问题不在于代理式 AI 是否重塑工作生活，而在于是否存在支撑其大规模应用的基础设施。
如今，该基础设施正建立在专为永不停止思考的系统而设计的技术之上。
了解更多关于 Graviton 芯片如何使云计算更快、更便宜且更具能源效率。