22亿Agent即将上线，AI计算底座如何接住这场洪流？一场大会给你讲透了！- 大数跨境

首页

22亿Agent即将上线，AI计算底座如何接住这场洪流？一场大会给你讲透了！

智东西

2026-09-14

导读：Agent爆发时代，我们需要什么样的AI计算底座？

Agent爆发时代，我们需要什么样的AI计算底座？

作者 | 王涵

编辑 | 漠影

2026年，Salesforce正式上线“即用型”长周期智能体（Agent），销售、客服及供应链等场景的Agent已能跨天、跨周自主完成任务。用户看到的是“一句话办事”的便利，而产业界看到的却是随之而来的巨额算力账单。

IDC报告显示，2025年全球活跃Agent数量为2860万个，预计2026年将激增至7940万个，2030年更将突破22亿。面对如此庞大的吞吐量，支撑Agent背后的芯片、存算、互连、系统及框架等计算体系正面临严峻考验。

以Kimi K3大模型为例，其发布48小时内因算力逼近极限而暂停新用户订阅，折射出当前计算体系的四大痛点：Token消耗巨大带来的成本与稳定性风险、芯片架构滞后于负载变化、异构芯片软件协同困难，以及生产系统缺乏可靠运行标准。

针对上述挑战，2026年9月21日，AICC2026人工智能计算大会将在北京举行。大会设1个主会场及7个分会场，汇聚芯片、系统、框架及模型领域专家，共同探讨“当Agent从一次调用走向持续任务链，下一代AI究竟需要怎样的计算体系”。

Agent越在线，算力越像“无底洞”

Gartner报告指出，一个Agent工作流每任务消耗的Token量是标准聊天机器人的5至30倍，单次请求常触发10到20次顺序模型调用。高盛预测，到2030年全球Token消耗量将较2026年增长24倍，持续在线的智能体日耗Token可能超10万。

除Token消耗外，大模型参数量激增也带来部署难题。以总参数2.8T的Kimi K3为例，其权重文件约1.56TB，普通服务器显存难以承载，需扩展至64卡以上规模。此外，该模型对显存带宽与节点间通信要求极高，每次前向计算HBM带宽需求约1.5TB，并触发超120次All-to-All通信。若互连带宽和延迟不足，大量算力将浪费在数据搬运上。

面对万亿参数模型带来的瓶颈，行业亟需从单纯堆砌芯片转向系统级创新。在AICC2026主论坛上，浪潮信息首席AI战略官刘军将探讨如何通过开放多元架构提升算力效率；SGLang核心贡献者张晓雨将在AI Infra论坛分析如何通过Kernel优化降低推理时延与成本；百度智能云、浪潮信息等将在开放超节点论坛共议国产AI底座标准；GPUStack等团队则在Token工厂论坛拆解推理供给的商业闭环。

Agent负载发生变化
传统芯片遇上两堵墙

随着Agent负载变长、并发增加，传统冯·诺依曼架构面临“存储墙”与“功耗墙”的双重制约。数据在存储与计算单元间的频繁搬运，导致大量功耗和时间被消耗，难以适应Agent敏感的计算需求。

为突破物理极限，清华大学副校长吴华强将在大会上探讨存算一体架构的重构潜力；北极雄芯创始人马恺声将解析Chiplet与3D集成技术如何拓展芯片能力边界。北京开源芯片研究院与智源联合主办的AI芯片论坛，将集结阿里达摩院、摩尔线程等机构，共同探索材料、架构及封装维度的新可能。

硬件路线越来越多
系统却越来越难统一

芯片架构正从单一走向多元，存算一体、Chiplet等新路线层出不穷。然而，不同芯片拥有独立的软件栈与生态，导致应用迁移和适配成本高企。如何解决异构芯片的协同问题，已成为决定Agent能否规模化落地的关键产业命题。

北京智源人工智能研究院副院长林咏华将在主会上分享FlagOS项目经验。该项目旨在构建面向异构AI芯片的开源统一系统软件栈，实现“一次开发，多芯运行”，目前已支持18家厂商的32款芯片。软件栈作为“翻译层”，屏蔽了底层硬件差异，让不同架构芯片能融入同一系统。

Agent要“持续办事”
可靠性、评价尺度、企业落地谁来管？

Agent正加速进入企业核心业务。网易有道报告显示，办公Agent单次任务规模5个月内增长3.1倍，用户开始托付更复杂、长周期的深度工作。然而，当前对Agent算力的评价仍停留在单点性能，缺乏对系统能力、计算效率及应用价值的综合考量。

为推动产业标准化，AICC2026将发布两项重磅成果：IDC与浪潮信息联合发布《2026中国人工智能计算力发展评估报告》，首次系统呈现面向Agent时代的基建变革及城市算力排名；同时推出一套覆盖“芯片—框架—模型—应用”的全链路AI测评体系，填补国内第三方评测空白。此外，AI Work论坛将聚焦智能体从技术创新到企业级落地的实践路径。