中国信通院人工智能研究所联合发布《Token效率：AI时代绿色计算的关键变量》研究报告

当前，大模型正在重塑计算产业格局。随着人工智能加速从“造模型”迈向“用模型”阶段，特别是Agent等新型应用快速发展，智能需求持续增长，计算资源与能源消耗也随之攀升，算力堆叠的粗放时代已经终结。AI时代的绿色计算，需要进一步把优化对象从“算力”延伸至“Token”，从度量每一个Token的效率开始，通过模型、推理、Agent和应用等全栈系统工程降低Token膨胀和流转损耗。

近日，蚂蚁集团与中国信息通信研究院人工智能研究所联合发布《Token效率：AI时代绿色计算的关键变量》研究报告（以下称“报告”）。

报告以Token效率为关键切入点，系统分析AI时代绿色计算的新挑战，构建从模型层到应用层的Token效率全栈技术体系框架，并系统阐述Token效率的内涵，同时结合典型应用实践提出面向未来的Token效率度量体系。

1、AI时代绿色计算面临三重新挑战，Token效率成为关键变量

报告指出，AI时代绿色计算面临三重结构性挑战：一是GPU标称算力向有效算力转化不足；二是Agent等AI任务驱动Token消耗快速增长，带动算存需求持续攀升；三是智算能耗规模增长使“更少排放”面临供需两端压力。AI时代绿色计算的转化链路已从“碳→电力→算力→业务”扩展为“碳→电力→算力→Token→业务”，Token位于算力投入与业务产出之间，是连接两端的核心枢纽。

2、四维内涵界定Token效率概念，四层全栈技术体系逐层破题

报告将Token效率界定为一个多维度概念，涵盖智能产出（Token消耗转化为有效智能产出的效率）、经济（Token消耗转化为业务价值的成本效率）、体验（Token处理与生成的速度效率）、能碳（能源投入转化为有效智能产出的能源与碳效率）四个维度。并沿Token从生产到消费的流转链条，构建了覆盖四个层次的Token效率全栈技术体系框架。

3、两类典型实践印证Token效率分业施策、差异化治理的产业规律

报告选取两类典型实践，揭示了Token效率优化在不同场景下的差异化路径。小微企业AI应用正在通过模型分级与智能路由、缓存与Skill固化、上下文与检索治理、预算熔断与可观测建立四道防线，控制高频调用带来的Token支出。如医疗等严谨场景则需在隐私安全、效果稳定和用户体验约束下审慎降本，不同场景需要结合行业约束与业务阶段实施差异化治理。

4、五维度度量体系牵引，多方协同共建Token效率治理体系

报告面向未来提出涵盖计算效率、上下文与Token利用效率、任务效能、经济性、能碳效率五个度量维度，形成从计算投入到碳排放结果的完整传导链路，使Token效率的绿色价值可量化、可披露、可追踪。AI产业竞争正从规模竞赛阶段走向效率竞争阶段，需要产业各方协同推进Token效率与绿色计算治理体系建设。

第一章AI时代绿色计算面临新的命题

1.1 绿色计算的基本理念

1.2 AI时代绿色计算面临的新挑战

1.3 Token效率是AI时代绿色计算的关键变量

第二章Token效率的内涵及提升挑战制约

2.1 Token效率的内涵

2.2 提升Token效率的挑战与制约

第三章Token效率技术体系框架及关键技术

3.1 Token效率技术体系框架

3.2 模型层：面向Token效率的模型优化

3.3 推理层：推理引擎与基础设施的Token效率优化

3.4 Agent层：Agent架构下的Token效率优化

3.5 应用层：面向业务场景的Token效率优化与治理

第四章Token效率产业应用实践案例

4.1 小微企业AI应用：通用Agent架构下的"合理Token支出"

4.2 严谨行业应用：强约束条件下的审慎降本路径

4.3 Token效率优化的差异化路径与启示

第五章绿色计算视角下的Token效率度量体系

5.1 计算效率度量

5.2 上下文与Token利用效率度量

5.3 任务效能度量

5.4 经济性度量

5.5 能碳效率度量

第六章总结与展望

6.1 核心结论：Token效率是AI时代绿色计算的关键变量，需要全栈协同优化

6.2 技术趋势：AI竞争从"规模竞赛"走向"效率竞争"，绿色维度日益凸显

6.3 行动建议：多方协同推进Token效率与绿色计算治理体系建设

下一阶段，中国信通院将依托“AISHPerf基准-词元专项工作组”持续开展词元服务验证测试。聚焦词元服务从“能用”迈向“高效、绿色、自主”的关键能力，围绕高效能优化、绿色低能耗、国产化词元三个方向，系统检验词元生产服务在真实应用场景中的性能表现、能耗水平与国产化支撑能力。

如需获取完整版研究报告内容

请扫码填写表单

我们将尽快发送至您的预留邮箱