大数跨境

中国信通院词元服务能力攀登计划2.0启动并发布首批攀登结果

中国信通院词元服务能力攀登计划2.0启动并发布首批攀登结果 CAICT人工智能
2026-10-29
3

随着大模型技术加速迭代,词元(Token)作为大模型输入输出的最小信息单元,正从幕后的技术术语跃升为智能经济时代的关键概念。为促进我国词元服务高质量发展,2026年9月中国信息通信研究院(简称“中国信通院”)启动“词元服务能力攀登计划2.0”(简称“攀登计划”),现正式公布攀登基线及首批攀登结果。

根据大模型词元服务性能监测结果以及实际攀登情况,攀登计划2.0的攀登基线有所提升并新增聚合服务场景攀登。其中,通用场景基线的TPS从55个/秒提升至65个/秒,TTFT、调用成功保持不变,深度动力、象元工坊、基流科技三家单位攀登成功。新增的“企业级聚合服务场景攀登基线”中,增加服务稳定性指数,江苏中博通信、中国广电中广数科、联通支付、申采智链四家单位攀登成功。截至2026年10月,累计50余家单位提交攀登申请,其中32家攀登成功。


智能体应用场景、异构算力场景、政务场景、金融场景等词元服务性能攀登基线共建单位征集中,欢迎与我们共同研制各场景攀登指标、攀登要求和攀登基线。


词元服务能力攀登计划2.0基线


通用场景:

每秒输出词元数(TPS)≥65个/秒

首词时延(TTFT)≤0.9秒

调用成功率≥99.9%


聚合服务场景:

每秒输出词元数(TPS)≥60个/秒

首词时延(TTFT)≤1秒

调用成功率≥99.9%

服务稳定性指数≥80


攀登成功单位清单

(排名不分先后)


词元服务能力攀登计划2.0


词元服务能力攀登计划1.0


“攀登计划”以建基准、提性能、稳服务、降成本、聚生态为核心方向,聚焦Token服务工程化落地过程中的关键难点与共性问题,结合中国信通院“大模型词元服务性能监测平台”的监测数据,按季度动态更新行业统一的词元服务性能基准,推动行业从“可用”向“好用、普惠”阶段升级。








中国信通院人工智能研究所长期致力于人工智能领域的政策研究、技术研发、标准制定、生态构建及测试评估工作。下一步,将持续推动“词元(Token)服务能力攀登计划”,以加速推进高质量词元服务发展。


一是持续征集攀登企业

欢迎更多企业参与攀登挑战,共同提高词元服务能力表现,并持续优化攀登基线;


二是联合共建行业级攀登计划

携手各行业头部企业及技术提供方,共同构建面向行业垂类场景的词元服务能力攀登基线,并制定攀登路径;


三是提供高质量词元服务全栈能力评估

一方面持续迭代完善性能测试平台(TokenBenchX)及专属测试数据集,为词元服务企业提供专业的综合性能评估;另一方面围绕词元服务的生产和运营全过程,以及服务质量和服务安全,提供词元服务全栈能力评估。


联系人

中国信通院人工智能研究所


程老师:15600298825(微信同号)

尹老师:18561320877(微信同号)

秦老师:13488684897(微信同号)


【声明】内容源于网络
0
0
CAICT人工智能
中国信通院人工智能研究所官方公众号。关注我们,了解中国信通院人工智能工作动态,了解人工智能技术研究、标准制定、评估测试、行业应用、产业发展、监管政策及国际交流等前沿进展。
内容 295
粉丝 2
CAICT人工智能 中国信通院人工智能研究所官方公众号。关注我们,了解中国信通院人工智能工作动态,了解人工智能技术研究、标准制定、评估测试、行业应用、产业发展、监管政策及国际交流等前沿进展。
总阅读34.8k
粉丝2
内容295