中国信通院人工智能所联合发布《大模型词元服务性能监测报告（2026年）》

随着大模型技术迭代加速，词元（Token）服务成为连接技术与应用的关键枢纽。数据显示，我国日均词元调用量持续攀升，2026年6月国内日均消耗量约500万亿，较2025年12月增长近4倍。目前，众多MaaS（Model as a Service）平台通过公有云API提供词元服务，但用户面临性能判断难、选型复杂等痛点。

为量化评估服务性能，中国信息通信研究院（简称“中国信通院”）人工智能研究所联合人工智能大模型及软硬件评测工业和信息化部重点实验室、中国人工智能产业发展联盟，自2025年起持续开展公有云大模型词元服务性能监测，并发布《大模型词元服务性能监测报告（2026年）》。

报告基于2026年1-8月监测数据，从调用成功率、吞吐速度、首词时延、稳定性、价格及上下文窗口等维度，对比分析了原厂大模型官方平台与DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台的性能差异，旨在为用户选型提供参考，并指引产业优化服务能力。

报告显示，2026年8月国内各模型平均TPS（每秒输出词元数）达78.23个/秒，较2025年均值（38.25个/秒）实现翻倍。同期，国外典型模型TPS均值为112.82个/秒，较2025年12月（51.35个/秒）亦提升超一倍，整体性能仍优于国内。

所有大模型词元服务月均TPS

今年以来，国内模型平均TTFT（首词时延）呈上升趋势，8月均值达1.26秒，高于2025年均值0.78秒。国外典型模型TTFT同样显著增加，8月平均值达2.08秒，较4月的1.04秒大幅上升。值得注意的是，TTFT上升并非单纯的性能退化，而是模型参数量增加、上下文长度扩展及调用量激增等多重因素共同作用的结果。

所有大模型词元服务的月均TTFT

经历两年价格战后，2026年国内外模型服务价格显著上涨。国内2025年下半年归一化均价为6.8元，2026年以来均价升至13.46元，涨幅接近一倍。相比之下，国外价格依然较高，2026年发布典型模型的平均归一价格约为117.8元。

国内原厂大模型发布时归一化价格趋势图

监测数据显示，上下文长度达到1M（100万词元）的模型占比47.8%，200K及以上的合计占比达95.7%，较2025年底提升超76个百分点。同时，低于200K上下文的模型占比持续缩减。

国内大模型上下文长度占比情况

5月份更新的4款开源模型新版本监测显示，TPS持续提升，TTFT时延不断压缩。例如，8月DeepSeek-V4-Pro的TPS已达DeepSeek-V3.2的两倍。虽然模型换代初期TTFT曾阶段性上升，但随着推理优化措施落地，时延已逐步回落至换代前水平。

此外，同一模型在不同平台上的TPS、TTFT及调用成功率表现差异显著。部分第三方平台性能优于官方平台，同一模型在不同平台间的TPS差距最大接近一倍。这主要源于各平台在推理加速、优化策略及成本控制上的不同。

开源模型性能综合对比图

一、核心观察

（一） 大模型词元服务吞吐与时延同步增加

（二） 大模型价格回升明显，向“能力跃迁”发展演进

（三） 开源模型词元服务性能提升显著

二、监测方法

（一） 监测对象

（二） 监测指标

（三） 监测参数设置

三、原厂大模型监测结果

（一） 调用成功率

（二） 每秒输出词元数（TPS）

（三） 首词时延（TTFT）

（四） 服务稳定指数

（五） 服务价格与费用

（六） 模型上下文

四、开源大模型监测结果

（一） 开源模型上线率

（二） DeepSeek监测结果

（三） Qwen监测结果

（四） GLM监测结果

（五） Kimi监测结果

五、总结