大数跨境

中国信通院王强:面向Token服务的智算基础设施——重塑机理与发展关键

中国信通院王强:面向Token服务的智算基础设施——重塑机理与发展关键 金融科技研究
2026-07-11
5
导读:Token服务对智算基础设施的重塑体现在计算、网络、调度与运营四个层面。

导读:7月3日,中国信息通信研究院规划所数智部主任、中国信息消费推进联盟常务副秘书长王强做客“大金融思想沙龙第278期”,围绕面向Token服务的智算基础设施进行了发言。他指出,随着大模型应用从训练驱动转向推理主导,Token正从技术概念演变为数字经济时代的基础计量单位。无论是C端用户的日常交互,还是B端企业的流程重构,Token调用量呈现指数级增长,对底层智算基础设施提出了全新要求。


以下为发言纪要:


一、从C端普及到B端主导的

Token服务场景分化



词元服务的场景分为多种类型。在C端,词元正从技术术语变为与每个人息息相关的“数字水电”。应用从简单问答向深度创作和生活服务全面展开。供给侧技术门槛大幅降低,三大运营商推出面向个人的词元套餐,优惠力度较大,降低了推理服务的使用门槛。场景覆盖日常全维度,包括办公辅助、内容创作、教育辅导、生活服务、家庭娱乐等,深度上不再满足于文字问答,而是用于视频生成、图片编辑等复杂创作任务。C端消费场景正从轻量交付向纵深拓展。


在B端企业级市场,企业市场是词元服务的绝对主力。词元从体验式试用加速转向业务流程嵌入,深度重构产业效率,覆盖工业运维、金融风控、政务咨询、医疗辅助、教育服务等领域。部分数字化转型快的企业已将词元纳入常态化预算,具备持续付费能力,区别于C端的免费流量导向。B端具体场景包括企业知识库、RAG问答、流程自动化和研发辅助。这三大场景合计覆盖B端99%的词元消耗,随着数字化渗透,将持续稳定调用。


企业端应用中,行业智能体正成为词元服务的核心驱动力。今年4月斯坦福和MIT等机构调研显示,智能体词元消耗量约为普通代码对话的1000倍。智能体对B端词元调用需求大幅提升,词元服务正从人使用AI走向AI自主执行任务,行业智能体成为词元经济从量变到质变的核心引擎。


二、Token服务倒逼智算设施变革的

三大现实挑战




在以上背景下,B端和C端词元调用需求巨大,对供给侧智算设施的能力和布局提出现实挑战。传统以训练为核心的智算设施,面对Token服务的高弹性、低延迟、标准化、高效能等需求,亟需解决三大问题。


第一,技术内涵方面,Token经济对计算设施底层的重塑机理不清晰,如何倒逼底层算力基础设施的架构、资源配置、服务保障逻辑发生系统性变革,缺乏深入研究,需要从经济学和算力架构结合的角度建立清晰的理论认知框架。


第二,产业生态方面,Token智算基础设施的产业链图谱尚不清晰,延伸出新兴业态和主体,需要明确新产业图谱中上下游的联动关系,进而完善商业模式,使其从初级阶段走向成熟。


第三,空间布局方面,在“东数西算”战略下,如何应对Token服务在端侧、边缘侧推理低时延的要求,借助现有算力战略和各地设施保障供给。目前边缘算力布局滞后,近用户端Token服务能力不足,仍是地方问题。


因此,亟需系统开展面向token服务的智算产业研究和基础设施布局规划指引,推动智算基础设施从“算力工厂”向“token工厂”转型升级。


三、从“算力工厂”

“Token工厂”的核心差异




我们初步梳理了传统算力工厂与新型Token工厂的差异。


第一,在交付形态上:传统以裸金属、GPU服务器、虚拟机、物理集群为主,用户获得硬件独占使用权;新型Token工厂以推理为导向,交付API接口、SDK工具、推理服务平台,用户直接获得token生成的智能输出,不接触底层硬件。


第二,在用户接入门槛上:传统高门槛、重运维,需要专业团队;新型低门槛、开箱即用,封装全链路能力,用户一键接入,专注业务开发。


第三,在弹性适配能力上:传统静态扩容,应对潮汐流量弱;新型支持秒级资源调度和弹性扩缩容,自动匹配波峰波谷,适应脉冲式推理请求。


第四,在支撑场景上:传统主要集成大模型预训练、科学计算、工业仿真和长期批量推理;新型支撑对话式Agent、实时内容生成、端侧推理和中小型企业AI业务。


四、Token服务

重塑智算设施的四个层面




Token服务对智算基础设施的重塑体现在计算、网络、调度与运营四个层面。计算层面,转向推理侧专用芯片架构,追求token与能耗的能效比,采用异构混合部署,适配多场景需求。网络层面,从关注集群内部高速互联,转向构建用户与推理节点的广域直连网络,以端到端低延迟为核心,采用多点就近分布式部署,打造CDN式弹性推理节点网络。调度编排层面,实现token级细粒度实时调度和异构资源混合编排,支持秒级弹性扩容和跨节点跨地域无缝迁移,提升利用率。运营交付层面,转向token服务全生命周期运营,实现按量实时结算,保障服务一致性,区别于传统聚焦硬件运维、关注能耗和故障率。


展望未来,唯有适配Token服务对智算基础设施的全链条需求,破解算力供需匹配与短板,才能构建适配词元经济时代的新型智算基础设施体系,持续释放Token经济和人工智能产业增长的新动能。


观点整理:吉庆

监制:朱霜霜、闵文文






简约风廉洁奉公反腐倡廉文章标题__2025-05-21+10_48_02.png

工行行长刘珺:金融机构必须为AI时代的到来做好充分准备

农行董事长谷澍:四方面防范大模型应用风险

建行行长张毅:将在量子科技、脑机接口等未来产业前瞻布局










“金融科技50人论坛”成立九周年啦,特别感谢热心读者对我们的支持,我们建立了“金融科技·读者微信群“,发布研究成果、促进交流合作、赠送金融科技图书,欢迎您的参与。

入群方法:加群主为微信好友(微信号:serenazys),添加时备注个人姓名(实名认证)+单位+职务+入群,经群主审核后,即可被邀请进群。欢迎读者朋友多多留言与我们交流互动。

学术研究、会议合作和专题培训联系:

办公电话:010-62561700

邮箱地址:songzeying@cft50.com.cn



金融科技50人论坛(CFT50):金融科技50人论坛(CFT50)成立于2017年4月22日,论坛近年来紧密围绕金融科技理论、实践与政策前沿,积极推动“政产学研用”交流与合作,逐渐建设成为在金融科技领域具有较高影响力的独立学术平台。论坛组织或参与出品《中国金融科技运行报告》《中小银行金融科技发展研究报告》《数据要素:领导干部公开课》《绿色金融:助力碳达峰碳中和》《金融科技15讲》《银行业数字化转型20讲》等重要学术成果,与《金融理论探索》杂志合作开设数字金融学术专栏,普遍受到政策层、学界和业界人士的高度评价。2019年以来,论坛参与发起北京市东城区立鼎金融与发展研究院、厦门鹭江金融科技研究院等机构。



更多内容,请长按识别二维码关注



【声明】内容源于网络
0
0
金融科技研究
1234
内容 6479
粉丝 0
金融科技研究 1234
总阅读78.9k
粉丝0
内容6.5k