中国Neocloud市场格局突变：商汤大装置占据半壁江山
沙利文与头豹研究院联合发布的《中国全栈AI云服务市场报告2026H1》显示，在Neocloud（新云）赛道中，一家中国公司占据了近一半的市场份额。这家企业正是商汤科技旗下的AI基础设施平台——商汤大装置（SenseCore）。
Neocloud与传统综合云厂商不同，其从成立之初便与AI深度绑定。尽管海外Neocloud代表企业如CoreWeave积压订单高达千亿美元，但马斯克近期警告称，缺乏可观收入的AI数据中心企业将面临融资困难，预计200多家Neocloud将迎来倒闭或兼并潮。然而，在国内综合云巨头全面转向AI的背景下，商汤大装置凭借独特的技术路径脱颖而出。
商汤大装置已从早期的内部研发服务平台，演变为大规模Token供应中心。数据显示，其日均服务Token量从年初的4000亿增长至9月底的6万亿，预计第四季度将达到日均10万亿规模。
△图片由AI生成
算力计量单位变革：从Flops到Token
随着Agent应用的爆发，AI算力需求发生质变。以“小龙虾”等Agent应用为例，其任务拆解、资料查阅及反复确认的过程导致Token消耗激增。沙利文报告指出，在相同生成速度下，Agentic AI对算力的要求是传统大模型的10倍以上。
国家数据局统计显示，今年3月我国日均Token调用量已超140万亿，两年内增长逾千倍。商汤大装置CTO宣善明表示，去年行业焦点在于模型训练，而今年春节后，随着国产模型与海外头部模型差距缩小，Token需求呈现爆发式增长。
△图片由AI生成
AI工作负载从训练向推理和Agent应用扩展，使得单位Token成本、推理延迟及部署效率成为客户关注核心。算力生意的计量单位正从“Flops”转向“Token”。Synergy Research数据显示，2025年全球Neocloud市场规模达250亿美元，预计2031年将接近4000亿美元。
△图片由AI生成
与海外Neocloud依赖高端GPU租赁且面临资本收紧风险不同，中国Neocloud需解决算力碎片化问题。国内高端GPU供给有限，华为、平头哥、寒武纪等国产芯片路线多元。商汤大装置自2018年起适配主流国产芯片，致力于将异构算力整合为稳定、低成本的Token服务能力。
异构混推与算电协同：构建中国特色Neocloud体系
商汤大装置构建了“算力-平台-方案-服务”的端到端体系，核心特色在于异构混推与算电协同。
PD分离实现异构算力高效利用
面对国产芯片长板各异的特点，商汤大装置采用PD分离（Prefill-Decode Disaggregation）技术。大模型推理分为“读题”（Prefill，吃算力）和“写答案”（Decode，看重显存带宽两个步骤。通过KV Cache传输“读题笔记”，由国产卡负责Prefill，高端GPU负责Decode。
△图片由AI生成
该方案充分发挥国产卡算力优势，规避其短板，整体推理性价比达到主流高端GPU的1.25倍。目前，超长上下文请求仍由高端GPU兜底。未来，商汤正探索跨域PD分离及AF分离（Attention与FFN计算拆分），以进一步盘活存量算力并提升效率。
算电协同降低运营成本
针对电费成本，商汤大装置推出算电协同Agent，联动能源大模型与储能系统，每5分钟修正一次任务调度策略，实现低谷时段运行离线任务、高峰时段释放电网容量。此举使单位电力成本的Token产出提升80%，平均电费低于同地区IDC 10%。商汤据此提出TPW（Tokens Per Watt）指标，衡量每瓦电产生的有效Token价值。
△图片由AI生成
从Token工厂到产业落地：FDE模式推动AI深水区应用
商汤大装置不仅服务于外部基础模型厂商，更通过FDE（前线部署工程师）模式推动AI在垂直行业的落地。以上海市规划资源局“量子城市”项目为例，商汤与其共同打造“云宇星空大模型”，具备问不倒、能调图、会统计等能力，覆盖从知识检索到决策支撑的全流程。
基于此，商汤总结出“AI123”交付法则：1天澄清需求，2天产出Demo，30天稳定版本上线。宣善明强调，FDE旨在快速沉淀标杆案例为标准产品，避免陷入人力密集型陷阱。
沙利文预测，未来三年AI全栈云厂商将从资源竞赛转向效率与生态竞赛。商汤大装置通过深耕国产芯片适配、优化异构算力调度及提升能源效率，确立了其在Neocloud赛道的领先地位。未来，商汤将继续加大在国产芯片生态上的投入，推动AI基础设施与产业应用的深度融合。