一个数字足以概括这个领域当前的基本处境：截至今年6月，中国智能算力规模已达2185 EFLOPS，占全国实际算力供给的95.1%，规模居全球第二；但全国智能算力的实际利用率仅为36.8%，企业级通用算力中心的利用率甚至低至10%—15%。与此同时，在用智算中心超过500个，另有在建及规划项目近400个。供给端在高速扩张，需求端却没能同步“吃掉”这些算力。
这个落差指向一个被长期遮蔽的事实：智算中心的核心矛盾已经从“建不建得起来”转向“用不用得起来、算不算得清账”。而“用起来”和“算清账”之间的那个中间层，正是运维与算力调度软件。如果说前几年行业的竞争焦点是拿到GPU、拿到服务器、拿到地，那么接下来的竞争焦点将转向一个更软、更细、也更难的层面：能不能把异构的、分散的、状态各异的算力，持续地转化为可交付、可计量、可结算的有效供给。
这个领域真正的机会不在“卖更多软件”，而在补上智算中心从“建成”到“运营”之间那个长期缺位的制度性中间层。
异构调度：机遇在于“多对多”的适配中间层，挑战在于它比看起来难得多
智算中心利用率低，最直接的原因不是没有任务，而是任务和算力之间对不上。一部分智算中心部署的是国产GPU，而大量模型和推理框架优先适配的是英伟达的CUDA生态。国产芯片从2系列向3系列迭代的过程中，软硬件栈不兼容、多卡互联通信效率低、算子适配踩坑、版本矩阵混乱，这些“暗坑”构成了实际使用中的主要摩擦。DeepSeek团队在迁移模型时发现，大量CUDA算子在CANN上的首次运行效率极低，性能损耗达到20%—30%。这说明问题不在于“能不能跑”，而在于“跑起来之后离理论算力有多远”。
由此产生的需求是明确的：一个位于模型和GPU之间的统一管理层，纳管不同厂商的加速卡，根据模型和硬件环境自动选择推理后端，向上提供一致的接口。GPUStack的实践是一个有代表性的样本：它把英伟达、AMD、昇腾、海光、摩尔线程、寒武纪等硬件纳入同一个平台，支持vLLM、SGLang、TensorRT-LLM等多种推理引擎，试图用“中间层”屏蔽底层的异构性。这个方向的商业逻辑是成立的，模型和芯片的种类都在增加，组合数量在扩大，依靠项目团队逐个适配的成本会越来越高，标准化中间层的价值随之上升。
但挑战同样在这里。异构调度不是“把几张卡放进同一张列表”那么简单。平台需要识别每一类硬件的实际运行环境，为每一个模型匹配正确的推理引擎和软件版本，还要在版本更新、驱动升级、固件差异之间维持稳定性。这是一个需要持续工程投入的“脏活”，而不是一个可以靠一套通用算法一劳永逸解决的问题。更深一层的问题是，国产芯片生态的碎片化本身在短期内不会收敛。只要芯片厂商各自维护工具链、各自定义算子库、各自迭代版本节奏，中间层的适配成本就会长期存在。谁能把这种适配成本降到足够低、把稳定性做到足够好，谁就能在这个位置上站住；但指望“一次适配、长期通用”的公司，大概率会低估这个赛道的难度。
Token计费：机遇在于把“算力”变成“可结算的服务”，挑战在于计量精度和商业闭环
利用率低的另一面，是收费模式没有跟上。传统智算中心的主流模式是按卡时、按机柜、按整机出租，用户买的是“资源占用”，而不是“实际得到的东西”。当用户自己也不知道一次推理需要多少卡时、一次训练会占用多久，按资源计费就会同时带来两重后果：运营方担心空转成本，用户担心为闲置付费。双方的不信任进一步压低了上架率和使用意愿。
Token计费的意义，在于把计费单位从“资源”切换到“交付”。行云科技在算力服务合同中新增了“Token收入相关的固定服务费”，润建股份把“Token工厂”作为转型方向，中国电信明确提出“以Token经营重塑公司业务”，逻辑是相通的：用户为实际生成的Token付费，运营方为实际的产出负责，计量对象从“占了多少卡”变成“交付了多少可用的模型调用”。新华三的灵犀智算方案甚至把“精细化算力切分与Token精准计量”和TCO降低30%以上直接挂钩，说明Token计费已经开始从概念进入产品化的成本核算环节。
但Token计费的挑战比“换一个计价单位”要深。第一个问题是计量本身的精度和公平性。不同模型、不同上下文长度、不同批处理方式下，同样的硬件消耗可能产出差异很大的Token数量；如果计量规则不能反映这种差异，Token计费就可能变成一种新的价格扭曲。第二个问题是商业闭环。按Token收费要求运营方对推理链路的性能有足够的控制力，如果底层调度效率不稳定、故障恢复时间不可控，Token的“单位成本”就无法稳定下来，计费模式也就失去了可预期性。第三个问题来自竞争格局：大型云厂商和运营商有能力把Token计费嵌入已有的云服务和政企合约中，独立软件公司如果只提供一个“计费模块”而不掌握调度和运维的闭环，很容易被吸收进更大的平台，难以独立定价。
运维的经济学：机遇在于从“成本项”变成“利润项”，挑战在于评价体系不认这件事
运维在这个领域的位置正在发生变化。过去，数据中心运维被视为保障性的成本中心，不出故障就行，省下的钱不被看见，多花的钱被视为必要开支。智算中心改变了这个算式。一个西部千卡级智算中心，服务器上架率不足50%，年运营成本却超过3000万元。在电力成本和人工成本都刚性的条件下，运维效率直接决定一个智算中心是盈亏平衡还是持续失血。智能体自主调优在空载和轻载场景下可以带来10%—30%的节能收益，AI运维智能体可以把集群硬件故障做到秒级隔离、分钟级自愈，有效训练时间占比达到99%。这些数字说明，运维不再是“花多少钱保平安”的问题，而是“用多少钱换回多少可用算力”的问题。
但这里最大的挑战不在技术层面，而在激励和评价层面。一个能把利用率从30%提升到50%的调度优化，在传统的项目验收和绩效考核中很难被单独识别和定价。智算中心的建设方和运营方常常不是同一个主体，运营方缺乏动力为“提升利用率”投入软件成本，因为收益并不直接落在自己的账上；而建设方关心的是“建成”这个节点，不是“用好”这个长周期。运维软件的价值如果无法被嵌入采购决策和考核体系，它在商业上就始终是“可选项”而不是“必选项”。这比任何一个技术难题都更根本，也更难靠单个软件公司解决。
中小软件公司的真正机会，在于选择“可独立交付的窄切口”
把上述几个层面放在一起看，这个领域的机会分布并不均匀。平台级的调度系统已经被运营商、云厂商和头部算力服务商占据：运营商主导跨区域基础调度，云厂商深耕智算场景，第三方厂商聚焦国产化异构适配和细分方案，市场“暂未出现绝对垄断主体”，但竞争的门槛在快速抬升。中小软件公司如果试图做一个“什么都能调度的通用平台”，大概率会同时面对技术复杂度和客户信任成本的双重挤压。
更现实的机会在几个“窄切口”上。GPU池化和细粒度切分是一个：存量GPU的利用率提升不需要更换硬件，软件层把一张卡切给多个任务、把碎片资源池化，需求直接、交付边界清晰。特定行业的AIOps是另一个：制造、政务、金融的智算场景对故障预测、根因分析和能效优化有明确需求，但通用运维平台未必覆盖行业特有的指标体系和合规要求。Token计量的中间件也是一个可能的切口：不自己做运营，而是为中小智算中心提供计量、对账和结算的标准化工具，把“算清账”这件事做成可复用的产品。
这些切口的共同特征是：不试图替代平台，而是嵌入平台的缝隙，用可独立交付的模块解决一个可被单独定价的问题。它们的风险也同样明确：切口越窄，被上游平台吸收或替代的可能性越高。一家公司如果长期只做一个计费模块或一个GPU切割工具，而不把能力向“持续运营的数据和反馈”延伸，它的护城河会非常浅。这个领域最终奖励的不是“有一个功能”，而是“有一套在真实运营中积累起来的、别人短时间复制不了的适配和调优能力”。
最重要的事情，可以归结为一句话：中国智算中心当前的核心瓶颈，已经从硬件供给转向了“把已建成的算力持续转化为有效供给”的软件能力和运营制度。异构调度解决的是“能不能用”的问题，Token计费解决的是“算不算得清”的问题，运维经济学解决的是“值不值得持续用”的问题。三者不是并列的三个赛道，而是一条链上的三个环节：没有可用的调度，计费就缺乏稳定的计量基础；没有可结算的计费，运维投入就无法被合理回报；没有可持续的运维回报，调度优化就缺少持续迭代的动力。
（文/果断气息）
e-Mail：lab@enet16.com
