撰文 | 郝 鑫
编辑 | 王 潘
决策模型正从概念迅速演变为各大科技巨头竞相发布的产品类别。
继TypeSafe推出Jev模型后，不到一个月内涌现出十余款同类产品，微软、AWS、Perplexity、Snowflake等厂商相继入场。这种爆发速度在AI行业亦属罕见，行业仿佛重回“百模大战”时期。
决策模型的兴起，本质上是将智能体（Agent）的决策层从推理层中解耦。Agent在工作流中会产生大量小型、重复性的判断（如路由选择、验证通过与否），这些高频决策占据了大量调用成本和延迟，却无需大模型复杂的推理能力。决策模型专为这类高容量、有边界的Agent决策而设计，为中国企业Agent落地提供了关键支持。
当前，数字化基础较好的企业已放弃训练垂直大模型，转而聚焦于解决业务环节中的具体卡点。工单分配、人工介入判断、流程 continuation 等高频决策场景，正是决策模型的用武之地。
决策层独立：降本增效的关键
过去两年，Agent构建通常由通用大模型包揽从复杂推理到工具路由的所有环节。然而，随着应用深入，瓶颈显现：大量琐碎判断导致延迟叠加和Token成本激增。
决策模型在此充当执行判断的角色，不生成文本，仅在固定选项中返回校准后的概率分数。以微软发布的Microsoft-Decision-1为例，该模型支持是非题、选择题及评分选项，并能依据标准评估AI回复。
将决策层独立出来，意味着Agent工作流中的每个判断节点均可被独立优化。通用模型负责复杂推理和生成的“重”任务，决策模型负责高频、重复的“轻”判断，两者形成分工共存关系。
这一分工的直接驱动力是成本与延迟。数据显示：
- TypeSafe的Jev端到端延迟为70-500毫秒，比同类大语言模型快20-200倍。
- 微软Decision-1在处理Xbox Research反馈时，质量与GPT-6 Sol相当，但速度提升14倍，成本降低200倍。
- 在演示中，Microsoft-Decision-1处理分类路由请求仅需182毫秒，而Sol耗时6.4秒。
需要注意的是，当前决策模型仍有边界。例如Jev对图像输入格式、尺寸及大小有限制，且多模态表现不如纯文本。其核心职能是作为业务流程中的判断组件，承担分类、排序、筛查或建议下一步操作。
微软梳理的17个用途主要集中在高频、嵌入工作流的节点，构成了Agent系统的两层基础设施：
- “免疫系统”层：包括安全筛查、数据验证、AI审评，负责识别与验证。
- “交通系统”层：包括模型路由、智能体控制、事件响应路由，负责评估、选择与调度。
模型分工显现：前沿模型驱动能力，决策模型驱动效率
一个显著趋势是，决策模型在极小参数规模下实现了与通用模型竞争的质量。开源模型THX-01仅含3.22亿参数，在多语言客服工单分类测试中准确率达98.4%，略高于Jev 1.13的97.4%，GPU推理延迟约10毫秒。
这并非小模型的“逆袭”，而是模型分工的明确化。通用模型擅长处理开放、复杂、模糊意图的任务；决策模型则专注于在既定规则和候选动作中做出最优判断。
当业务问题可被定义为状态、标准和有限动作时，专用小模型往往比通用大模型更适合承担高频判断。未来的竞争优势不在于单一模型的规模，而在于任务拆解的清晰度以及不同模型间的协同效率。
对于中国Agent团队而言，竞争壁垒正从模型规模转向场景理解。决策模型的质量取决于训练数据质量和判断逻辑的清晰度。中国企业的机会在于将特定业务场景中的判断逻辑（如升级、等待、转人工的条件）转化为可训练、可部署的决策层。
参数规模已不再是门槛，场景绑定才是核心竞争力。
市场格局可能呈现分层：少数厂商提供基础决策模型和通用API，而更多团队将围绕金融、客服、制造、医疗等具体场景开发专用决策能力。大型模型提供底座，但细分行业的业务规则、例外样本和反馈数据掌握在行业软件商和企业手中。竞争焦点将转化为谁能以可控成本持续做出符合业务要求的判断，并稳定接入实际流程。
落地场景：决策层的本土化实践
国内外在决策模型落地上路径迥异。以微软为代表的国外公司倾向于将通用决策模型API化，按Token计价分发；而中国团队更侧重场景决策的深度嵌入，以开源模型和本地化部署为主，解决具体业务系统中的判断问题。
这一差异源于两方面：一是金融、医疗、政务等领域的数据合规要求严格，闭源API调用受限；二是中国企业Agent落地需与现有业务系统深度集成，决策层需理解具体的业务规则、权限体系和工作流逻辑，这是通用API难以提供的。
模型路由是国内落地最成熟的切入点。办公Agent实践表明，路由调度已成为规模化使用的经济账。但路由仅是起点，决策层更大的价值在于作为业务规则的执行引擎。例如，云知声开源的U2-Decision 4B围绕任务分配、执行可行性及路径完成搭建框架，涵盖智能模型路由、安全决策和工作流路由三大核心能力。
在保险理赔等场景中，前置判断能力至关重要：哪些材料缺失可自动补全、哪些需退回、哪些需人工核验，均需决策层精准判断。
路由解决的是“任务分配给谁”，而企业场景需要做到决策与业务知识绑定，形成可复用的决策资产。Chinese-Jev展示了可行路径：先用千万级通用样本训练中文决策能力，再针对医疗、法律、金融等领域微调。微调后模型在医疗测试集准确率比Jev高4.0%，平均延迟仅15毫秒，加速约17倍。
归根结底，国内团队强调“场景”，实质是强调判断权的归属。当决策能力嵌入业务系统，打通数据并与规则绑定后，Agent才能从简单的问答助手转变为承担责任的生产系统。模型路由只是开始，安全、权限、流程与合规才是真正的主场。将判断转化为企业可复用、可沉淀的资产，这条道路才刚刚开启。
微信号｜TMTweb
公众号｜光子星球