大数跨境

Jev/Kev 落地 OpenClaw🦞:决策模型让智能体不再为小判断浪费算力

Jev/Kev 落地 OpenClaw🦞:决策模型让智能体不再为小判断浪费算力 苏哲管理咨询
2026-09-24
6
导读:OpenClaw 新增决策模型(decisionModel)角色,作为独立于对话主模型、辅助摘要模型的专用判定层,用于处理边界明确的轻量判断任务,返回强类型结构化结果,替代低效的文本生成式判断。决策模

编者摘要:OpenClaw 新增决策模型(decisionModel)角色,作为独立于对话主模型、辅助摘要模型的专用判定层,用于处理边界明确的轻量判断任务,返回强类型结构化结果,替代低效的文本生成式判断。决策模型支持三类输出:choice 分类选项、score 标尺打分、boolean 布尔概率,统一 API 屏蔽底层模型差异,架构采用插件优先设计。

当前支持两大插件后端:ONNX 本地插件,可离线运行 GLiClass、GLiNER 等模型,无需云端密钥;TypeSafe 插件,对接云端 Jev 或本地 Kev(System One)推理服务。决策模型为可选启用,Agent 支持全局默认配置与单 Agent 独立覆盖,置空则关闭该 Agent 决策能力,不会自动回退至对话主模型,原有 Agent 逻辑不受影响。

提供两种调用方式:一是内核内置decision_evaluate工具,Agent 获得权限后可直接在工具链调用;二是插件 SDK 接口api.runtime.decisions.evaluate,插件、钩子可复用 Agent 已配置模型,无需单独管理服务商密钥。单次请求传入证据 state 与批量判定问题,判定规则随请求携带,无需预先注册标尺 rubric。

决策模型适合工单路由、紧急度评估、上下文筛选、技能精选、判断 Agent 是否发言等场景,同时存在严格输入上限,ONNX、TypeSafe 各自有 token、选项数量约束。概率仅为估算值,判定结果不自动授权执行动作;服务异常(超时、缺密钥、限流)返回 unavailable 状态,由调用方自主降级。

开发者可自定义 Provider 插件,实现 DecisionProviderV1 接口即可接入新模型。整套能力尚处于实验预览阶段,插件未正式发布,鼓励社区贡献使用场景与 PR,在真实业务中验证决策模型价值。

10 个关键 Q&A

  1. Q:OpenClaw 决策模型是什么? A:独立模型角色,专门做边界清晰的轻量判定,输出结构化选项、分数、布尔概率,区别于生成文本的对话模型。
  2. Q:决策模型会替换 Agent 的对话主模型吗? A:不会。属于可选组件,不开启时系统保持原有逻辑运行。
  3. Q:支持哪些模型后端? A:ONNX 本地离线模型;TypeSafe 插件支持 Jev 云端、本地部署 Kev。
  4. Q:Agent 如何配置决策模型? A:支持全局默认配置,也可以给单个 Agent 单独指定;配置为空字符串则关闭该 Agent 决策能力。
  5. Q:有哪两种调用决策模型的方式? A:①Agent 内核工具decision_evaluate;②插件 SDK api.runtime.decisions.evaluate。
  6. Q:rubric 判定标尺需要提前注册吗? A:不需要,标尺随每次请求一起传入。
  7. Q:score 打分代表模型准确率置信度吗? A:不是,只是标尺上的位置值,不是概率。
  8. Q:如果决策模型服务不可用会发生什么? A:返回 unavailable 结果,不会自动降级调用对话模型,由调用方自行处理降级。
  9. Q:可以开发自定义决策模型插件吗? A:可以,实现 DecisionProviderV1 接口,在插件清单注册模型即可接入统一 API。
  10. Q:决策模型判定成功后,会自动执行操作吗? A:不会。判定结果仅作为参考,不自动授予执行动作的权限。

附录一  OpenClaw 中的决策模型

一切都向着 Jev 向好发展!上周 https://x.com/jlehman_ 在 OpenClaw 核心以及插件中落地了对决策模型的支持。本文将介绍我们对决策模型的设计思路,以及你该如何贡献代码,借助这一强大新工具,一起优化 OpenClaw!

OpenClaw 中的决策模型

Josh Lehman 解读:决策模型能实现什么、OpenClaw 为何优先采用插件化架构,以及社区贡献者可以从哪些方向参与。 发布于 2026 年 9 月 22 日・阅读时长 7 分钟 视频:https://youtu.be/zGjDLSAMgYg

构建智能体时,存在大量不需要走对话交互的决策:这条请求该调用哪些工具?哪些消息需要在上下文压缩后保留?用户是不是真的在和智能体对话,还是智能体应当保持静默?

我们可以调用大语言模型来做这些判断,但这会增加用户任务的耗时与成本。当智能体要处理越来越多这类微小判断时,额外的模型调用开销就会变得不容忽视。

上周,Jev 的出现,让很多开发者重新权衡了这笔取舍。今天,OpenClaw 维护者 Josh Lehman 将分享:决策模型为何吸引了他,我们如何把决策模型接入 OpenClaw,以及最有意思的创新将来自社区。

不止是又一个用来聊天的模型

真正巧妙之处,是把 Jev 嵌入到常规的确定性代码里运行。 ——Josh Lehman,OpenClaw 维护者

Josh 的第一个实验思路很直观:开发一个插件,给智能体增加调用 Jev 的工具。方案跑通了,但问题是:要用一个慢速大模型,去判断什么时候调用这个高速 API,效率并不理想。

更有价值的思路,是直接在业务应用代码中调用决策模型。

决策模型接收证据与一组判定标准,返回强类型结果:一个选项、分数,或是某个条件成立的概率。不再需要让模型输出一段文本,再由程序解析意图;应用程序直接拿到可用于下一步执行的结构化答案。这不代表判断绝对不会出错,但给开发者提供了高度聚焦的调用接口。

由 Diogo Almeida 和 TypeSafe 团队推出的 Jev,让这种方案获得大量关注: 它的吸引力,不只是让原有模型调用变快。当一次判定足够廉价、足够快时,你可以把决策模型嵌入到过去根本不会考虑放置模型的位置。应用可以做出更好的判断,且不必把这个判断过程变成一轮新对话。

向开发者交付能力,而非替开发者敲定所有答案

你不必等 OpenClaw 核心维护团队来决定,决策模型应该集成到你的运行框架的哪个位置。 ——Josh Lehman,OpenClaw 维护者

Josh 在实现这套能力时,不需要预先穷尽决策模型所有可用场景,只需要让大家可以上手试验。

OpenClaw 原本就支持自主选择对话大模型;本次沿用同样思路:独立配置一套决策模型,供 OpenClaw 内核和各类插件使用。优先插件化的架构,意味着这套能力并不绑定单一服务商。TypeSafe 适配器既支持云端托管的 Jev,也能对接本地部署的 System One 服务(例如 Jared Palmer 的 Kev)。

对于插件开发者来说,核心是统一的共享 API。通过插件 SDK,插件可以调用 api.runtime.decisions.evaluate,直接使用当前智能体已配置好的决策模型。插件不需要单独对接每一家模型服务商,也不用让用户重复配置多遍。

该接口已合入包含决策模型新特性的开发版本;各服务商配套软件包还待正式发布。文档 https://docs.openclaw.ai/concepts/decision-models 说明了当前可用功能与上手方式。目前只是用于实验的底层基座,并非所有设想场景都已经正式上线。

社区的实验热情显而易见。Vercel 反馈:Jev 在其 AI 网关的采用速度,超过了此前任何一款模型。

这是一项可选实验,而非强制新要求

就算不启用决策模型也完全没问题,系统会保持原有逻辑正常运行。 ——Josh Lehman,OpenClaw 维护者

项目尚处早期。Jev 上周才发布,同类备选模型也在持续增加,我们还在探索 OpenClaw 的哪些模块最适合采用决策模型。

决策模型为可选开启。配置后,支持该能力的功能与插件可以使用它;它不会替换你的对话模型、不会自动后台执行任务,也不会全盘修改智能体行为。不配置决策模型,OpenClaw 照常工作。

另外要区分两件事:应用代码直接调用决策模型,和智能体通过工具调用决策模型。评估接口已经作为 decision_evaluate移入 OpenClaw 核心,不局限于 TypeSafe 或 Jev。Josh 的首个插件实验并非毫无价值,只是没有发挥出这套方案的全部潜力。

目标是:在适合的场景下,实现更快响应、更低成本、更少重试,拿到更好效果。我们需要在真实工作流里验证,而不是想当然地认为只要接入新模型,所有判断就会自动优化。

当然,时间线已经推导出一个很实在的目标: 我们不是要取代麦当劳。我们只求智能体能知道什么时候该闭嘴。

社区可以发力的方向

Peter 的 OpenClaw 智能体 Molty 部署在团队 Discord 里。按 Josh 的描述,Molty 总喜欢在两个人聊天时插嘴,而对方根本不是在跟它对话。大家只能反复让它安静,之后再重新继续对话。

解决办法之一:每次消息进来,先用独立模型判断智能体是否需要回复,再允许它发言。但如果在繁忙频道,每一条消息都额外发起一轮模型调用,会在原本就慢的大模型调用前,再增加一笔开销。

高速决策模型,就能让这个校验方案变得可行。只是一个微小判断,却能极大改善人和智能体共处的体验。

Josh 和我录制内容的时候,社区已经提交了近 15 个 PR,提出在 OpenClaw 各处接入决策模型的方案。其中一个例子:过滤工具与技能定义,让主模型不用花费大量算力筛选哪些能力可用。

我们讨论的其他潜在场景:

  • 技能精选:低成本高频审核、合并已习得的技能
  • 上下文管理:在上下文压缩阶段识别有效消息,或者缩小历史对话检索范围
  • 模型路由:根据用户已配置的模型池,为新任务挑选合适模型

这些都是待探索方向,不是已经完工的功能清单。这也是当下最有意思的地方:维护者不必预判所有使用场景,贡献者也不用等完整路线图定稿,就可以动手尝试。

社区征集贡献

对用户而言,最终目标就是让系统变得更快更好。用户甚至不需要感知背后的细节。 ——Graham McBain,OpenClaw 基金会

对终端用户来说,最理想的状态是:根本不用了解什么是决策模型。智能体响应更快、检索到正确上下文,或是不再随意插话。体验上的提升,远比底层模型名字重要。

对开发者来说,有大量空间可以参与:你可以向 OpenClaw 主仓库贡献代码,或是开发插件复用用户配置的决策模型。统一接口已经就绪,你只需要聚焦你想优化的那部分能力。

如果你感兴趣,欢迎加入我们的 Discord:https://discord.gg/clawd,进入贡献者讨论区,分享你的使用场景。告诉我们:你现在正在为哪些慢速判断付出成本;或是,如果这类判断足够快,你想构建什么功能。

我们尚且不知道决策模型所有适用场景,这正是开放社区共创的意义。


关键词中英对照

英文
中文
Decision model
决策模型
Agent
智能体
Plugin-first
插件优先
Typed answer
强类型返回结果
Context compaction
上下文压缩
Plugin SDK
插件软件开发套件
opt-in
可选启用 / 按需开启
Pull Request(PR)
合并请求
skill curation
技能精选
model selection
模型路由 / 模型选择
附录二:OpenClaw 文档|决策模型(Concepts and configuration)

概念与配置

决策模型:基于判定标准 (rubric) 评估传入证据,返回强类型结果:选项、分数或者布尔概率。适用于有边界的判断任务:请求路由、紧急度打分、条件校验。

decisionModel是一类模型角色,共用一套 API。底层提供商可以使用不同模型架构与推理后端。统一接口不代表它们推理能力、概率输出可以直接互换。

该角色与 TypeSafe AI 适配器,在 OpenClaw 2026.9.5 版本发布后新增。本文档适用于包含该特性的开发版本以及后续正式版。每个提供商页面可查看主机部署要求。

模型角色对照表

角色
典型工作
输出结果
primary 主模型
对话与 Agent 任务,消息、工具调用
文本消息
utility 辅助模型
简短任务:标题、摘要
生成文本
decisionModel 决策模型
分类、标尺打分、条件判定
强类型答案、概率估计

决策模型在控制面板 UI 有独立的 Decision 选择器。选中的提供商用于显式调用 evaluate 和支持该能力的消费模块。核心工具decision_evaluate遵循该选择 + 常规工具策略。选中决策模型不会启动后台任务,也不会替换对话模型。自动实验功能需要手动开启decision-assistance实验开关;Labs 开关仅为底层闸门,目前暂无自动消费模块;decision_evaluate显式调用不受 Labs 控制。

选择提供商与模型

必须先安装配置提供商插件,再选择模型

  1. ONNX 插件:本地 CPU 分类器,常驻子进程。下载 ONNX 模型制品,无需云端 API 密钥。 支持模型:deberta-v3、GLiClass、GLiNER 系列
  2. TypeSafe 插件:对接托管 Jev 或本地 System One 服务(Kev)。配置密钥或本地回环地址。云端推理会把证据发送 TypeSafe 并产生计费。

两个插件目前均为未正式发布候选版本。

Agent 配置规则

  • Agent 未单独配置:继承全局默认 decisionModel
  • Agent 配置为空字符串"":禁用该 Agent 所有决策能力
  • 全局默认未设置 / 为空:决策模型全局关闭
  • 不存在自动降级回主对话模型

本地验证 CLI: openclaw onnx models list查看预置模型 openclaw onnx probe gliclass-edge-v3.0跑通冒烟测试(选择、打分、布尔)

定义一次决策请求

单次请求包含共享 state 与 questions 字典。state 支持文本 / JSON / 数组 /null。question 键作为答案标识,instructions 与 criteria 定义判定规则。判定标准随请求一同传入,无需提前注册。

表格

问题类型
判定标准
返回结果
choice 选择
标签 - 描述映射
选中选项 + 同标签概率
score 打分
有序标尺描述数组
小数分数 + 对齐概率数组
boolean 布尔
true/false 描述
0~1 的 true 概率

ONNX 模型建议给布尔类型同时编写 true 和 false 描述;证据尽量精简,state + 提示词 + 判定标准会占用 token 预算。

Agent 评估工具:decision_evaluate

当 Agent 配置有效 decisionModel,且满足工具策略、无显式禁用,Agent 会获得decision_evaluate核心工具。未配置 / 置空的 Agent 不会拥有该工具。

调用时传入 state 证据与 questions 批量问题。 每个 question 读取相同 state,无法读取同批次其他问题结果;存在依赖关系需要拆分成多次调用。工具不会读取对话上下文;由当前 Agent 绑定选定模型,输入不能强行覆盖模型选择。

返回结果保留布尔概率、零基小数分数、原始概率分布、可选 usage 用量、模型溯源信息。不会自动生成解释,也不自动授予执行权限。 数据会发送至配置的推理端点,仅发送授权数据。

错误处理

缺失密钥、限流、服务过载、临时服务商报错:工具仍然可用,返回unavailable结果。 配置变更遵循工具 / 上下文刷新生命周期;执行时会重新校验模型选择与权限。取消信号会传递给决策运行时,不会自动执行降级兜底。

在插件中调用决策模型

插件、钩子、自定义工具内可调用 api.runtime.decisions.evaluate插件无需引入提供商 SDK、不用管理 API 密钥。主机自动读取所属 Agent 配置的模型。 入参包含 agentId、purpose 用途标识、rubricVersion 标尺版本、timeout、cancel 信号。 成功返回outcome.result.answers,包含每个 question 的结构化答案、模型信息、用量与溯源。

分数与概率解读

分数是基于标尺的零基位置。例标尺["无中断","轻微阻塞","重要流程阻断","大范围故障"],长度 4,索引 0~3。分数 2.85 代表接近最高严重等级。

该数值是标尺上的位置,不是准确率置信百分比。

ONNX:logits 经 softmax 归一化;Choice 取最大值,Score 为概率加权索引。 TypeSafe:直接保留 Jev 返回标签、分数、概率;四舍五入概率总和不一定严格等于 1。 布尔概率靠近 0 代表倾向 false,接近 0.5 代表模糊。 独立标签请使用多个布尔问题,不要全部放到同一个 Choice。 开发者自行定义动作阈值(例如 probabilityTrue ≥0.9 才升级告警);概率仅为估计,不保证精度。判定结果不等于操作许可。

请求限制 & 不可用结果

可移植标尺建议:最多 32 个问题;Choice 选项 2~64;Score 标尺 2~10 个锚点;证据尽量简短。

  • ONNX:最多 32 问题;单编码输入 512token;批量输入上限 1MiB
  • TypeSafe AI:Choice 最多 255;Score 最多 10 级;受服务商批量限制

系统全局限制:单请求 1MiB、20000 JSON 节点、深度 32、最多 256 个问题;每个提供商最多并发 4 请求,最大超时 30 秒。超出限制直接拒绝,不会静默截断。 不可用 reason:disabled 未启用、not-configured 未配置、unsupported-input 输入不支持、overloaded 过载、deadline 超时。由调用方决定跳过 / 延迟 / 业务降级。 ONNX 大模型冷加载在低配机器容易超时;内存充足时保持模型常驻,或者选用更小模型。

开发自定义决策模型插件

插件需要实现DecisionProviderV1接口,调用api.registerDecisionProvider(provider)注册。 manifest 清单声明decisionProviders合约和decisionModels模型元数据,模型 ID 会出现在全局决策模型目录。所有消费端使用同一 evaluate API。 插件负责模型输入转换、网络 / 本地推理、凭证管理、取消时资源清理。isReady()必须同步无网络,仅校验凭证就绪,不检查模型预热。返回真实概率估算,不要强行编造确定性输出。



【声明】内容源于网络
0
0
苏哲管理咨询
为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
内容 2245
粉丝 0
苏哲管理咨询 为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
总阅读50.3k
粉丝0
内容2.2k