大数跨境

24 天估值暴涨 37 倍,这就是 AI 圈年度爽文

24 天估值暴涨 37 倍,这就是 AI 圈年度爽文 APPSO
2026-10-10
4
导读:LLM 给人用,决策模型给代码用
非文本 AI 模型 Jev 近期引发市场关注,其背后的 TypeSafe 公司获得由 a16z 领投的 8.7 亿美元融资,估值飙升至 75 亿美元。相较于 9 月 15 日发布时 2 亿美元的估值,短短 24 天内翻了 37 倍。
Jev 发布数日内用户突破百万,三周后单日处理 Token 达数万亿量级,约三分之一的财富 500 强企业已投入使用。与此同时,决策模型赛道迅速升温:OpenAI 推出 Decisions API,开源平台 vLLM 发布 6 款决策模型,微软也正式发布了 Microsoft-Decision-1。
决策模型不具备聊天、编程或文档总结能力。其核心功能是在给定上下文和预设候选答案后,快速返回每个选项的校准概率。这一技术的爆发,根本原因在于 Agent(智能体)应用的规模化落地。
在 Agent 任务中,存在大量分支判断,如模型路由、工具调用放行、流程终止等。这些判断答案空间有限但调用频次极高。若使用前沿大语言模型(LLM)处理每一次判断,将导致延迟叠加和成本激增。微软技术博客指出,随着 Agentic AI 成为现实,成本已成为决定 AI 应用方式的关键因素。

决策模型的技术原理与应用

从文本生成到概率输出

传统大模型通过逐 Token 生成文本来回答问题,即使要求输出 JSON 格式,仍面临格式错误、解释混入等问题。微软发布的 Microsoft-Decision-1 则采用不同路径:输入为“证据+问题+固定选项”,模型通过单次前向传播直接输出各选项概率。这些输出专为程序调用设计,而非供人类阅读。
例如,当 Agent 准备调用外部工具时,Decision-1 可在“继续执行”、“重试”、“换工具”、“转人工”之间给出概率。应用程序依据阈值决定下一步操作:

置信度足够高,直接执行;

多个选项概率接近,交给更大模型处理;

出现无法判断情况,转人工复核。
Decision-1 支持 Yes/No、多选、评分及分类任务,也可基于既定标准对 AI 回复或 Agent 动作进行打分。其单次调用最多处理 32K Token,输入输出均为文本与 JSON,不生成解释或推理过程。该模型以 Qwen3.5-9B 为基座,利用微软公开数据集及合成数据训练而成。
本质上,这类模型扮演“评分器”角色:大模型负责提出方案或生成回复,决策模型负责校验方案合规性及回复可用性。它作为 Agent 基础设施的一层存在,旨在提升效率而非取代通用大模型。

性能优势与校准概率

微软数据显示,Decision-1 在 36 个测试集、近 15 万道题中取得最高准确率,速度比 Quyet-1.0-Large 快 4.5 倍,比 GPT-6 Sol 快 35 倍。其核心优势在于“校准概率”:当模型宣称有 90% 把握时,实际准确率确实接近 90%。这使得开发者可以设定明确阈值,实现自动化决策与人机协作的高效平衡。

巨头入局与开源生态

OpenAI 与 vLLM 的动态

OpenAI 此前在开发者大会亮相的 Decisions API 现已开放公测,由 GPT-6 Luna 驱动。该 API 支持基于图文的条件概率判断、预设选项选择及标准化评分,适用于投诉分流、图片审核、模型路由和风险筛查等场景。
图|https://platform.openai.com/decisions
相比通过 Responses API 调用同一模型,Decisions API 在特定任务中速度最高可提升 10 倍,每百万输入 Token 收费 0.10 美元,且不收取输出及缓存费用。
开源社区方面,vLLM 推出了 6 款基于不同版本 Qwen 模型后训练的决策模型。据统计,当前涌现的多数决策模型均基于千问系列,仅 OpenAI 的 Decision API 和 Jev 除外。
网友汇总显示,除少数例外,大多数决策模型源自千问系列。
图|来源:X@Michaelzsguo
在 vLLM 的 Decision 2.0 首页可体验这些模型的运行逻辑,其适用场景包括:

请求分类、模型路由、搜索结果相关性判断;

对 AI 回复或 Agent 动作进行打分;

安全拦截、数据校验、工单分流;

从固定动作中选择下一步;

大规模文本标注。
以 LLM 路由为例,针对“17 x 24”这类简单计算,决策模型可快速输出关于模型选择、复杂度、是否尝试越狱、所需工具、事实核查需求及延迟优先级等六个维度的决策概率。
图|https://huggingface.co/spaces/vllm-sr/decision-studio

处理模糊判断的新范式

传统代码擅长处理明确规则(如文件后缀判断),但难以应对“客服消息是否紧急”、“检索内容是否回答问题”等模糊语境。Jev 等决策模型正是为解决此类模糊判断而生,同时保持分支控制权在代码手中。
图|https://x.com/akshay_pachaar/status/2101037514945597645
严格来说,分类器、重排模型、奖励模型等早已具备受限选择处理能力。决策模型的创新之处在于将这些能力封装为跨任务的标准接口:应用声明问题、候选项及评分标准,模型返回类型化结果和概率。

廉价智能重塑软件架构

TypeSafe 将 Jev 定义为首个 System One Model,其核心吸引力在于极致的低成本与低延迟:部分任务延迟低至 70–500 毫秒,输入价格仅为每百万 Token 0.042 美元。据称,在特定场景下,其速度和成本优势可达通用大模型工作流的数十至数百倍。
对于需频繁进行小型判断的 Agent 工作流,这意味着许多过去因成本高昂而无法调用 AI 的任务变得可行。
图|创始团队 20 多人:CEO Diogo Almeida(前 OpenAI 研究员)、Sasha Sheng(前 Meta)、Erik Gafni。
Jev 创始人 Diogo 表示,过去十年软件形态变化甚微,仅是在侧边栏增加聊天机器人,并未让软件真正理解意图或自主完成工作。AI 虽加速了软件开发,但尚未让软件本身变得更智能。Jev 的价值在于以传统软件可承受的成本,嵌入最新模型的能力。
图|人工智能在三年内衰落的幅度,相当于个人电脑在15年内的衰落幅度。
人类向 AI 提问的次数有限,但软件每日处理的判断可达千万级。当单次判断成本低至忽略不计,AI 的使用规模将不再受限于用户主动打开聊天框的频率。
过去几年,行业致力于提升智能上限以解决复杂问题;如今,竞争焦点转向让最微小、普通的判断也能值得调用一次 AI。TypeSafe 估值的暴涨以及微软、OpenAI 的入局,预示着这样一个未来:人们未必会使用更多独立的 AI 产品,但日常使用的每一款软件背后,都可能隐含成千上万次 AI 调用。
【声明】内容源于网络
0
0
APPSO
AI第一新媒体,「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
内容 15816
粉丝 0
APPSO AI第一新媒体,「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
总阅读502.2k
粉丝0
内容15.8k