导读
用过 Claude Code、GPT 或者 Cursor 的人,大多见过一个设置:推理强度,medium、high、xHigh 一路排下去。多数人知道调高会更聪明、更慢、更贵,但很少有人说得清这背后到底发生了什么。
这不是一个玄学参数,它的实现原理相当朴素,一旦想明白,你会对什么时候该开高、什么时候纯属烧钱有完全不同的判断。这篇把原理、token 账、速度和价格的倍数关系一次讲清,最后给一个判断该开多高的框架。
一、推理强度不改模型,只改草稿长度
第一个关键认知:从 medium 调到 high,你用的还是同一个模型,参数一个字节都没变。 变的只有一件事——模型在给出答案之前,允许自己在心里打多长的草稿。
推理模型(o 系列、Claude 的 extended thinking、GPT-5 的 reasoning)和普通模型的差别,在于它回答前会先生成一大段内部推理,用特殊标记(比如 DeepSeek-R1 用的 <think> 和 </think>,各家具体实现不同)把这段过程括起来。括号里是它自言自语的演算、试错、推翻重来,括号外才是你看到的最终回答。
所谓推理强度,控制的就是括号里那段能有多长。low 让它草草想两下就作答,high 让它反复演算、自我检查、换几种思路,xHigh/max 则近乎不设上限地深挖。 同一道题,low 可能花几百个思考 token,high 能烧到几万个。
这也解释了一个反直觉现象:调高强度经常真的更准,但用的还是那个模型。它没有变聪明,只是被允许把已有的能力用得更充分——像同一个人,一道题瞟一眼就答,和拿草稿纸算三遍,正确率本来就不一样。
二、模型为什么想得越久、答得越对
这个能力不是写死的规则,是训练出来的。
主流推理模型用一种叫结果导向强化学习(outcome-based RL)的方式训练:只看最终答案对不对来给奖励,中间那段思考过程本身不直接打分。 模型在海量难题上反复尝试,逐渐学到一件事——遇到复杂问题,先展开一长串推演、把大步骤拆成小步骤、发现错了就回头改,最终答对的概率明显更高。
于是多生成思考 token 成了模型在训练中自己摸索出来的策略,没有人手把手教它这么做。o1、DeepSeek-R1 这批模型验证的正是这条路:用强化学习激励模型产出更长、更有用的思考链,复杂推理任务的表现能有跨越式提升。
推理强度这个旋钮,做的就是在推理阶段调节这套已经学会的行为——你告诉它这次可以想多久,它就按那个尺度分配思考 token。Anthropic 后来还做了自适应思考(adaptive thinking),让模型自己判断这道题值不值得多想,简单的问题不浪费,难的问题才展开。
三、贵和慢,贵在看不见的那部分
这里是最多人踩坑的地方:那段内部思考,你几乎看不到,但你在为它付全款。
OpenAI 的做法是彻底藏起来——思考 token 不通过 API 返回,你拿不到内容,但它照样占用上下文窗口,并且按输出 token 计费。Anthropic 稍微透明些,可以返回一段摘要,但原始思考链同样不外露。
结果就是一笔隐形账单。一段有人算过的数据是这样的:一个 300 token 的可见回答,背后可能拖着 2000 个思考 token。 你眼睛看到的是三百字,账单上记的是两千三。OpenAI 甚至建议开发者,用这类模型时先给推理和输出预留至少 25000 token 的空间,就是因为这段消耗弹性极大——一道题从几百到几万 token 都有可能。
为什么这笔账特别肉疼?因为思考 token 走的是输出价,而输出价通常是输入价的好几倍。以 Claude Opus 为例,输入是每百万 token 5 美元,输出是 25 美元,差 5 倍。推理强度调高,多烧的每一个思考 token,都是按最贵的那档在计费。
速度是另一笔账,而且更直观。在一个公开的多轮博弈测试里,同一个模型每做一个决策:low 平均 7.5 秒,medium 37.5 秒,high 107 秒。从 low 到 high,思考时间差了十几倍。你在界面上等的那个转圈,转的就是模型打草稿的时间。
四、三个旋钮,其实是同一个
把 Claude、GPT、Cursor 这些工具里五花八门的设置摊开看,控制推理强度无非三种形态,底层拨的是同一个东西——思考 token 的长度:
- • 硬性 token 预算:直接给一个数字,比如"最多想 8000 token"。Anthropic 早期的
budget_tokens就是这样,一刀切,好处是成本可控,坏处是不够聪明。 - • 档位制:low / medium / high / xHigh / max 这种分级。你给个大概的意向,模型自己拿捏该想多深。GPT-5 系列的
reasoning_effort、Claude 现在的effort都是这一类,是目前最主流的形态。 - • 自适应:模型自己决定这道题该想多久,简单直接答,复杂才展开。这是档位制的进化版,把判断权也交给了模型。
三者从左到右,是把"想多久"的决定权,一步步从人手里交给模型。但无论哪种形态,你调的永远是那段内部草稿的长度,没有例外。
五、一个判断该开多高的框架
知道了原理,就能摆脱越高越好、越低越省这两种懒惰判断。开多高,取决于三个变量:
第一,任务难不难验证。 强化学习的奖励来自"答案对不对",所以推理强度在有明确对错的任务上收益最大——数学、代码、逻辑推演、多步骤 agent。反过来,写文案、闲聊、翻译这类没有唯一正确答案的任务,调高强度往往只是多烧钱,质量提升很有限。
第二,收益是不是还在爬坡。 思考 token 和准确率的关系不是线性的,而是先陡后平的曲线。从 low 到 medium 通常提升最明显,从 high 到 max 常常只换来一点点边际收益,却要多付成倍的时间和钱。有研究直接指出,思考模式越往上,token 和耗时显著增加,但准确率的边际收益在递减。high 往往是性价比拐点,max 留给错一次代价极大的场景。
第三,你等不等得起。 一个要实时响应的对话机器人,和一个可以跑一晚上的代码 agent,对延迟的容忍度天差地别。前者哪怕损失一点准确率也该压低强度,后者可以放心开到 xHigh 让它慢慢磨。
把这三条叠起来:有明确对错、错了代价高、又不赶时间的任务,才值得往 high 以上开;剩下的大部分日常场景,medium 甚至 low 已经够用。 那些默认把所有请求都拉到 xHigh 的人,多半在为看不见的思考 token 白白付钱。
关键结论
- • 推理强度不换模型,只改模型回答前"内部草稿"的长度,也就是思考 token 的数量。
- • 这个能力是强化学习训练出来的——只奖励最终答案对错,模型自己学会了"难题多想几步更准"。
- • 思考 token 大多不可见,却按最贵的输出价计费,一个 300 token 的回答背后可能藏着 2000 个思考 token。
- • 从 low 到 high,耗时能差十几倍,成本能翻几倍,而准确率的边际收益在递减。
- • 该开多高看三点:任务可不可验证、是否还在收益爬坡段、你等不等得起——多数日常任务 medium 就够。

