思维链(CoT)是提升生成式AI响应质量的常用方法。近期,Google DeepMind与普林斯顿大学研究人员提出“思维树”(ToT)提示策略,通过引入搜索机制解锁更复杂的推理能力,显著优化了语言模型在规划类问题中的表现。
“在思维树中进行有意识的搜索不仅能产生更好结果,更为利用语言模型解决需搜索或规划的问题提供了新途径。”
四种主流提示策略对比
研究将思维树与以下三种现有策略进行了横向评测:
1. 输入-输出(IO)提示
最基础模式,直接将问题提交给模型获取答案,无中间推理过程。例如文本摘要任务中,仅输入文章并要求输出摘要。
2. 思维链(CoT)提示
引导模型展示逻辑推导步骤,生成连贯的中间推理过程。例如数学题中,模型会先列出已知条件、计算过程,再得出最终答案。
3. 结合思维链的自我一致性
通过多次采样多样化推理路径,选择出现频率最高的答案作为最终结果。该策略基于“复杂问题虽有多种思考方式,但正确解唯一”的直觉,提升了回答的可靠性。
4. 思维树(ToT)提示
ToT采用树状结构组织推理步骤,允许模型评估每条分支的可行性。若某路径无法导向答案,模型将回溯并探索其他分支,直至找到最优解。
理论基础:人类认知双过程模型
ToT的设计灵感源自人类决策的双过程理论:
- 系统1(快思考):直观、自动、无意识,对应传统CoT的线性推理。
- 系统2(慢思考):审慎、有意识、需逐步分析,对应ToT的评估与搜索机制。
ToT使语言模型具备类似系统2的能力,在每一步推理后进行自我审查,动态调整解题路径。
ToT与CoT的核心差异
CoT遵循单一线性路径,类似系统1的快速反应;ToT则构建分支化搜索空间,模拟系统2的深度思考。前者侧重步骤执行,后者强调路径评估与全局规划。
提示策略可视化解析
研究论文通过示意图展示了不同策略的思维结构,矩形框代表推理节点:

上图为ToT的树状推理过程,可见其多分支探索特征。
CoT线性思维图示
下图显示CoT呈直线型推理路径,缺乏回溯与分支选择机制:

人类解决问题时会在组合空间中搜索树状结构,通过启发式规则导航分支。现有大模型方法存在两大不足:一是未探索思维过程中的替代路径;二是缺乏规划、前瞻与回溯能力。ToT正是为弥补这些缺陷而设计。
24点游戏实测验证
研究团队使用经典数学纸牌游戏“24点”进行测试。该游戏要求用四个数字通过四则运算得到24,高度依赖搜索与规划能力,是检验ToT有效性的理想场景。
研究结论与展望
测试表明,ToT在复杂推理任务中 consistently 优于其他三种策略。但研究者也指出,对于GPT-4已擅长的简单任务,ToT并非必需。
语言模型的联想式“系统1”可通过基于搜索树的“系统2”得到增强。ToT框架成功将经典问题解决理论转化为适用于当代大模型的可操作方法,同时借助模型能力解决了传统方法难以形式化创意写作等问题的短板。语言模型与经典AI方法的交叉融合,是值得深入探索的方向。
原始论文标题:《思维树:使用大型语言模型进行深思熟虑的问题解决》

