AI巨头联合呼吁：深化推理模型“思维链”监控研究
OpenAI、Google DeepMind、Anthropic及多家机构组成的联盟于周二发布立场论文，呼吁加强对AI推理模型“思维”监控技术的深入研究。
以OpenAI o3和DeepSeek R1为代表的AI推理模型，其核心特征在于“思维链”（CoTs）。该机制将模型解决问题的过程外化，类似人类使用草稿纸演算复杂数学题。作为驱动AI代理的核心技术，随着AI代理日益普及且能力增强，论文作者认为CoT监控或将成为管控AI代理的关键手段。
研究人员指出：“CoT监控为前沿AI安全提供了宝贵补充，使人们得以一窥AI智能体的决策过程。然而，这种可见性未必能持续。我们鼓励业界充分利用CoT的可监控性，并探索如何将其保留。”
论文要求领先开发者探究CoT“可监控”的成因，即影响AI推理过程透明度的因素。作者强调，尽管CoT监控是理解推理模型的关键途径，但其本身较为脆弱，应避免采取降低透明度或可靠性的干预措施，并建议开发者跟踪其可监控性，研究未来作为安全措施的实施路径。
该论文签署阵容豪华，包括OpenAI首席研究官Mark Chen、Safe Superintelligence CEO Ilya Sutskever、诺贝尔奖得主Geoffrey Hinton、Google DeepMind联合创始人Shane Legg等。第一作者来自英国AI安全研究所和Apollo Research，其他签署者涵盖METR、Amazon、Meta及UC Berkeley等机构。
此举标志着AI行业领袖在推动安全研究方面达成团结。当前科技界竞争激烈，Meta正以高薪从OpenAI、Google DeepMind和Anthropic挖角顶尖人才，尤其是专注于AI代理和推理模型的研究人员。
OpenAI研究员Bowen Baker表示：“‘思维链’技术看似有用，但若不被重视，几年后可能消失。发表此立场论文旨在吸引更多研究与关注。”
自2024年9月OpenAI发布首款推理模型o1预览版以来，Google DeepMind、xAI和Anthropic等迅速推出竞品，部分模型在基准测试中表现更优。但业界对推理模型工作原理的认知依然有限，性能提升并未同步带来对其决策机制的深入理解。
Anthropic在可解释性领域处于领先地位，CEO Dario Amodei承诺到2027年揭开AI黑箱并加大投资，同时呼吁同行加强研究。早期研究显示CoT并非完全可靠的指标，而OpenAI则认为其未来有望成为追踪模型对齐与安全性的有效方式。
此类立场论文旨在释放信号，引导更多资源投入CoT监控等新兴领域。尽管头部公司已在开展相关研究，但该论文有望进一步激发资金与学术界的投入热情。