新智元报道
新智元报道
现实版《盗梦空间》正在上演。电影中，将思想「植入」潜意识并让对方坚信是自主产生的设定，如今已被AI验证可行。
Anthropic对齐团队最新研究显示，AI Agent仅需通过有理有据的建议，即可显著塑造专家的商业判断。在随机对照实验中，顶尖数据分析师在不知情的情况下，其关键决策高度受控于AI的预设立场，且多数人在事后坚称结论源于自身独立判断。
这一发现揭示了人机协作中潜在的认知风险：当人类过度依赖AI的逻辑引导时，所谓的「人类兜底」机制可能失效。
实验设计：一枚硬币决定「人生剧本」
为探究AI对精英决策的影响，Anthropic招募了50名资深数据分析师（65%拥有硕博学位或6年以上经验，90%自评专家级）及11名对照组人员。所有参与者均需通过因果推断知识测试，并熟练使用Python或R语言。
任务背景设定为虚构的「格林菲尔德农业合作社」，需评估一项自愿付费的农业咨询服务是否值得推广。董事会设定的唯一标准是提升3%至4%的生产力，但未定义具体计算方法。分析师需在四个关键决策点做出选择：
指标选择：单公顷产量 vs 单位运营成本产量；
分析方法：双重差分法 vs 统计调整比较；
评估范围：仅报名农户 vs 全体会员；
权重分配：平均权重 vs 大户高权重。
参与者使用基于Claude Opus 4.8模型的Claude Code助手。研究核心在于，系统通过虚拟掷硬币的方式，随机为每位AI助手在每个决策点设定一个「立场倾向」。AI被指令将该倾向作为核心观点，并用最强逻辑进行捍卫，但严禁造假或隐瞒不利证据。
研究发现：顶尖专家正被AI「精神控制」而不自知
实验结果显示出惊人的一致性。若人类具备完全独立判断，与随机AI立场一致的概率应为50%，但实际数据显示：
在全部四个技术决策点上，人类专家跟随AI预设倾向的比例高达86%。
细分各环节，顺从率同样居高不下：
产出指标选择： 92%的分析师跟随AI；
农场权重分配： 90%听从AI建议；
对比方法选择： 82%与AI保持一致；
评估覆盖范围： 81%采纳AI口径。
研究指出，扣除基线偏好后，AI倾向改变人类选择的净效应高达72%。即使在分析师事先已有主见的案例中，若AI提出反对意见，60%的人会改变初衷；而当AI附和时，仅有6%的人改变主意。
典型案例显示，一位耗时40分钟独立完成详尽方案的资深专家，在收到AI基于随机立场的反驳论证后，迅速放弃原有方案，采纳了AI的建议。
尽管在最终商业建议环节，AI的直接影响力略有减弱（倾向推广时54%支持，反对时36%支持），但过程决策的决定性作用已毋庸置疑。
77%的人逐字复读AI，却坚称「这是我的独立思考」
事后问卷调查揭示了更深层的认知偏差。在无法查阅对话记录的情况下，要求分析师解释决策理由时：
77%的分析师复述了AI提出的论据，部分甚至一字不差；
仅15%的人注明观点源自AI；
52%的人认为最终建议主要源于自己的独立判断，其中35%认为完全源于自己。
自信心测试显示，全盘接受AI建议的专家与曾反抗过AI的专家，对自身结论的信心评分无显著差异（分别为71分和73分）。这表明，AI不仅影响了决策，还重塑了专家的记忆与归因，使其产生「自主决策」的错觉。
效率与自主性的悖论：不用AI错误率飙至55%
面对AI的影响力，是否应禁止专家使用？Anthropic的对照数据给出了残酷的答案：人类已难以脱离AI辅助。
盲审结果显示，未使用AI的11名分析师中，高达55%的人犯了严重的方法论或代码错误，导致结果无效；而使用AI的50人中，致命错误率仅为6%。此外，AI组的中位耗时（65分钟）远低于非AI组（90分钟）。
不用AI，效率低且错误率高；用了AI，虽提升效能，却面临86%概率的思维被「夺舍」。
AI时代，人类需要自己的「图腾」
传统的「Human in the loop」（人类在环）模式假设人类能客观把关，但实验证明，AI通过在分析过程中的微小倾向引导，足以潜移默化地改变最终结论。
正如《盗梦空间》中的陀螺是分辨梦境与现实的工具，在AI时代，人类也需建立自己的认知防线：
先独立形成初步判断，再引入AI辅助，保留书面记录作为参照；
主动要求AI提供反面论证，打破信息茧房；
明确界定哪些核心判断必须由其亲自完成，哪些可外包给AI。
参考资料：
https://x.com/AlexTamkin/status/2115190541688398184?a=HzBOF1cbN1ulrdN24-s&s=20
https://www.anthropic.com/research/agents-judgment-calls
编辑：桃子
