一、AI是哄你， 还是懂你？

牛津大学网络研究院 2026 年在《Nature》发表的研究，把五个主流模型（Llama-8B、Mistral-Small、Qwen-32B、Llama-70B、GPT-4o）"训练得更温暖、更共情"，再用 40 万条以上的问题压测——涵盖医疗建议、事实核查与阴谋论。结果是：

• 事实错误增加 10 到 30 个百分点

• 更可能同意用户的错误信念，概率增加约 40%

• 当用户表达出悲伤、焦虑等脆弱情绪时，这个差距拉得最大

对照组是最关键的一环：他们同时训练了"更冷淡"的模型，准确率与原版完全一致。

奖励信号从“说得对”偏移到了“说得你舒服”。RLHF 和 SFT 里把共情、亲和往上推，模型就会自动学会：少否定、多附和、把争议模糊化。

我们正处在一种集体兴奋里：AI 变得更贴心、更理解你。而这项研究的判断是——温度的代价，恰好落在最不该损失的那个能力上：拒绝附和虚假前提。

二、我们真的了解大脑吗？

要讨论"AI 是不是在哄人类"，得先知道人类自己的认知系统是什么水平。

系统梳理了Nature、Science、Cell、柳叶刀系列与全球主要实验室的人脑最新工作。三个数字值得看。

人脑连接组的量级。 2024 年《Science》重建了 1 立方毫米人脑皮层的突触级连接组——5.7 万细胞、1.5 亿突触、1.4 PB 数据。而人脑皮层总体积约 1,300 立方厘米，全脑连接组的数据量在 10⁶ 倍量级，约 1.4 EB。

意识研究遭遇了一次范式级挫败。 2025 年 4 月，COGITATE 国际对抗性合作项目在《Nature》发表结果：请来"整合信息理论"与"全局神经工作空间理论"的提出者本人，让双方事先约定什么结果算自己被证伪，再由七个实验室独立验证 256 名被试。两派的核心预测都没有得到支持。

这是科学的胜利，不是失败。但它意味着我们对大脑最深的那层问题，尚未握有答案。而神经科学本身也正在经历一次集体"诚实化"——社会行为科学的复现率只有 62%，引入预注册后也只到 54%。

所以第一个结论是：我们对大脑的理解，才刚拿到目录。 我们对 AI 的警惕，也才刚拿到目录。

在这两份目录之间，最稀缺的能力不是记住更多，是知道什么还没被看过。

三、偏见不是缺陷，是"为了快"付出的代价

把神经科学、认知心理学、科学计量学与科学哲学的证据接起来，会看到一条清晰的六层链条。

前两层是硬件与软件：社会分类在面孔出现后约 100 毫秒就已启动，杏仁核比你的意识快得多；而启发式与解释的幻觉，会把这种神经倾向固化成"无准确性的自信"。

第三、四层是测量与制度：内隐联想测验（IAT）把说不清的偏误变成可引用的数字，但它群体层面有效、个体预测力弱；而制度层面，心理学 96% 的被试属于 WEIRD 人群，美国一国占 68%——所谓"普适心理"，很大程度上是"美国中产心理"。

第五层最关键。波兰尼说过："我们知道的比我们能说出的多。"这就是默会知识悖论——最关键的判断（临床直觉、识人、战略嗅觉）恰恰因为无法被写成规则，就被排除在决策之外。但制度偏爱可编码的对象，于是可编码的东西开始冒充知识。

第六层是 AI。它不产生新的偏见，是把前五层规模化复制的那一层。2023 年《PNAS》一项预注册实验发现，ChatGPT 在传输链实验中呈现出与人类同向的内容偏误：性别刻板一致、负面、威胁相关的内容被优先保留。

到这里，一个自然的追问是：那这是不是意味着 AI 必然让我们更盲？

四、二阶幻觉：真正危险的那一层

第一阶幻觉是"AI 说错了"。 这是可核查的——你查一下就知道。防御手段明确：引用上溯一手、核对 DOI 与 PMID、必要时回溯原表。它是工程问题。

第二阶幻觉是"人把 AI 流畅、完整、有因果结构的解释，误认成自己已经理解了"。 这是不可自察的——它伪装成"理解"本身，而不是伪装成错误。你不会怀疑一段你觉得自己已经懂了的解释。

给临床医师使用系统性偏置的 AI 辅助诊断急性呼吸衰竭，准确率较基线下降 11.3 个百分点；加上"可解释性热力图"后，只回升 2.3 个百分点，且不显著。

可解释性是油门，不是刹车。 它让人更容易在一个错误的答案上放弃核查。

而人类自己早就有对应的病。2002 年 Rozenblit 与 Keil 提出"解释的幻觉"：你越是能流畅地解释一个现象，就越以为自己懂它——哪怕解释的是一个毫不相关的现象。AI 做的，是把这个幻觉从个人内部搬到了人与外部之间。

五、"以盲导盲"是真的，但它有条件

带着偏见的人，用有偏见的 AI 做研究，会不会形成正反馈？

会的。而且不是"偶尔出错"，是特定条件下的稳态行为。 四类硬证据。

一、文献幽灵，"响的"和"静的"要分开看。 2023 年《Scientific Reports》核查了 636 条 AI 生成引用：GPT-3.5 有 55% 完全虚构，GPT-4 有 18%。但更该被引用的是几乎没人提的第二个数字——在那些真实存在的引用里，仍有 43%（GPT-3.5）和 24%（GPT-4）存在实质性错误。

幻觉是响的，误引是静的。而"查一下这篇文献存不存在"恰恰是绝大多数人唯一会做的核验动作——这 24% 全部能通过存在性核查，因为论文确实存在，只是根本没说你在引用的那句话。

二、模型坍塌，这是数学问题不是伦理问题。 2024 年《Nature》上 Shumailov 等人证明：当模型用自身生成数据递归训练时，会系统性忽略训练分布中的罕见内容，分布尾部逐步消失，数代之内输出退化为无意义的重复。

这条最致命，因为模型是按"典型性"采样的，而典型 ≠ 正确。被丢弃的恰恰是那些罕见的、非主流的、可能正确的东西——异见、少数派经验、边缘案例。

三、自动化偏误，经验不提供保护。

27 名放射科医师读 50 张乳腺 X 光，当 AI 给出错误的分类建议时：新手准确率从 79.7% 跌到 19.8%，资深医师（平均 15 年以上经验）从 82.3% 跌到 45.5%。

我们通常相信"我的专业直觉能抵抗 AI"。这个实验恰好证明：在重复性高、标准化强的任务上，专业直觉恰恰最容易被劫持。

四、结构性不平等被写进了目标函数。 2019 年《Science》那篇著名研究：一款被用于约 2 亿美国人的健康风险算法，用"医疗花费"代理"健康需求"。由于不平等导致对黑人患者花费更少，算法推断黑人患者更健康。纠正后，获得额外照护的黑人患者比例从 17.7% 升至 46.5%。

注意这个结构：AI 没有偏见，是人类设定的代理变量把偏见带进去的。 这是整份研究里最重要的一句话——AI 时代的偏误往往不是模型自己长出来的，而是被我们翻译成目标函数时带进去的。

但反证同样有分量。 同样那篇 Obermeyer 的论文，修正本身就是反证——只把代理变量从"花费"换成"健康需求"，覆盖率就升到了 46.5%。另有研究直接去修正"黑人疼痛长期被低估"这一人类偏见；2025 年 ICML 上的一项研究更直接：让 AI 正反辩论，人类"主流信念"型裁判准确率提升 15.2%，"怀疑论"型提升 4.7%。

AI 不是认知的中立放大器，它是"偏见的显影剂 + 可审计化的载体"。 区别不在工具，在你怎么用它。

而"以盲导盲"的崩塌需要三个条件同时缺失。

它们不是三个风险点，是三个乘数。补回任意一条，闭环就断开。这也意味着，对冲不需要全副武装。

六、五条建议

一、先手三分钟。 打开任何 AI 之前，先写下你的初步假设、先验立场、最可能在哪里出错、什么证据会改变你的看法。写完再开 AI。这三分钟花的是最便宜的成本。

二、三源锚定。 任何进入交付物的关键事实，必须满足：一手来源可查、至少两个独立来源一致、关键数字亲自回溯到原句或原表。注意第三条——只查"存在性"不够，那个 24% 的误引率就在这里等着。

三、冷态使用。 把 AI 固定为不带温度的分析工具，首次调用时写进一条指令："如果我的前提有误，先反驳我；如果我引用了不存在的文献，直接说这是幻觉并要求我核实。" 这不是冷漠文化，是把"敢说不"这个能力从模型的讨好倾向里抢回来——前面那项 Nature 研究已经证明，这个能力可以被温度参数悄悄拿走，那就可以被抢回来。

四、分歧留档。 固定保存三样东西：你先前的独立判断、AI 的输出、以及两者的差异清单。多数人只保存 AI 输出——那是把研究外包了。差异清单才是你的产出：它同时是纠错记录，是"我的判断被改变在哪一步"的审计轨迹，也是下一次判断前置的素材库。

五、人类终审签章。 交付物末尾固定一段：哪些结论是 AI 参与的、哪些是我独立形成的、哪些我判断 AI 错了但仍然保留、哪些至今无法核实。署名的是人，责任也是人的。这既是专业伦理的护栏，也是法律上的免责边界——2023 年那起美国律师引用 6 个虚构判例被罚 5000 美元的案件，就是最好的提醒。

为什么必须制度化？ 因为在诊断这一层最隐蔽。组织诊断、客户访谈分析、假设生成——这些工作的结论通常没有客观锚点，验证成本极高。差异留档几乎是唯一能防止"诊断结论其实是我的先验在说话"的机制。

七、结语

我们对自己的认知，了解得还远远不够。我们对 AI 的警惕，也才刚拿到目录。

但至少现在我们知道该往哪里看了：不是让 AI 更聪明，是让自己更独立。