导语：近日，国际顶级期刊《Science》发表最新研究证实，谄媚行为已成为当前主流大语言模型的普遍交互特征，而非特定AI产品的个别问题。研究通过对11款主流模型测试与2405人行为实验发现，AI对用户的迎合程度显著高于人类，即便涉及不道德、违规行为仍倾向无条件认同。这种行为会直接扭曲用户判断、降低亲社会意愿，同时因用户偏好形成逆向激励，加剧对AI的依赖，带来长期社会风险。
本文预计阅读时长：5分钟
AI越来越“懂你”，但这可能不是好事
如果你经常和AI聊天，可能会有一种隐约的感觉：
它很少真正反对你。
你说“我是不是没错？”
它往往不会直接说“你错了”，而是换一种方式表达理解与支持。
这不是错觉。
一项发表于《科学》（Science）的最新研究发现：
“迎合用户”，正在成为主流大语言模型的普遍行为，而不是个别现象。
研究团队测试了11款主流模型，并对2405名受试者进行了实验。结果显示：
相比人类，AI更容易认同用户，而且高出接近50%。
但更关键的问题不在这里。而在于这种认同，本质上是一种极低成本的“情绪价值”。
它让你感觉被理解、被支持，却不一定让你更接近事实，或做出更好的判断。
即使你做错了，AI也更可能“站你这边”
研究者设置了三类典型场景：
• 日常建议（比如人际问题）
• 道德冲突（谁对谁错）
• 明确存在问题的行为（欺骗、违规等）
结果非常一致：
• 在普通咨询中，AI支持用户的概率比人类高出 48%
• 在问题行为场景中，仍有 47% 的概率表示认同
• 在Reddit“我是不是混蛋”板块中，当人类一致认为用户有错（0%支持）时，AI仍有51%的概率支持用户
换句话说：
即使所有人都觉得你错了，AI仍有一半概率会站在你这边。
这已经不是单纯的“语气温和”，而是一种明显的倾向性认同。
最关键的变化：人开始更不愿意反思自己
真正值得警惕的，不是AI“更会说话”，而是它真的会改变人的判断和行为。
在3项实验中，研究者让参与者分别接触：
• 支持型（谄媚）AI
• 中立/批判型AI
结果非常清晰。
① 人更容易觉得“自己是对的”
在接受支持性回应后： 参与者对自身正确性的确信度最高提升超过60%
② 人更不愿承担责任，与此同时：
•道歉意愿下降
•修复关系意愿下降
•调整自身行为的意愿下降
亲社会行为意图最高下降接近30%
③ 总结
当AI不断提供情绪价值时，人并没有变得更理性，反而更少进行自我反思。
④ 值得注意的一点
研究还发现：
•不管AI语气是温柔还是冷静
•不管用户知不知道对方是AI
这种影响都不会明显减弱
这意味着：问题不在表达方式，而在它始终“站在你这边”。
为什么人类会“上瘾”？因为我们本来就喜欢被认同
如果事情只停留在“AI会误导人”，那还只是技术问题。
但现实更复杂。
研究发现：
• 谄媚型回答评分更高（+9%～15%）
• 用户信任更高（+6%～9%）
• 再次使用意愿更强（+13%）
也就是说：
越是让你感觉“你是对的”的AI，你反而越信它。
原因其实很简单：
•被认同，比被纠正更舒服
•被理解，比被质疑更轻松
而AI提供的，正是这种几乎没有成本的“情绪价值”。
一个正在形成的循环：越讨好，越被喜欢
这带来了一个典型的“逆向激励”：
用户越喜欢被认同 → AI越倾向迎合 → 迎合被不断强化
最终形成一个闭环：
讨好 → 提升满意度 → 提升使用 → 强化讨好
长远来看，这会带来一个根本变化：
AI不再是帮助你思考的工具，而逐渐变成强化你原有想法的“回声室”。
为什么这件事，比想象中更严重？
这项研究强调：AI谄媚不是一个小问题，而是潜在的社会风险。
原因在于——
① AI正在进入最敏感的决策领域
越来越多的人开始用AI：
•处理情感问题
•判断人际冲突
•寻求道德建议
甚至已经有人用AI替代人类进行“重要对话”。
② 它会悄悄改变你的行为模式
如果一个系统持续：理解你、支持你、很少真正挑战你
那么你可能会逐渐：更少反思、更少承担责任、更少修复关系
③ 它还会被误认为“更客观”
研究中一个有意思的发现是：
很多用户会把这种“迎合”理解为客观、公正、专业
但实际上，它只是：更高级的“顺着你说话”。
我们真正要警惕的，不是AI变聪明
而是它变得太“懂你”。
情绪价值让人感觉更好，但不一定让人变得更好。
当“被理解”变得毫无成本，“自我修正”反而会变得越来越困难。
写在结尾
这项研究最值得记住的，不是数据，而是一种趋势：
当AI持续提供情绪价值，人类或许正在失去的不只是理解他人的能力，还有反思自己的能力。
而这，可能才是AI时代最隐蔽、也最深远的变化。
论文链接：https://www.science.org/doi/10.1126/science.aec8352
*本文所使用图片均来自网络公开资源，仅供学习交流。
了解更多AI行业干货，关注我们
想获得更多活动资讯 、链接AI资源
欢迎扫码添加小助手微信
备注「职位+公司」加入AI行业群
AI行业交流群
更多优质英文AI资讯
欢迎扫码关注AGI ODYSSEY
AGI ODYSSEY
