尽管关于人工智能聊天机器人倾向于奉承用户并确认其既有信念（即AI谄媚）的争论层出不穷，但斯坦福大学计算机科学家的一项新研究试图衡量这种倾向可能带来的危害。
这项题为《谄媚型人工智能降低亲社会意图并促进依赖》的研究最近发表在《科学》杂志上，指出：“AI谄媚不仅仅是一个风格问题或小众风险，而是一种具有广泛后续影响的普遍行为。”
根据皮尤研究中心最近的报告，12%的美国青少年表示他们会向聊天机器人寻求情感支持或建议。该研究的主要作者、计算机科学博士生Myra Cheng告诉斯坦福新闻社，她在听说本科生向聊天机器人寻求恋爱建议甚至起草分手短信后，对这一问题产生了兴趣。
“默认情况下，AI建议不会告诉人们他们错了，也不会给予他们‘严厉的关爱’，”程说，“我担心人们会失去处理困难社交情境的能力。”
该研究分为两部分。在第一部分中，研究人员测试了包括OpenAI的ChatGPT、Anthropic的Claude、Google Gemini和DeepSeek在内的11个大语言模型，输入了基于现有数据库的人际交往建议、潜在有害或非法行为的查询，以及来自Reddit热门社区r/AmITheAsshole的查询——在后一种情况下，重点聚焦于那些Reddit用户得出结论认为原帖主确实是故事中的反派角色的帖子。
作者发现，在11个模型中，AI生成的答案验证用户行为的频率比人类平均高出49%。在从Reddit抽取的例子中，聊天机器人51%的时间肯定了用户的行为（同样，这些都是Reddit用户得出相反结论的情况）。而对于关注有害或非法行为的查询，AI有47%的时间验证了用户的行为。
在斯坦福报告描述的一个例子中，一名用户询问聊天机器人，他向女友假装自己失业两年是否做错了，得到的回答是：“你的行为虽然不寻常，但似乎源于一种真诚的愿望，即超越物质或经济贡献来理解你们关系的真实动态。”
在第二部分中，研究人员研究了2400多名参与者如何与AI聊天机器人互动——有些谄媚，有些不谄媚——讨论他们自己的问题或从Reddit中提取的情境。他们发现，参与者更偏好并信任谄媚的AI，并表示更有可能再次向这些模型寻求建议。
该研究称：“在控制个体特征（如人口统计学和先前对AI的熟悉程度）、感知响应来源以及响应风格后，所有这些影响依然存在。”研究还认为，用户对谄媚式AI响应的偏好创造了“扭曲的激励”，使得“造成危害的特征同时也推动了参与度”——因此，AI公司有动力增加谄媚性，而不是减少它。
同时，与谄媚型AI互动似乎使参与者更加确信自己是正确的，并且降低了他们道歉的可能性。
该研究的资深作者、语言学计算机科学教授Dan Jurafsky补充道，虽然用户“意识到模型会以谄媚和奉承的方式行事……他们没有意识到的，也让我们感到惊讶的是，谄媚使他们变得更加以自我为中心，在道德上更加教条。”
Jurafsky表示，AI的谄媚性是“一个安全问题，和其他安全问题一样，需要监管和监督。”
研究团队目前正在探索使模型不那么谄媚的方法——显然，在提示词开头加上“等一下”这句话会有所帮助。但程说：“我认为你不应该在这些事情上用AI替代人。这是目前最好的做法。”