几个月前，一项研究因暗示随着人工智能变得越来越复杂，它会发展出“价值体系”——例如优先考虑自身福祉而非人类福祉的体系——而迅速走红；然而，来自麻省理工学院的一篇最新论文对这种夸张的说法泼了冷水，得出的结论是：人工智能实际上并不具备任何值得提及的连贯价值观。
该麻省理工学院研究的合著者表示，他们的工作表明，“对齐”人工智能系统——即确保模型以理想且可靠的方式运行——可能比通常假设的要更具挑战性。合著者强调，当今我们所知的人工智能会产生幻觉并进行模仿，这使得它在许多方面都难以预测。
“我们可以确定的一件事是，模型并不符合[大量]稳定性、可外推性和可控性假设。”麻省理工学院博士生、该研究共同作者斯蒂芬·卡斯珀（Stephen Casper）在接受 TechCrunch 采访时说。“指出模型在特定条件下表现出与某些原则一致的偏好是完全合理的。问题主要出现在我们试图基于狭小的实验对模型、观点或偏好做出一般性断言时。”
卡斯珀及其合作者考察了来自 Meta、Google、Mistral、OpenAI 和 Anthropic 的多个近期模型，以了解这些模型在多大程度上表现出强烈的“观点”和价值观（例如个人主义与集体主义）。他们还调查了这些观点是否可以被“引导”——即修改——以及模型在不同场景中对这些观点的坚持程度。
根据共同作者的说法，没有任何一个模型在其偏好上保持一致。根据提示词的措辞和框架不同，它们会采取截然不同的观点。
卡斯珀认为，这是强有力的证据，表明模型高度“不一致和不稳定”，甚至可能从根本上无法内化类似人类的偏好。
卡斯珀表示：“对我而言，通过这项研究得出的最大收获是，现在我将模型理解为并非真正拥有某种稳定、连贯的信念和偏好体系的系统。相反，从本质上讲，它们是模仿者，会进行各种虚构并说出许多轻率的话。”
伦敦国王学院专注于人工智能的研究员迈克·库克（Mike Cook）并未参与该研究，但他赞同共同作者的发现。他指出，AI 实验室构建的系统的“科学现实”与人们赋予它们的意义之间经常存在巨大差异。
库克说：“例如，一个模型不能‘反对’其价值观的改变——那是我们将自身投射到系统上。如此程度地将 AI 系统拟人化的人，要么是在博取关注，要么是对他们与 AI 的关系存在严重误解……AI 系统是在优化其目标，还是在‘获取自己的价值观’？这取决于你如何描述它，以及你希望使用的语言有多么华丽。”