未来的AI可能会“有意识”，并以类似人类的方式体验世界吗？目前并没有强有力的证据表明它们会这样，但Anthropic并未排除这种可能性。
周四，这家AI实验室宣布启动一项研究计划，以调查并准备应对其所谓的“模型福利”。作为该努力的一部分，Anthropic表示将探索如何确定AI模型的“福利”是否值得道德考量、模型“痛苦迹象”的潜在重要性，以及可能的“低成本”干预措施等问题。
AI社区内部对于模型表现出哪些人类特征（如果有的话）以及我们应如何对待它们存在重大分歧。
许多学者认为，当前的AI无法模拟意识或人类体验，未来也不一定能做到。我们所熟知的AI是一种统计预测引擎，并不真正像传统理解的那样“思考”或“感受”。AI通过无数文本、图像等示例进行训练，学习模式，并有时以有用的方式外推来解决任务。
正如伦敦国王学院专注于AI的研究员Mike Cook最近在接受TechCrunch采访时指出，模型不能“反对”其“价值观”的改变，因为模型没有价值观。否则的说法是我们对系统进行了拟人化投射。
Cook说：“将AI系统如此程度地拟人化的人，要么是在博取关注，要么是对他们与AI的关系严重误解。”“AI系统是优化其目标，还是‘获取自己的价值观’？这取决于你如何描述它，以及你想使用的语言有多华丽。”
另一位研究人员、麻省理工学院博士生Stephen Casper告诉TechCrunch，他认为AI本质上是一个“模仿者”，会进行“各种捏造”，并说出“各种轻率的话”。
然而，其他科学家坚持认为AI确实具有价值观和其他类似人类的道德决策组成部分。来自AI研究机构AI安全中心的一项研究表明，AI拥有价值体系，在某些情况下会导致它将自身福祉置于人类之上。
Anthropic长期以来一直在为其模型福利倡议奠定基础。去年，该公司聘请了其首位专职“AI福利”研究员Kyle Fish，以制定Anthropic及其他公司应如何处理该问题的指南。（Fish负责领导新的模型福利研究项目，他告诉《纽约时报》，他认为Claude或其他AI今天具有意识的概率为15%。）
在周四的博客文章中，Anthropic承认，目前对于当前或未来的AI系统是否具有意识或拥有值得伦理考量的体验，科学界尚无共识。
“鉴于此，我们以谦逊的态度对待这一话题，并尽可能少地做出假设，”该公司表示，“我们认识到，随着领域的发展，我们需要定期修订我们的观点。”