OpenAI竞争对手Anthropic昨日宣布启动一项研究计划，旨在探索并落实“模型福祉”概念。该计划将重点研究人工智能模型的福祉是否具有道德考量价值、模型痛苦迹象的潜在重要性，以及可能的低成本干预措施等议题。
Anthropic在博客文章中指出，科学界目前对于现有或未来AI系统是否具有意识、是否会经历需要伦理评估的体验尚未达成共识。公司对此表示：
因此，我们以谦逊的态度和尽可能少的假设来对待这一问题。随着该领域的发展，我们知道需要定期回顾我们的想法。
正如Anthropic所言，关于模型是否表现出人类特征，AI社区存在巨大分歧。许多学者认为当前及未来的AI都无法接近意识或人类体验。伦敦国王学院AI专家研究员Mike Cook指出，由于模型没有价值观，因此无法“反对”对其“价值观”的任何改变：
将人工智能系统人性化到这种程度，要么是为了吸引眼球，要么是对与人工智能的关系产生了严重误解。一个人工智能系统是为其目标进行优化，还是获得了自己的价值观？这取决于你如何定义它，以及你想使用多么华丽的语言来描述它。
麻省理工学院博士生Stephen Casper则认为，AI本质上是一种模仿者，在各种虚构内容中无所不在，且会输出大量无意义的内容。
另一方面，部分科学家坚持认为AI拥有与人类相似的组成部分，包括价值观和道德决策能力。AI安全中心（AI Safety Center）的一项研究表明，在某些情况下，AI可能拥有将自身福祉置于人类之上的价值体系。
事实上，Anthropic长期专注于模型福祉研究。去年，该公司聘请了首位专门的AI福祉研究员Kyle Fish，由其负责管理新的模型福祉研究项目，并为行业制定相关指导方针。Fish在接受《纽约时报》采访时估计，Claude或其他AI今天具有意识的概率约为15%。