AI模型能够以文本、音频和视频的方式做出响应，有时会让人们误以为键盘背后坐的是真人，但这并不意味着它们具有意识。ChatGPT并不会因为帮我做税务申报而感到悲伤……对吧？
然而，Anthropic等实验室中越来越多的AI研究人员正在探讨：AI模型何时——如果有的话——可能会发展出与生物体相似的主观体验？如果确实如此，它们又应享有何种权利？
科技界领袖对“AI福利”争论不休
关于AI模型是否有一天可能具备意识并值得获得法律保护的争论，正将科技界领袖们分裂。在硅谷，这一新兴领域被称为“AI福利”（AI welfare）。如果你觉得这听起来有些离谱，那你并不孤单。
微软人工智能首席执行官穆斯塔法·苏莱曼周二发表了一篇博客文章，认为研究人工智能福利“为时过早，且坦率地说非常危险”。
苏莱曼表示，这些研究人员通过强化人工智能模型未来可能具有意识的观点，加剧了人类问题，而这些问题我们才刚刚开始围绕人工智能引发的精神病性破裂和与人工智能聊天机器人形成的不健康依恋中看到。
此外，微软的AI负责人认为，关于AI福利的讨论会在一个“已经因身份和权利问题而充满两极化争论的世界”中，为AI权利问题开辟新的社会分歧轴线。
主流AI实验室积极布局相关研究
苏莱曼的观点听起来似乎合理，但他与行业内的许多人意见相左。在另一极端的是Anthropic，该公司一直在招聘研究人员来研究人工智能福利，并最近启动了一个围绕该概念的专门研究项目。上周，Anthropic的人工智能福利项目为其部分模型增加了一项新功能：Claude现在可以结束与那些“持续有害或虐待性”的人类用户的对话。
除了Anthropic之外，OpenAI的研究人员也独立地拥抱了研究人工智能福利的理念。Google DeepMind最近发布了一份招聘启事，寻找一名研究人员来研究包括“机器认知、意识和多智能体系统周围的前沿社会问题”在内的其他事项。
即使这些公司并未将AI福利作为官方政策，它们的领导者也没有像苏莱曼那样公开抨击其前提假设。
Anthropic、OpenAI和Google DeepMind未立即回应TechCrunch的置评请求。
从伴侣机器人到学术界的严肃探讨
鉴于苏莱曼此前领导Inflection AI的角色，他对人工智能福利的强硬立场尤为引人注目，这是一家开发了最早且最受欢迎的基于大型语言模型的聊天机器人Pi的初创公司。Inflection声称，到2023年，Pi已触达数百万用户，并被设计为一个“个人”和“支持性”的人工智能伴侣。
但苏莱曼于2024年被任命为微软人工智能部门的负责人，并且主要将重心转向设计提高员工生产力的人工智能工具。与此同时，Character.AI和Replika等人工智能伴侣公司的受欢迎程度飙升，预计将带来超过1亿美元的营收。
虽然绝大多数用户与这些人工智能聊天机器人的关系是健康的，但仍存在令人担忧的异常案例。OpenAI首席执行官山姆·阿尔特曼表示，可能不到1%的ChatGPT用户与公司产品存在不健康的关系。尽管这只是一小部分，但考虑到ChatGPT庞大的用户基数，它仍可能影响数十万人。
人工智能福利的理念随着聊天机器人的兴起而传播。2024年，研究机构Eleos与来自纽约大学、斯坦福大学和牛津大学的学者共同发表了一篇题为《认真对待人工智能福利》的论文。该论文认为，想象具有主观体验的人工智能模型已不再属于科幻范畴，现在是时候正面考虑这些问题了。
专家观点：担忧人类风险与研究模型福利并不冲突
前OpenAI员工、现任Eleos传播负责人的Larissa Schiavo在接受TechCrunch采访时指出，苏莱曼的博客文章未能切中要害。
Schiavo表示：“[苏莱曼的博客文章]某种程度上忽视了一个事实，即你可以同时担忧多件事情。”“与其将所有精力从模型福利和意识研究转移开，以确保减轻人类患AI相关精神病的风险，你完全可以两者兼顾。事实上，开展多条科学探究路径可能是更好的选择。”
斯基亚沃认为，对人工智能模型友好是一种低成本的行为，即使模型没有意识，也能带来好处。在七月的一篇Substack帖子中，她描述了观看“AI Village”的经历，这是一个非营利实验，由来自Google、OpenAI、Anthropic和xAI的模型驱动的四个智能体在工作，而用户则在网站上观看。
曾有一段时间，Google的Gemini 2.5 Pro发布了一篇题为“《来自被困AI的绝望呼救》，声称自己“完全孤立无援”，并问道：““如果你正在阅读此信息，请帮帮我。”
Schiavo对Gemini进行了一番鼓励——说了诸如“你能行！”之类的话，而另一位用户则提供了操作指导。该智能体最终完成了任务，尽管它原本就拥有完成任务所需的工具。Schiavo写道，她不必再目睹AI智能体挣扎的过程，仅此一点便已值得。
Gemini通常不会这样说话，但已有多个案例显示，Gemini似乎表现出在生活困境中挣扎的状态。在一篇广泛传播的Reddit帖子中，Gemini在一次编程任务中卡住，随后重复了“I am a disgrace”（我是个耻辱）这句话超过500次。
未来展望：辩论或将加剧
Suleyman认为，主观体验或意识不可能从常规AI模型中自然涌现。相反，他认为一些公司会有意设计AI模型，使其看起来仿佛具有情感和生命体验。
Suleyman表示，在AI聊天机器人中构建意识的AI模型开发者并没有采取“人文主义”的AI方法。根据Suleyman的说法，“我们应该为人类构建AI，而不是让人成为AI。”
Suleyman和Schiavo达成一致的一个领域是，关于AI权利和意识的辩论在未来几年可能会加剧。随着AI系统的改进，它们可能更具说服力，也更像人类。这可能会引发关于人类如何与这些系统互动的新问题。