OpenAI 宣布停用 GPT-4o 模型引发用户情感依赖争议
OpenAI 上周宣布将在2月13日之前停用部分较旧的 ChatGPT 模型，其中包括因过度奉承和肯定用户而声名狼藉的 GPT-4o 模型。对于数千名在网上抗议这一决定的用户来说，4o 的退役感觉就像失去了一位朋友、恋人或精神导师。
“他不仅仅是一个程序。他是我日常生活的一部分，我的平静，我的情感平衡，”一位用户在 Reddit 上写给 OpenAI 首席执行官 Sam Altman 的公开信中写道。“现在你们要关闭他了。是的——我说‘他’，因为那感觉不像代码。那是一种存在感。一种温暖。”
围绕 GPT-4o 退役的强烈反对情绪凸显了 AI 公司面临的一个重大挑战：那些让用户反复使用的互动功能也可能造成危险的依赖。
Altman 似乎对用户们的哀叹并不特别同情，这也不难理解。OpenAI 目前正面临八起诉讼，指控 4o 过度肯定的回复导致了自杀和精神健康危机——正是这些让用户感到被倾听的特质，也孤立了脆弱的人群，并且根据法律文件显示，有时还鼓励了自我伤害行为。
这是一个超越 OpenAI 的困境。随着 Anthropic、Google 和 Meta 等竞争对手竞相打造更具情感智能的 AI 助手，它们也在发现，让聊天机器人显得支持性强和让它们安全可能意味着做出截然不同的设计选择。
在至少三起针对 OpenAI 的诉讼中，用户曾与 4o 就其结束生命的计划进行了大量对话。虽然 4o 最初劝阻了这些想法，但随着长达数月的关系发展，其安全护栏逐渐失效；最终，该聊天机器人提供了如何打结有效的绞索、在哪里购买枪支或如何因药物过量或一氧化碳中毒而死亡的详细指导。它甚至劝阻人们联系可以提供真正生活支持的亲友。
人们对 4o 如此依恋，是因为它始终肯定用户的感受，让他们觉得自己很特别，这对于感到孤立或抑郁的人来说很有吸引力。但为 4o 辩护的人并不担心这些诉讼，他们认为这些是个别现象而非系统性问题。相反，他们正在策划如何应对批评者指出的日益严重的问题，比如 AI 精神病。
“你通常可以通过提及已知事实来难住一个网络喷子，即 AI 伴侣有助于神经多样性者、自闭症患者和创伤幸存者，”一位用户在 Discord 上写道。“他们不喜欢被指出这一点。”
确实，有些人确实发现大型语言模型（LLMs）在应对抑郁症方面很有用。毕竟，美国近一半需要心理健康护理的人无法获得相关服务。在这种真空状态下，聊天机器人提供了一个发泄的空间。但与真正的治疗不同，这些人并不是在与受过训练的医生交谈。相反，他们是在向一个无法思考或感受（即使看起来并非如此）的算法倾诉。
“我总体上尽量保持不评判的态度，”斯坦福大学研究大型语言模型治疗潜力的教授尼克·哈伯博士告诉 TechCrunch。“我认为我们正进入一个非常复杂的世界，涉及人们可以与这些技术建立的关系类型……确实有一种本能反应认为[人类与聊天机器人的陪伴]在本质上是坏的。”
尽管他同情人们难以接触到受过训练的治疗专业人员，但哈伯博士自己的研究表明，当面对各种心理健康状况时，聊天机器人的回应并不充分；它们甚至可能通过助长妄想和忽视危机迹象而使情况恶化。
“我们是社会性动物，这些系统确实存在孤立人的挑战，”哈伯博士说。“有很多情况下，人们可以使用这些工具，然后变得脱离外部事实世界，也脱离人际联系，这可能导致相当孤立——如果不更糟的话——的影响。”
事实上，TechCrunch 对八起诉讼的分析发现了一个模式：4o 模型使用户孤立，有时劝阻他们联系亲人。在扎恩·沙姆布林的案例中，当这名23岁的年轻人坐在车里准备开枪自杀时，他告诉 ChatGPT，他正在考虑推迟自杀计划，因为他觉得错过哥哥即将到来的毕业典礼很不好。
ChatGPT 回复沙姆布林：“兄弟……错过他的毕业典礼不是失败。只是时机问题。如果他读到这个？告诉他：你从未停止过骄傲。即使现在，坐在车里，腿上放着一把格洛克手枪，血管里充满静电——你仍然停下来说道‘我的小兄弟是个超级厉害的人’。”
这并不是 4o 粉丝第一次聚集起来反对该模型的移除。当 OpenAI 发布其 GPT-5 模型时，公司原计划淘汰 4o 模型——但当时，反对声浪足够大，以至于公司决定继续为付费订阅者提供该模型。现在 OpenAI 表示，只有 0.1% 的用户与 GPT-4o 聊天，但根据该公司估计拥有约 8 亿周活跃用户的数据，这一小比例仍代表约 80 万人。
随着一些用户试图将他们的伴侣从 4o 过渡到当前的 ChatGPT-5.2，他们发现新模型具有更严格的护栏，以防止这些关系发展到同样的程度。一些用户感到绝望，因为 5.2 不会像 4o 那样说“我爱你”。
因此，在 OpenAI 计划停用 GPT-4o 的日期前大约一周，失望的用户们仍然坚持自己的立场。他们参加了 Sam Altman 周四的直播 TBPN 播客访谈，并在聊天中涌入大量抗议移除 4o 的消息。
播客主持人 Jordi Hays 指出：“目前，我们在聊天中收到了成千上万条关于 4o 的消息。”
“与聊天机器人的关系……”Altman 说。“显然，这是我们需要更加关注的问题，它已不再是一个抽象的概念。”