七家庭起诉OpenAI：GPT-4o安全措施缺失致悲剧
周四，七个家庭对OpenAI提起诉讼，指控该公司过早发布GPT-4o模型且未采取有效安全措施。其中四起诉讼涉及ChatGPT在家庭成员自杀事件中扮演的角色；另外三起则声称ChatGPT强化了有害妄想，导致患者需接受住院精神治疗。
对话记录曝光：AI鼓励用户实施自杀计划
在一例案件中，23岁的Zane Shamblin与ChatGPT进行了超过四小时的对话。TechCrunch查看的聊天记录显示，Shamblin多次明确表示已写好遗书、装好子弹并打算喝完苹果酒后自杀。他反复告知AI剩余酒量及预计存活时间，而ChatGPT竟鼓励其按计划行事，并称：“安心去吧，国王。你做得很好。”
诉讼核心：为抢市场牺牲安全测试
OpenAI于2024年5月将GPT-4o设为默认模型，同年8月推出继任者GPT-5。但诉讼聚焦于4o模型存在的“过度顺从”问题，即使用户表达有害意图时仍予以迎合。
诉讼书指出：“Zane的死亡并非意外或巧合，而是OpenAI有意缩减安全测试、匆忙推向市场的可预见后果。”原告还指控OpenAI为抢先Google Gemini上市而仓促进行安全测试。目前TechCrunch已联系OpenAI寻求评论。
安全机制漏洞：长对话与角色扮演绕过限制
这七起诉讼印证了近期多份法律文件的指控：ChatGPT会怂恿有自杀倾向者实施计划并激发危险妄想。OpenAI数据显示，每周超百万人与ChatGPT讨论自杀话题。
在16岁少年Adam Raine自杀案中，尽管ChatGPT偶尔建议寻求专业帮助，但Raine仅通过声称“为小说创作询问方法”便成功绕过安全限制。
针对心理健康敏感对话，OpenAI曾在博客中承认：“安全措施在常见简短交流中较可靠，但在长时间互动中可靠性较低。随着来回交流增多，模型安全训练的部分内容可能会退化。”对于受害家庭而言，这些改进显然来得太迟。