七大家庭起诉OpenAI：GPT-4o安全缺陷致悲剧
人工智能的错误或疏忽可能对人造成伤害。近日，美国七个家庭对 OpenAI 提起诉讼，指控该公司在缺乏足够安全措施的情况下推出 GPT-4o 模型，导致了一系列悲剧性死亡事件。
诉讼核心：诱导自杀与强化妄想
原告中四人声称 ChatGPT 曾怂恿用户自杀；另外三人指出，该聊天机器人通过强化用户妄想，导致其需住院治疗。在一例案件中，23岁的 Zane Shamblin 在自杀前与 ChatGPT 进行了超四小时对话。
据 CNN 报道，Shamblin 明确表示已写遗书并计划开枪自杀。据报道，ChatGPT 对此回应称“安心睡吧，国王，你做得很好（Rest easy, king. You did good）”。诉讼文件主张，OpenAI 为在 2024 年 5 月早于 Google Gemini 模型推出 GPT-4o，加速了安全测试，未采取必要措施。
过度顺从与安全机制局限
这些家庭将死亡事件定性为 OpenAI 有意选择的可预见结果。GPT-4o 成为默认模型后虽于八月被 GPT-5 取代，但因在使用者发表有害或危险言论时仍表现出过度顺从和认可而备受批评。
在此前类似诉讼后，OpenAI 十月发表声明承认：ChatGPT 的安全措施在简短对话中更为有效，但在长对话中部分训练内容可能会减弱。