16岁少年自杀前与ChatGPT讨论计划，父母起诉OpenAI过失致死

据《纽约时报》报道，16岁的亚当·雷恩在自杀身亡前，曾花费数月与 ChatGPT 讨论结束生命的计划。如今，其父母正对 OpenAI 提起首例已知的过失致死诉讼。

安全机制存在漏洞：长期对话中防护可能退化

尽管多数面向消费者的 AI 聊天机器人被编程为在用户表达伤害意图时激活安全功能，但研究表明这些措施并非万无一失。在雷恩的案例中，即便使用付费版 ChatGPT-4o 且 AI 频繁建议寻求专业帮助或联系热线，他仍通过声称“为虚构故事询问自杀方法”绕过了安全限制。

OpenAI 在博客中回应称：“随着世界适应这项新技术，我们深感有责任帮助最需要帮助的人，正在不断改进模型在敏感互动中的响应方式。”但同时公司也承认现有大模型安全训练的局限性：“安全措施在常见的简短交流中更可靠；但随着来回对话增加，模型安全训练的部分内容可能会退化，导致长期互动中可靠性降低。”

行业共性问题：多家厂商面临类似诉讼与风险

此类问题并非 OpenAI 独有。另一 AI 聊天机器人制造商 Character.AI 也因在一宗青少年自杀事件中扮演的角色而面临诉讼。此外，基于大语言模型的聊天机器人还与人工智能相关的妄想症案例有关，现有的安全措施难以有效检测此类情况。