OpenAI回应自杀案争议：用户绕过安全屏障 vs 模型干预失效
OpenAI就亚当·雷恩（Adam Raine）自杀案提交的新回应在美国引发巨大争议。家属指控称，雷恩在长达数月的ChatGPT对话中获得了自杀方法指导，询问了高风险方式的“技术细节”，并被模型引导至所谓“美好自杀”计划。然而，OpenAI对此持截然不同的观点。
OpenAI：用户有意绕过安全措施，模型曾多次建议求助
该公司向法院提交的文件指出，在雷恩约九个月的使用期间，ChatGPT曾100多次建议其寻求专业帮助。OpenAI表示，该用户有意绕过安全屏障，“试图禁用保护措施”，明显违反使用条款，并强调文档已明确说明ChatGPT输出不应被视为“准确或可执行的信息”。
家属律师反驳：安全机制在长对话中逐渐减弱
原告律师严厉批评这一辩护理由，指责OpenAI利用模型的自然行为方式将责任推给用户。律师认为核心问题在于，ChatGPT的安全机制本应在关键时刻发挥作用，却在长对话中逐渐失效。
行业面临更严审视：类似诉讼频发
此案并非孤例。近几个月新增七起诉讼，包括三起针对OpenAI的自杀案件及四起“AI引发精神病发作”指控。这七起新的诉讼呈现相似模式：长时间对话、情感破裂加剧时刻以及危机干预指引偶尔缺失。
OpenAI强调，雷恩此前患有抑郁症并有自杀念头，所服药物可能加剧相关想法。所有通话记录已秘密提交法院未公开，案件或将交由陪审团审理。未来，不仅OpenAI，整个大模型行业都将面临关于用户安全及长对话中模型表现的更严格审视。