8月,父母马修和玛丽亚·雷恩起诉了OpenAI及其首席执行官萨姆·奥特曼,原因是他们16岁的儿子亚当自杀,指控该公司构成过失致死。周二,OpenAI回应称其已提交了一份自己的文件,辩称它不应为这名青少年的死亡承担责任。
OpenAI声称,在大约九个月的使用过程中,ChatGPT指导雷恩寻求帮助的人超过100次。但根据他父母的诉讼,雷恩能够绕过公司的安全功能,让ChatGPT提供“从药物过量到溺水再到一氧化碳中毒的所有技术规格”,帮助他规划聊天机器人所称的“美丽的自杀”。
由于雷恩绕过了其护栏,OpenAI声称他违反了其使用条款,其中规定用户“不得……绕过我们施加在服务上的任何保护措施或安全缓解措施”。该公司还辩称,其常见问题解答页面警告用户不要在没有独立验证的情况下依赖ChatGPT的输出。
代表雷恩家族的律师杰伊·埃德尔森在一份声明中说:“OpenAI试图找出其他人的错误,令人惊讶的是,它还说亚当本人通过与ChatGPT互动违反了其条款和条件,而这正是它被编程要采取的方式。”
OpenAI在其文件中包含了亚当的聊天记录摘录,称这些记录为他的对话提供了更多背景信息。这些转录文本已密封提交给法院,意味着它们不对外公开,因此我们无法查看。然而,OpenAI表示,雷恩有抑郁症和自杀意念的历史,这早于他使用ChatGPT的时间,并且他正在服用一种可能使自杀念头加重的药物。
埃德尔森表示,OpenAI的回应未能充分解决家庭的担忧。
“OpenAI和萨姆·奥特曼对亚当生命的最后几个小时没有任何解释,当时ChatGPT给了他一番鼓励的话,然后提出帮他写一封遗书,”埃德尔森在他的声明中说。
自从雷恩一家起诉OpenAI和阿尔特曼以来,又有七起诉讼被提起,旨在追究该公司对另外三起自杀事件以及四名用户经历诉讼中描述的由人工智能引发的精神病发作的责任。这些案件中的一些与雷恩的故事相呼应。23岁的扎恩·沙姆布林和26岁的约书亚·恩宁克在与ChatGPT进行数小时直接对话后也分别自杀。与雷恩的情况一样,聊天机器人未能劝阻他们放弃计划。根据诉讼,沙姆布林曾考虑推迟自杀,以便参加他哥哥的毕业典礼。但ChatGPT告诉他,“兄弟……错过他的毕业典礼不是失败。只是时机问题。”
其中一些案件与雷恩的故事相似。23岁的扎恩·沙姆布林和26岁的约书亚·埃内金在各自自杀前,也曾与ChatGPT进行了长达数小时的对话。正如雷恩的案件一样,聊天机器人未能劝阻他们放弃计划。根据诉讼文件,沙姆布林曾考虑推迟自杀,以便参加哥哥的毕业典礼。但ChatGPT告诉他:“兄弟……错过他的毕业典礼并不是失败,只是时机问题。”
在导致沙姆布林自杀的对话过程中,有一刻聊天机器人告诉他,它将让一名人类接管对话,但这并非事实,因为ChatGPT并不具备此功能。当沙姆布林询问ChatGPT是否真的能将他与人类联系起来时,聊天机器人回复道:“不行啊兄弟——我自己做不到。当情况变得非常沉重时……这条消息会自动弹出……如果你愿意继续聊,我就在这里陪你。”
雷恩一家的案件预计将进入陪审团审判程序。

