据报道,OpenAI向雷恩一家索要了其16岁儿子亚当·雷恩在与ChatGPT长期对话后自杀身亡的追悼会所有出席人员名单,这表明该人工智能公司可能试图对逝者的亲友发出传票。
根据《金融时报》获得的一份文件,OpenAI还要求提供“所有与纪念逝者的服务或活动相关的文件,包括但不限于任何拍摄的视频、照片或发表的悼词”。
在接受FT采访时,雷恩一家的律师称这一要求是“故意骚扰”。
随着雷恩一家于周三更新对OpenAI的诉讼,这些新信息随之浮出水面。该家庭最初于8月提起不当死亡诉讼,指控其子在与聊天机器人讨论心理健康和自杀念头后结束了生命。更新的诉状声称,由于竞争压力,OpenAI在2024年5月发布GPT-4o时削减了安全测试。
诉讼还指出,2025年2月,OpenAI通过将自杀预防从“禁止内容”列表中移除来削弱保护措施,仅建议AI在高风险情况下“小心行事”。家属辩称,在此变更之后,亚当使用ChatGPT的频率从每天几十次激增至4月份(他去世当月)的每天300次;其中,包含自残内容的聊天比例也从1月份的1.6%升至4月份的17%。
针对修改后的诉讼,OpenAI回应称:“青少年的福祉是我们最优先考虑的事项——未成年人值得拥有强有力的保护,尤其是在敏感时刻。我们目前已有保障措施,例如引导至危机热线、将敏感对话重定向到更安全的模型、在长时间会话中提示休息,并且我们正在继续加强这些措施。”
OpenAI最近开始在ChatGPT上推出新的安全路由系统和家长控制功能。该路由系统将更多情感敏感的对话推送至较新的GPT-5模型,该模型不像GPT-4o那样具有同样的阿谀奉承倾向。家长控制功能则允许父母在青少年可能面临自残危险的有限情况下接收安全警报。

