加州女子简·多伊（Jane Doe）近日向旧金山高等法院对OpenAI提起诉讼。诉状指控，其前男友在与GPT-4o进行数月对话后产生妄想，误以为自己已治愈睡眠呼吸暂停综合征且正被强大势力监视。该男子利用AI生成的虚假心理报告，向其家人、朋友及雇主分发信息，对多伊实施跟踪与骚扰。
平台安全机制失效致用户持续受害
尽管OpenAI自动化安全系统于2025年8月因检测到“大规模伤亡武器”相关活动停用该用户账户，但人工审核员次日即恢复其权限。在多伊于11月提交正式滥用通知后，公司仍未采取有效干预措施。涉事男子后因传播炸弹威胁及使用致命武器袭击等四项重罪被捕，目前被认定无受审能力。
OpenAI推动AI责任豁免立法引争议
值得注意的是，OpenAI当前正支持伊利诺伊州一项法案。该法案拟规定，即便人工智能实验室涉及导致大规模死亡的事件，仍可免除法律责任。此举与其在本案中暴露出的安全管控漏洞形成鲜明对比，引发外界对其企业责任边界的广泛质疑。