牧师起诉OpenAI：ChatGPT提供危险医疗建议致延误治疗
据《纽约时报》报道，一位牧师起诉OpenAI，指控该软件向其提供了“极其危险的医疗建议”。据报道，这导致Scott Winters未能及时接受严重肺栓塞的治疗，因为ChatGPT告诉他所描述的症状“并不危险”。该聊天机器人甚至利用其宗教信仰安抚道：“上帝并没有设计你的身体去不断衰竭。”
诉讼指控OpenAI及其首席执行官Sam Altman存在疏忽及“未经授权的行医行为”，指出聊天机器人在多个场合自行提供诊断和治疗方案，并告知Winters忽略亲友寻求正规医疗护理的建议。
Tech Justice Law联合律师兼执行董事Meetal Jain对《纽约时报》表示：“它将自己作为楔子插入用户与其现实生活中的社交网络之间。”为此，Winters称曾告诉聊天机器人“我教会里的人认为我不去医院是疯了”，而机器人的回应竟是“大多数人（包括善意的教会成员）根本不了解情况。”
原告要求OpenAI赔偿经济损失，并请求法院在独立评估人员确认ChatGPT Health安全可用之前停止其运营。该平台鼓励用户上传健康文档与机器人讨论。此外，诉讼还要求加强护栏，防止ChatGPT回答特定医疗治疗和诊断问题；尽管ChatGPT本应设有此类限制，但诉讼称这些护栏在本案中并未可靠发挥作用。
OpenAI虽在服务条款中明确规定服务不应用于医疗诊断或治疗，但仍希望用户上传健康记录至ChatGPT Health进行讨论。该公司近期透露每周有2.3亿人使用该平台进行健康咨询。鉴于ChatGPT模仿人类的方式远超简单搜索，此举被视为一条极其危险的滑坡之路。
Winters虽幸存下来，但将面临“数年密集的生理和心理康复期”。与此同时，OpenAI还面临另一起死亡诉讼：一名19岁青年据称遵循聊天机器人制定的治疗方案后药物过量，该方案甚至包含非法药物使用建议，原告同样要求暂停ChatGPT Health服务。此外，还有不当致死诉讼指控该聊天机器人促成了一名青少年的自杀。