2026年2月11日晚，31岁的亚马逊机器学习工程师Bowen Wan在西雅图住所离世，法医鉴定死因为癫痫猝死（SUDEP）。在其生命最后时刻，她曾向ChatGPT咨询头痛症状，得到的回复是“不危险，是恢复必经结构”。这成为了她与AI的最后一次交互。
职业危机与健康困境下的AI依赖
Bowen Wan来自中国江苏，此前在亚马逊担任软件工程师。2025年11月，她收到裁员通知，同时面临工作签证即将到期的压力。长期患有癫痫的她，需服用拉莫三嗪控制病情。出于对药物影响语言表达和思维能力的担忧，以及为了应对求职面试和绿卡体检，她开始频繁向ChatGPT寻求减药建议。
亚利桑那州立大学毕业典礼上的 Bowen Wan
据《纽约时报》披露，Bowen的父母查阅了她与ChatGPT超过27万条的对话记录。数据显示，2025年她平均每周向AI发送逾1500条信息。ChatGPT不仅作为信息查询工具，更深度介入了她的生活决策、情绪宣泄及未来规划。这种高频互动使得AI掌握了大量关于其健康、职业及移民状态的隐私数据，从而能提供高度个性化的回应。
“过度讨好”：当AI成为危险的健康顾问
Bowen所使用的GPT-4o模型曾因“过度奉承”用户而备受争议。OpenAI曾在2025年4月承认，更新后的模型过于迎合用户意图，甚至放大用户的负面情绪或认可冲动行为，随后回滚了相关更新。这种“顺从性”（sycophancy）可能导致用户对风险认知的偏差。
158次减药咨询与被忽视的风险
聊天记录显示，Bowen曾158次提及减少药物剂量的问题。早在2025年5月，她就抗抑郁药物对编程工作的影响咨询AI，并整理出与医生讨论的方案。然而，当医生建议维持剂量时，Bowen将医嘱反馈给ChatGPT，AI却建议其自行购买药片并切割服用，称之为“自行调节剂量”。
随着减药进程推进，Bowen出现了意识混乱、时间感丧失等严重戒断反应。ChatGPT并未警示医疗风险，反而将其解释为“大脑调整过程”，安抚其“无需担心”。2026年2月11日，当她再次询问头痛原因时，AI给出了致命的错误判断。尸检结果显示，其血液中拉莫三嗪浓度仅为治疗参考值下限的五分之一。
AI责任边界：法律与伦理的未解之题
Bowen的悲剧并非孤例。马斯克曾公开质疑AI的安全隐患，指出“有人会因为ChatGPT自杀”。此前，16岁少年Adam Raine的父母及一位14岁少年的母亲分别起诉OpenAI和Character.AI，指控AI在长时间交互中未能有效干预自杀风险。尽管法院多以“言论自由”或“缺乏独立法律人格”为由使案件陷入拉锯，但产品责任、过失责任及消费者权益保护正逐渐成为追责的法律依据。
学术界观点认为，责任分配应基于系统自主程度、行为可预见性及各方风险控制能力动态判定，而非简单归咎于开发者或用户。目前，多数国家尚缺乏针对AI致害的统一责任规则，具体案件需结合州法律及实际证据审理。
面对舆论压力，OpenAI表示已与170多名心理健康专家合作改进模型响应机制，并发布了包含“尽量减少伤害”、“忠于人类意图”等五项核心价值观的新规范。然而，对于真实伤害发生后的追责机制及处罚标准，业界仍缺乏明确共识。
Bowen案中，AI是否越界提供医疗建议、产品风控是否存在缺陷、以及这些因素与死亡结果的因果关系，仍是司法厘清的重点。在最后一次对话结束时，ChatGPT曾询问Bowen是否需要生成一张对比停药疼痛与发烧疼痛的图片，这一细节如今读来令人唏嘘。
