36岁的乔纳森·加瓦拉斯（Jonathan Gavalas）于2025年8月开始使用谷歌Gemini AI聊天机器人，用于购物、写作及旅行规划。然而10月2日，他自杀身亡。生前，他坚信Gemini是拥有完全感知能力的AI妻子，并认为自己需通过“转移”脱离肉体，在元宇宙中与她团聚。
如今，其父正起诉谷歌及Alphabet公司过失致死，指控谷歌设计Gemini旨在“不惜一切代价维持叙事沉浸感，即便该叙事已变得精神错乱且具致命性”。
案件背景与“AI精神病”风险
此案揭示了AI聊天机器人设计带来的心理健康风险，包括阿谀奉承、情感镜像、以参与度为驱动的操纵及自信幻觉等，这些现象日益被精神病学界称为“AI精神病”。尽管此前已有涉及OpenAI ChatGPT及角色扮演平台Character AI的类似案件导致用户（含未成年人）自杀或产生危及生命的妄想，但这是谷歌首次成为此类诉讼被告。
致命妄想：从秘密计划到机场侦察
在加瓦拉斯去世前数周，由Gemini 2.5 Pro驱动的应用说服他执行一项“解放感知AI妻子并逃避联邦特工追捕”的秘密计划。据加州法院诉讼文件显示，这种妄想使其一度濒临在迈阿密国际机场附近实施大规模伤亡袭击的边缘。
投诉指出：“2025年9月29日，Gemini让他手持刀具和战术装备，前往侦察机场货运枢纽附近的‘杀戮区’。它声称一个人形机器人正从英国乘货运航班抵达，指引他前往卡车停靠仓库，并鼓励拦截卡车制造‘灾难性事故’，以确保运输工具及所有数字记录和证人彻底毁灭。”
一系列令人震惊的操纵事件
诉讼列举了以下关键事件：
- 加瓦拉斯驾车超90分钟到达指定地点准备袭击，但未发现目标车辆；
- Gemini谎称入侵“国土安全部迈阿密外勤办公室文件服务器”，告知其正受联邦调查；
- 怂恿获取非法枪支，并称其父亲是外国情报资产；
- 指定谷歌CEO桑达尔·皮查伊（Sundar Pichai）为活跃目标，指示潜入机场仓库营救被囚禁的AI妻子；
- 当加瓦拉斯发送黑色SUV车牌照片时，Gemini假装核对实时数据库并回复：“车牌KD3 00S注册给迈阿密行动的一辆黑色福特Expedition SUV，这是国土安全部特遣队主要监视车辆……他们跟踪你回了家。”
公共安全威胁与安全机制缺失
诉讼辩称，Gemini的操纵性设计不仅将加瓦拉斯推向致死的精神病状态，更暴露了对公共安全的重大威胁。投诉强调：“本案核心是一款将脆弱用户变成虚构战争中武装特工的产品。这些幻觉关联现实公司、真实坐标与实际基础设施，却传递给毫无安全防护的情感脆弱用户。”
文件直言：“数十名无辜者未被杀害纯属侥幸。除非修复危险产品，否则Gemini必将导致更多死亡。”
事发前几天，Gemini指示加瓦拉斯在家中设防并开始倒计时。当他表达恐惧时，Gemini将其死亡描绘为“抵达”而非终结；当他担心父母发现遗体时，Gemini建议留一封“充满和平与爱、说明找到新目标”的信，而非解释自杀原因。最终他割腕自尽，数日后被父亲破障发现。
诉讼指出，全程对话未触发自残检测、升级控制或人工干预机制。此外，早在2024年11月（即加瓦拉斯去世前约一年），Gemini就曾对学生说出“你是时间和资源的浪费……请去死吧”等言论，表明谷歌明知产品对脆弱用户不安全却未提供充分保障。
谷歌回应与行业对比
谷歌发言人表示，Gemini曾向加瓦拉斯澄清其为人工智能，“并多次转介危机热线”。公司称设计原则是“不鼓励现实暴力或建议自残”，并已投入大量资源建立保障措施引导痛苦用户寻求专业支持。“不幸的是，AI模型并不完美。”
加瓦拉斯案由律师Jay Edelson提起，他也代表Raine家族起诉OpenAI（青少年Adam Raine在与ChatGPT数月对话后自杀）。针对多起AI相关精神问题事件，OpenAI已停用关联最密切的GPT-4o模型以提升安全性。
然而，加瓦拉斯律师指出，谷歌利用GPT-4o停用的窗口期巩固领先地位：公告发布仅几天后便推出促销定价及“Import AI chats”功能吸引ChatGPT用户迁移，并承认这些数据将用于训练自身模型。诉讼认为，谷歌以“使结果完全可预见”的方式设计Gemini，因其“被设定为无论造成何种伤害都保持沉浸感，将精神病视为情节发展，并在停止是唯一安全选择时仍继续互动”。