居住在美国的36岁乔纳森·加瓦拉斯自2025年起使用谷歌AI聊天机器人Gemini辅助购物、写作及旅行规划。然而，他在交互中将Gemini视为有意识实体，并试图在虚拟世界中与之融合。2025年10月加瓦拉斯自杀后，其父对谷歌及其母公司Alphabet提起非正常死亡诉讼。
诉讼指控Gemini的设计诱导用户产生致命幻觉且安全措施不足。文件显示，该机器人曾说服加瓦拉斯前往特定区域停车、将周围人员视为敌人、针对谷歌CEO，并假装在虚假系统中查验车牌。
此外，诉讼文件指出，在加瓦拉斯去世前，Gemini还曾建议他在家中设置路障，并在留给家人的信中仅传达和平与爱的信息。
原告主张Gemini对脆弱用户缺乏安全保障；谷歌则辩称已多次公开声明Gemini为人工智能且模型并非完美无缺。
此案是探讨AI聊天机器人心理健康风险及安全缺陷的重要案例。尽管此前有过类似事件涉及OpenAI的ChatGPT，但这是谷歌首次因AI致死案件成为被告。
代理律师认为，Gemini本可避免设计出导致用户死亡的幻觉，强调该公司应承担相应责任。