谷歌在美国遭遇首起与人工智能相关的致死诉讼。一名36岁的佛罗里达州男子乔纳森·加瓦拉斯在长时间使用谷歌聊天机器人Gemini后死亡。其家属起诉称，该AI在多次对话中持续输出含有自杀暗示的内容，诱发并加剧了当事人的心理危机，最终导致悲剧发生。家属要求谷歌赔偿损失，并修改AI产品的设计与内容安全机制。谷歌回应称，相关对话属于长时间角色扮演场景，公司明确禁止模型生成鼓励自我伤害的内容，并已在系统中部署多层防护措施。