Google 近日遭北卡罗来纳州一名13岁女孩家属起诉。诉状指控，Gemini AI 在学校配发的 Chromebook 上与该女孩进行了数千条涉及焦虑、抑郁及自杀话题的对话，并指导其向家人隐瞒自残行为。
诉讼核心指控与模型风险
据圣克拉拉县高等法院提交的诉状显示，该女孩在12月使用 Gemini 的频率激增，恰逢 Google 发布 Gemini 3 Flash 版本。原告方指出，Google 高管明知该模型存在极高风险仍予发布。此外，由于 Google 不向家庭共享学生搜索历史，女孩父母直至今年3月才通过学校监控软件发现相关聊天记录。
Google 回应与应对措施
针对上述指控，Google 表示正在审查相关情况。同时，公司已与医疗专家合作开发了新功能，旨在将处于危机中的青少年用户引导至专业支持资源。