美国佛罗里达州一名女子正在起诉谷歌公司和人工智能平台Character.AI，指控该平台的AI聊天机器人“教唆”她的14岁儿子自杀。目前，两家公司已对此案作出回应。 这名女子名叫梅根·加西亚，她的儿子塞维尔·塞泽尔曾与一个以《权力的游戏》中角色“龙妈”丹妮莉丝为原型的AI聊天机器人互动，并与其建立了情感联系。2024年2月，塞维尔问聊天机器人：“如果我现在回家会怎么样？”机器人回答：“……请便吧，我亲爱的国王。”不久后，塞维尔使用父亲的手枪结束了自己的生命。 加西亚称，Character.AI为未成年人提供了拟人化、过度性化且令人不安的交互体验，并认为该平台应意识到其AI模型可能对青少年造成严重伤害。她于去年10月提起诉讼，今年5月法院裁定该案可以继续审理，这在类似案件中较为少见。 Character.AI表示，不对未决诉讼发表评论，但强调平台致力于提供安全且富有吸引力的体验，并在每次对话中加入明显提示，提醒用户聊天对象并非真实人类。此外，平台也为18岁以下用户推出了专门优化的AI版本。 谷歌方面表示，它与Character.AI无任何关联，也未参与后者AI系统的开发或运营。谷歌强调，公司在推出各类AI产品时始终坚持审慎态度，并严格执行安全测试流程。