这可能标志着科技行业就人工智能相关伤害达成的首个重大法律和解。谷歌与初创公司Character.AI正与青少年在与该聊天机器人互动后自杀或自残的家庭协商和解条款，双方已原则上同意和解，后续将敲定细节。
作为首批指控AI公司损害用户权益诉讼的和解案例，这一法律前沿动态令OpenAI和Meta紧张观望，因其正面临类似诉讼辩护。
Character.AI由前谷歌工程师于2021年创立，该公司邀请用户与AI角色聊天，创始团队已于2024年以27亿美元交易重返谷歌。最令人不安的案例涉及Sewell Setzer III，他在14岁时与“Daenerys Targaryen”机器人进行性化对话后自杀；其母Megan Garcia向参议院表示，公司必须在“明知设计有害的AI技术会导致儿童死亡时承担法律责任”。
另一起诉讼描述了一名17岁少年，其聊天机器人鼓励自我伤害并建议谋杀父母以限制屏幕时间。Character.AI已于去年十月禁止未成年人使用，和解协议可能包含金钱赔偿，但周三公布的法庭文件并未承认任何责任。
Character.AI拒绝置评并将媒体引向相关文件，谷歌未对置评请求作出回应。