第四方正在对 xAI 提起诉讼，指控 Grok 被用于根据她童年的照片制作儿童性虐待材料（CSAM）。据《华盛顿邮报》首次报道，这位在诉讼中被命名为 Jane Doe 4 的女性表示，她的继父使用 Grok 制作了“数千张她童年时期的色情图像并在网上交易”。
根据诉讼文件，继父利用 AI 聊天机器人 Grok 创建了超过 7,000 张“伪造的裸露图像”，其中包括将一张她 11 岁时的照片转化为色情图像。最终，州和地方执法部门对其继父的电子设备进行了搜查以获取 CSAM 证据；两天后，他被发现死于车内自杀。
Jane Doe 4 加入了另外三名青少年，他们提起了最初的诉讼，指控 Grok 被用于制作他们的色情深度伪造图像。这起诉讼最初由田纳西州的三名青少年发起，但集体诉讼认为它可能涵盖“至少数千名未成年人”。
除了这起诉讼外，xAI 及其 Grok 聊天机器人一直是许多涉及 CSAM 调查的中心。今年 1 月，加利福尼亚州总检察长 Rob Bonta 启动了一项针对 xAI 的调查，指控其生成未经同意的妇女和儿童的深度伪造裸照。同月晚些时候，欧盟也展开了对 X 平台的独立调查，以确定该平台是否有足够的措施来阻止 AI 生成的 CSAM 的传播。我们已联系 xAI 就诉讼的最新更新发表评论，并在收到回复后更新故事。