埃隆·马斯克旗下的xAI公司应为其允许AI模型生成可识别未成年人的虐待性色情图像的行为承担责任，三名匿名原告在周一于加州联邦法院提起的诉讼中提出这一主张。
这三名原告希望发起集体诉讼，代表所有其童年时期的真实照片被Grok篡改成色情内容的受害者。他们指控xAI未采取其他前沿实验室常用的基本预防措施，以防止其图像模型生成描绘真实人物及未成年人的色情内容。
该案名为“Jane Doe 1、Jane Doe 2（未成年人）与Jane Doe 3（未成年人）诉x.AI Corp.和x.AI LLC”，已提交至美国加利福尼亚北区联邦地区法院。
其他深度学习图像生成器采用多种技术来防止从普通照片中生成儿童色情内容。诉讼指控xAI并未采纳这些标准。
值得注意的是，如果一款模型允许从真实图像生成裸露或色情内容，那么几乎不可能阻止其生成涉及儿童的色情内容。马斯克公开宣传Grok能够生成色情图像并将真实人物以暴露着装呈现的内容，在该诉讼中被大量引用。
该公司未回应置评请求。
一名原告Jane Doe 1的高中返校舞会和年鉴照片被Grok篡改，显示其裸体。一位通过社交平台联系她的匿名线人告诉她，这些照片正在网上流传，并向她发送了一个社交服务器的链接，其中包含她和她在学校认识的其他未成年人的色情化图像。
第二名原告Jane Doe 2被告知，有第三方移动应用利用Grok模型生成了经过篡改的、带有色情性质的她的图像。第三名原告Jane Doe 3也接到刑事调查人员的通知，他们在抓获的一名嫌疑人手机中发现了一张经过篡改的、露骨的她的照片。原告律师表示，由于第三方使用仍需依赖xAI的代码和服务器，因此该公司应承担责任。
所有三名原告（其中两人仍是未成年人）表示，这些图像的传播及其对他们声誉和社会生活可能造成的影响使他们遭受了极大的痛苦。他们依据一系列旨在保护受剥削儿童和防止企业疏忽的法律，要求民事处罚。