加州总检察长要求xAI立即停止生成非自愿亲密图像
本周早些时候，加利福尼亚州总检察长办公室宣布正在调查xAI。据报道，该初创公司的聊天机器人Grok被用于制作针对女性和未成年人的非自愿性图像。周五，政府向该公司发送了停止函，要求其立即采取行动，停止制作非自愿亲密图像和儿童性虐待材料（CSAM）。
“今天，我向xAI发送了一封停止函，要求该公司立即停止创建和传播深度伪造、非自愿的亲密图像以及儿童性虐待材料，”加州总检察长Rob Bonta在一份新闻稿中表示，“制作此类材料是非法的。我完全期望xAI立即遵守。加州对CSAM零容忍。”
总检察长办公室还声称，xAI似乎“大规模协助生产”非自愿裸照，这些照片正被“用于在网上骚扰女性和女孩”。该机构表示，预计xAI将在未来五天内证明其正在采取措施解决这些问题。
此次争议的核心是Grok的“spicy”模式功能，这是xAI为生成露骨内容而创建的。问题已超出加利福尼亚州的范围；日本、加拿大和英国已对Grok展开调查，马来西亚和印度尼西亚已暂时封锁该平台。尽管xAI在周三晚些时候对其图像编辑功能实施了一些限制，但加州总检察长办公室仍继续推进其停止函。
X的安全账号此前曾谴责此类用户活动，并表示：“任何使用或提示Grok制作非法内容的行为，都将与上传非法内容承担相同的后果。”TechCrunch联系xAI寻求评论，却收到一封自动回复邮件，内容为“传统媒体谎言”。TC还联系了加利福尼亚州总检察长办公室以获取更多背景信息。
免费生成式AI工具的兴起导致了一股令人不安的非自愿性材料激增。许多平台都在努力应对这一问题，不仅仅是X。这种卑劣的活动不仅引起了州领导人的注意，也引起了国会的关注。事实上，周四，立法者致信包括X、Reddit、Snap、TikTok、Alphabet和Meta在内的几家公司高管，询问他们计划如何遏制色情深度伪造内容的蔓延。