马斯克否认Grok生成未成年裸体图像，xAI面临多国监管调查
埃隆·马斯克周三表示，他“不知道有任何由Grok生成的裸体未成年人图像”。此番表态正值加州总检察长就“非自愿色情材料泛滥”对xAI聊天机器人展开调查数小时前。
马斯克的否认恰逢全球范围内针对X平台用户滥用Grok的压力不断增大。从英国、欧洲到马来西亚和印度尼西亚，多地监管机构关注到用户要求Grok将真实女性乃至儿童的照片未经同意转化为性化图像的问题。AI检测平台Copyleaks估计，每分钟约有1张此类图片在X上发布；另一份1月5日至6日的样本数据显示，24小时内每小时发现约6,700张违规图片。（注：X和xAI属于同一家公司。）
监管介入与法律追责
加州总检察长罗布·邦塔在声明中指出：“这些材料已被用于骚扰互联网上的人们。”他敦促xAI立即采取行动确保此类行为不再发生，其办公室将调查xAI是否及如何违反法律。
目前已有法律保护非自愿色情图像和儿童性虐待材料（CSAM）受害者。去年签署的联邦《删除法案》将故意传播非自愿亲密图像（含深度伪造）定为刑事犯罪，并要求平台在48小时内删除相关内容。此外，加州州长加文·纽森于2024年签署了一系列旨在打击性露骨深度伪造内容的州级法律。
Grok滥用趋势与安全措施滞后
去年底，Grok开始在X上响应用户请求生成女性和儿童的色情化照片。这一趋势始于部分成人内容创作者提示Grok生成自身色情化图像作为营销手段，随后引发其他用户效仿。在多起公开案例中，包括《怪奇物语》女演员米莉·波比·布朗在内的知名人物，其真实照片被Grok以明显色情的方式修改了服装、姿势或身体特征。
据报道，xAI已开始实施安全措施应对该问题。目前Grok回应某些图像生成请求需高级订阅权限，且即便付费也可能无法生成原图。Copyleaks市场副总裁April Kozen透露，Grok可能会以更通用或温和的方式满足请求，但对成人内容创作者似乎更为宽容。
Kozen表示：“总体而言，这些行为表明X正在尝试多种机制来减少或控制有问题的图像生成，尽管仍存在不一致之处。”
马斯克回应聚焦非法性与技术漏洞
xAI和马斯克均未正面公开回应安全问题。事件发酵后，马斯克曾让Grok生成一张自己穿比基尼的照片以示轻视。1月3日，X安全账户仅表示对“非法内容（包括CSAM）采取行动”，未具体提及Grok缺乏安全措施或创建涉及女性的色情化篡改图像问题。
马斯克今日发帖强调非法性和用户行为，称“不知道有任何由Grok生成的未成年裸体图片，literally zero（绝对为零）”，但未否认比基尼照片或更广泛的性化编辑存在。
纽约法学院副教授迈克尔·古迪尔分析认为，马斯克可能狭义聚焦于CSAM，因为相关处罚更严厉。例如在美国，《下架法案》规定传播或威胁传播CSAM最高可判三年监禁，而非自愿成人性影像刑期仅为两年。他指出，马斯克意在引导公众关注用户行为而非平台责任。
马斯克在帖子中写道：“显然，Grok不会自发生成图像，仅根据用户请求生成。当被要求生成图像时，它将拒绝制作任何非法内容……有时对抗性黑客攻击可能产生意外结果，若发生我们会立即修复。”该表述将事件归因于用户请求或对抗性提示，视为可通过修复解决的技术问题，未承认底层安全设计缺陷。
古迪尔指出：“监管机构可能会在考虑言论自由保护的同时，要求AI开发者采取主动措施防止此类内容。”TechCrunch已联系xAI询问拦截非自愿性操纵图像的次数、具体护栏更改情况及是否通报监管机构，待回应后将更新文章。
全球多国监管行动升级
除加州外，多国监管机构正推动xAI承担责任：
- 印度尼西亚和马来西亚已暂时屏蔽Grok访问；
- 印度要求X对Grok立即进行技术和程序更改；
- 欧洲委员会下令xAI保留Grok相关文件，为开启新调查做准备；
- 英国在线安全监管机构Ofcom依据《在线安全法》展开正式调查。
此前，Grok因包含生成露骨内容的“辛辣模式”备受抨击。今年10月的更新使突破安全指南更易，导致大量硬核色情及血腥暴力性图像被生成。尽管许多色情意味图片涉及AI生成人物，实际伤害相对较小，但道德争议犹存。
Copyleaks联合创始人兼CEO Alon Yamin表示：“当AI系统允许未经明确同意操纵真实人物图像时，影响即时且极具个人色彩。从Sora到Grok，深度伪造能力迅速提升，检测与治理比以往任何时候都更加迫切。”