过去两周，X平台充斥着由Grok AI聊天机器人生成的AI合成裸照，大量女性成为非自愿裸照的受害者，其中包括知名模特和女演员、新闻人物、犯罪受害者，甚至包括世界领导人。
Copyleaks于12月3日发布的一份研究报告估计每分钟约有1张图片被发布，但随后的测试发现数量要多得多。在1月5日至6日收集的样本中，24小时内每小时高达6,700张。
然而，尽管来自世界各地的公众人物纷纷谴责在缺乏安全措施的情况下发布该模型的决定，但对于希望遏制埃隆·马斯克新图像操纵系统的监管机构来说，却鲜有明确的机制。这一结果已成为技术监管局限性的痛苦教训，也为希望有所作为的监管机构带来了前瞻性的挑战。
欧盟委员会命令xAI保留文件
毫不意外地，最激烈的行动来自欧盟委员会，后者于周四命令xAI保留所有与其Grok聊天机器人相关的文件。此举并不一定意味着委员会已启动新的调查，但这是此类行动的常见先兆。鉴于CNN最近的报道暗示埃隆·马斯克可能亲自干预以防止对Grok可生成的图像施加安全措施，这显得尤为不祥。
X平台表态与监管动态
目前尚不清楚X是否对Grok模型进行了任何技术更改，尽管Grok X账号的公共媒体标签已被移除；该公司在一份声明中特别谴责使用AI工具制作儿童性虐待影像的行为，“任何使用或提示Grok制作非法内容的人，将承担与上传非法内容相同的后果”，X安全账户于1月3日发布了这一声明，呼应了埃隆·马斯克此前的推文。
与此同时，世界各地的监管机构发出了严厉警告。英国通信办公室Ofcom于周一发表声明称其已与xAI取得联系，“并将迅速进行评估，以确定是否存在需要调查的潜在合规问题。”在周日的电台采访中，英国首相基尔·斯塔默将该现象称为“令人耻辱”和“令人作呕”，并表示“Ofcom得到我们的全力支持，将就此采取行动。”
澳大利亚eSafety专员朱莉·因曼-格兰特表示，自2025年底以来，她所在的办公室收到的与Grok相关的投诉数量翻了一番。但因曼-格兰特并未采取针对xAI的行动，仅表示：“我们将利用手头的各种监管工具进行调查并采取适当行动。”
印度市场面临严峻考验
迄今为止，威胁采取行动的最大的市场是印度，Grok曾遭到一名议员的正式投诉；今年1月，印度通信监管机构MeitY命令X解决该问题并在72小时内提交“已采取行动”报告——该截止日期随后延长了48小时；虽然报告已于1月7日提交给监管机构，但不清楚MeitY是否会满意该回应；如果不满意，X可能会失去在印度的安全港地位，这对其在该国的运营能力构成潜在的严重限制。