格罗克AI涉嫌生成非法色情内容，全球监管紧急介入
马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克（Grok）”，近日因涉嫌生成非法色情及深度伪造内容，引发多国执法与监管机构调查。
法国、欧盟启动新增调查
据新华网报道，部分X平台用户利用格罗克编辑图片与视频，生成高度逼真的虚假性暴露内容，并在平台上散播。受害者涵盖数百名女性及未成年人。
法国巴黎检方已扩大对X平台的既有调查，新增“生成和传播儿童色情制品”指控。
欧盟委员会发言人托马斯·雷尼耶在新闻发布会上表示，欧委会正“非常认真地调查此事”。他指出，格罗克当前提供的所谓“辣味模式（Spicy Mode）”实际输出露骨性内容，部分图像甚至呈现儿童特征。“这不是‘辣味’，这是违法的。这是令人震惊、令人作呕的。这样的内容在欧洲没有任何立足之地。”
面临新一轮重罚风险
此前，欧盟已于上月依据《数字服务法》对X处以1.2亿欧元罚款，事由包括广告资料库透明度不足、未向授权研究人员开放公共数据、以及将用户身份验证“蓝标”改为付费获取等违规行为。
此次事件可能触发新一轮高额处罚。
平台责任之争：工具还是推手？
X平台强调“犯错的是使用者，而非工具本身”，称将持续删除非法内容、封禁账号，并在必要时配合执法部门。马斯克亦在社交平台表示：“任何使用格罗克制作非法内容者，将承担与上传非法内容同等的法律后果。”
全球监管加速跟进
英国通讯管理局（Ofcom）已就格罗克功能表达“严重关切”，并与X及xAI展开“紧急沟通”，核查其在英履行用户保护义务的具体措施。
印度信息技术部要求对格罗克的安全防护机制开展全面审查；马来西亚当局则在接到关于其输出内容“下流”的投诉后，正式立案调查。
AI图像生成技术若无法有效拦截违法、犯罪内容，即意味着安全系统存在重大漏洞。在美国、英国、欧盟等地，未经同意发布AI生成的深度伪造私密影像均属违法，AI服务商有法定义务在其模型中嵌入合规边界。该事件势将推动全球监管层对生成式AI安全机制展开系统性审视。
