欧盟拟将人工智能生成的色情内容纳入犯罪范畴。基于2022年发布的应对家庭暴力及针对女性暴力形式的指令提案，欧洲理事会与欧洲议会已通过建议，将各类网络暴力行为定为犯罪。
指令重点打击的网络犯罪
在拟议规则框架下，未经同意分享私密影像将被定罪，涵盖助长“复仇色情”的AI深度伪造（deepfake）内容。此外，网络跟踪、骚扰、厌女仇恨言论及发送不受欢迎的裸体影像均被认定为犯罪行为。
委员会强调制定全欧统一指令的重要性，旨在为尚未立法成员国的受害者提供保护。成员国需采取措施帮助用户识别、预防网络暴力并获取援助，同时建立在线举报门户。
近期泰勒·斯威夫特（Taylor Swift）面部深度伪造视频病毒式传播，迫使X平台暂时屏蔽相关搜索。该事件加速了欧盟提案进程。目前草案尚待成员国代表批准，最终法案仍需理事会和欧洲议会通过。
Take It Down 平台
与此同时，Meta支持美国国家失踪与受虐儿童中心（NCMEC）推出了紧急平台Take It Down，旨在主动防止未成年人非自愿色情影像在网络扩散。
该平台面向未满18岁者、未成年子女父母及担忧早年影像的成年人开放。用户无需上传原片，仅需生成“哈希值”数字指纹并安全发送至平台。Facebook、Instagram等社交媒体可利用该指纹检测并删除匹配内容，阻断传播。
图片来源：Deposit Photos