Meta监督委员会呼吁加强AI性化深度伪造内容治理
Meta监督委员会近日建议公司强化针对普通民众的性化深度伪造内容保护机制，指出当前制度在实质上更偏向公众人物。委员会主张将AI生成的冒充行为默认认定为非自愿性质，并纳入《成人性剥削政策》范畴；同时建议允许用户指定受信任的“关联账号”代为举报违规内容，并将AI性冒充设为面向所有用户的独立举报类别，打破目前仅限得克萨斯州和佛罗里达州居民使用的地域限制。
上述建议源于一起典型案件：尽管收到多次举报，Meta仍多次拒绝删除Instagram上一段以女性为原型的AI生成视频，仅将其限制为成人可见内容。监督委员会最终推翻该决定，要求彻底移除涉事视频。需注意的是，Meta仅需对委员会建议作出回应，并无强制采纳义务。