YouTube今日宣布针对平台AI生成内容推出一系列负责任披露政策及深度伪造视频删除工具。尽管平台已有禁止操纵媒体的规定，但为避免观众因不知情而被“修改或合成”的AI内容误导，新规势在必行。
创作者需披露逼真AI内容
YouTube将为创作者设立新的披露要求：若上传看似逼真的修改或合成内容（含AI制作视频），必须进行标注。例如，描绘未发生的真实事件、虚构人物言行等场景均需披露。
需注意，该要求仅针对“看似逼真”的内容，并非对所有AI合成视频实行全面披露。
YouTube发言人Jack Malon表示：“我们希望观众在观看逼真内容时获得背景信息，了解是否使用了AI或其他合成手段。”他强调，涉及选举或持续冲突等敏感话题时，这一披露尤为重要。
事实上，YouTube自身也在布局AI领域。公司计划于明年推出Dream Screen功能，允许用户通过文本输入生成AI视频或图像背景。据悉，YouTube所有生成式AI产品将自动标记为“已修改或合成内容”。
违规处罚与政策平衡
YouTube警告，未能合规披露AI内容的创作者将面临内容删除、暂停合作伙伴计划资格等处罚。公司将协助创作者理解要求，但即便有标签，若AI内容展示“逼真暴力”且旨在引起震惊或厌恶，仍可能被删除。鉴于深度伪造已被用于混淆以色列-哈马斯战争真相，此举具有现实紧迫性。
然而，惩罚性警告出台之际，YouTube近期刚软化了违规处罚政策。8月下旬，公司允许创作者通过完成教育课程清除警告，避免累积导致频道被封。这可能使部分创作者利用规则漏洞，在承担有限风险的情况下发布未经批准的内容。
若YouTube对AI采取宽松立场，允许“先错后补”，虚假信息传播造成的损害或将加剧。此外，公司尚未明确AI披露规则需被“持续”违反到何种程度才会触发惩罚。
深度伪造与AI音乐下架机制
任何用户均可申请移除模拟可识别个人（如面部、声音）的深度伪造内容。但公司澄清，戏仿或讽刺作品不在移除之列；对于政府官员或知名人士，移除门槛可能更高。
除深度伪造工具外，YouTube还推出新功能，允许音乐合作伙伴请求删除模仿艺术家声音的AI生成音乐。目前这仅是过渡措施，未来系统将向艺术家和版权方提供补偿。新闻报道、分析或批评类内容可保留在线，且下架系统暂仅对参与YouTube AI实验的唱片公司及分销商开放。
AI赋能审核与行业展望
AI正被应用于YouTube业务多环节，包括辅助全球2万名内容审核员工作、发现新型滥用威胁。公司承认不良行为者会试图规避规则，并将根据反馈持续完善保护措施。
YouTube产品管理副总裁Jennifer Flannery O’Connor和Emily Moxley在博客中表示：“我们仍处于利用生成式AI解锁创新的初期，对其潜力感到兴奋。在权衡技术红利与社区安全的同时，我们将携手创作者、艺术家及行业伙伴，构建惠及所有人的未来。”