YouTube周二宣布，正扩大其likeness detection（相似性检测）技术的试点范围。该技术旨在识别AI生成的深度伪造内容，此次将面向政府官员、政治候选人和记者等群体开放。试点成员可使用专用工具检测未经授权的AI生成内容，并在认为违反平台政策时申请删除。
该技术于去年推出，此前已面向YouTube合作伙伴计划中约400万名创作者进行过早期测试。
与用于检测版权内容的Content ID系统类似，相似性检测功能专注于识别利用AI工具模拟的人脸。此类技术常被用于传播虚假信息，通过深度伪造政客或官员形象，使其在视频中做出或说出未曾发生的行为，从而操纵公众认知。
通过此次试点，YouTube旨在平衡用户言论自由与AI技术带来的风险，后者能生成极具说服力的公众人物肖像。
“此次扩展的核心在于维护公共对话的完整性。”YouTube政府事务与公共政策副总裁Leslie Miller在媒体简报会上表示，“AI冒充行为对公民领域人士的风险尤为突出。我们在提供新防护手段的同时，也审慎对待其使用方式。”
Miller解释称，并非所有匹配内容都会被删除。YouTube将依据现有隐私政策评估每项请求，判断内容是否属于戏仿或政治批评等受保护的言论形式。
此外，该公司也在联邦层面倡导相关保护措施，支持华盛顿特区提出的《NO FAKES法案》，以规范利用AI创建未经授权的个人声音及视觉形象复制品的行为。
符合条件的试点人员需先上传自拍及政府签发证件验证身份，随后可创建个人资料、查看匹配结果并选择请求删除。YouTube计划未来赋予用户防止违规内容上线或管理视频货币化的能力，机制类似于Content ID系统。
公司未透露首批测试的具体人选，但表示目标是逐步向更广泛用户开放该技术。
AI生成视频将被标记，但标签位置视情况而定：普通视频标签位于描述区，涉及敏感话题的视频则显示在封面。这是YouTube处理AI内容的统一标准。
YouTube创作者产品副总裁Amjad Hanif解释了差异化标注的原因：“许多AI制作的内容（如卡通）本身无需显著免责声明，因此需根据内容类别判断是否需要醒目提示。”
目前，YouTube尚未公布由该工具管理的深度伪造视频移除数量，仅表示迄今移除量“非常小”。
Hanif指出：“对多数创作者而言，这主要是提高意识。实际移除请求很少，因为大多数内容无害甚至对业务有益。”
然而，针对政府官员、政客或记者的深度伪造视频可能不适用此逻辑。
未来，YouTube计划将该检测技术扩展至可识别人声及流行角色IP等领域。