扔一块石头，你很可能会砸中一个深度伪造视频。生成式AI的商品化导致网上虚假内容绝对爆炸式增长：根据身份验证平台Sumsub的数据，2023年至2024年间，全球深度伪造视频数量增加了4倍。据Sumsub称，在2024年，深度伪造占所有欺诈行为的7%，范围从冒充和账户接管到复杂的社交工程活动。
Meta希望为对抗深度伪造做出有意义的贡献，因此发布了一种工具，用于在AI生成的视频片段上添加不可察觉的水印。该工具于周四宣布，名为Meta Video Seal，以开源形式提供，旨在集成到现有软件中。该工具加入了Meta的其他水印工具行列，包括Watermark Anything（今天以更宽松的许可证重新发布）和Audio Seal。
Video Seal的技术优势与功能
“我们开发了Video Seal，以提供更有效的视频水印解决方案，特别是用于检测AI生成的视频并保护原创性。”Meta的AI研究科学家Pierre Fernandez在接受TechCrunch采访时说。
Video Seal并非同类技术中的第一个。DeepMind的SynthID可以为视频加水印，而微软也有自己的视频水印方法。但Fernandez断言，许多现有方法存在不足。
“虽然存在其他水印工具，但它们对视频压缩的鲁棒性不足，而视频压缩在通过社交平台分享内容时非常普遍；运行效率不足以大规模应用；不够开放或可复现；或者源自图像水印，这对视频来说不是最优选择。”Fernandez说。
除了水印外，Video Seal还可以向视频中添加隐藏消息，这些消息稍后可被揭示以确定其来源。Meta声称，Video Seal能够抵御常见的编辑操作，如模糊和裁剪，以及流行的压缩算法。
局限性与行业推广策略
Fernandez承认，Video Seal存在一些局限性，主要是水印的可感知性与整体抗篡改能力之间的权衡。他补充说，重度压缩和重大编辑可能会改变水印或使其无法恢复。
当然，Video Seal面临的更大问题是，开发者和行业可能没有太多理由采用它，尤其是那些已经使用专有解决方案的人。为了应对这一问题，Meta正在启动一个公共排行榜Meta Omni Seal Bench，专门比较各种水印方法的性能，并计划在今年ICLR（一个主要的AI会议）上组织一场关于水印的工作坊。
“我们希望越来越多的AI研究人员和开发者能在他们的工作中整合某种形式的水印。”Fernandez说。“我们希望与行业和学术界合作，在该领域更快地取得进展。”