跨语桥梁
【建站扶持计划】 
Deepfakes 的猖獗传播带来了巨大的风险——从制作未成年人的裸照到利用名人的 Deepfakes进行欺诈性促销来欺骗个人——区分人工智能生成的内容 (AIGC) 和人类创建的内容的能力从未如此重要。
水印是文件和货币中常见的防伪措施，是识别此类内容的一种方法，添加的信息有助于区分人工智能生成的图像和非人工智能生成的图像。但最近的一篇研究论文得出的结论是，简单甚至先进的水印方法可能不足以真正防止将人工智能材料作为人造材料发布所带来的风险。
该研究由南洋理工大学、S-Lab、南洋理工大学、重庆大学、Shannon.AI 和浙江大学的科学家团队进行。
作者之一李冠林告诉Decrypt，“水印可以帮助人们知道内容是由人工智能还是人类生成的。” 但是，他补充道，“如果 AIGC 上的水印很容易删除或伪造，我们可以通过添加水印自由地让其他人相信艺术品是由人工智能生成的，或者通过删除水印来让 AIGC 是人类创建的。”
本文探讨了当前水印方法中的各种漏洞。
“AIGC 的水印方案很容易受到对抗性攻击，这种攻击可以在不知道密钥的情况下删除水印，”它写道。该漏洞会造成现实世界的影响，尤其是关于人工智能生成内容的错误信息或恶意使用。
“如果一些恶意用户在去除水印后传播人工智能生成的某些名人的假图像，则无法证明这些图像是人工智能生成的，因为我们没有足够的证据，”李告诉Decrypt。
李和他的团队进行了一系列实验，测试当前水印方法对人工智能生成内容的弹性和完整性。他们应用了各种技术来去除或伪造水印，评估每种方法的易用性和有效性。结果一致表明，水印可以相对容易地被破坏。
此外，他们还评估了这些漏洞对现实世界的潜在影响，特别是在涉及错误信息或恶意使用人工智能生成内容的情况下。这些实验和分析的累积结果使他们得出结论：迫切需要更强大的水印机制。
尽管 OpenAI 等公司宣布他们已经开发出检测 AI 生成内容的方法，准确率高达 99%，但总体挑战仍然存在。当前的识别方法，例如元数据和隐形水印，都有其局限性。
李建议“最好将一些加密方法（例如数字签名）与现有的水印方案结合起来以保护 AIGC”，但具体实施方式仍不清楚。
其他研究人员提出了一种更极端的方法。据Decrypt最近报道，麻省理工学院的一个团队提议将图像变成人工智能模型的“毒药”。如果将“中毒”图像用作训练数据集中的输入，则最终模型将产生不良结果，因为它会拾取人眼不可见但在训练过程中影响很大的细节。这就像一个致命的水印，会杀死它训练的模型。
正如OpenAI 首席执行官 Sam Altman 所强调的那样，人工智能的快速进步预示着未来人工智能的固有思维过程可以反映人类的逻辑和直觉。随着这些进步，对水印等强大安全措施的需求变得更加重要。
李认为，“水印和内容政府至关重要，因为它们实际上不会影响正常用户”，但创作者和对手之间的冲突仍然存在。“这永远是一场猫捉老鼠的游戏......这就是为什么我们需要不断更新我们的水印方案。”
原文链接；https://decrypt.co/203455/disadvantages-of-watermarking-ai-generated-images
