跨语桥梁
【建站扶持计划】 
日本一家新闻媒体的一段报道再次引发了有关弗拉基米尔·普京在公开露面时使用替身的传言，据称生成人工智能被用来使这些替身的照片看起来更像真正的俄罗斯总统。
据《每日邮报》 报道，这种持续存在且未经证实的说法已经流传了几个月，并在日本重新出现。据报道，日本研究人员分析了普京在不同活动中的视频片段和照片，并暗示至少有三个人在扮演他。尽管克里姆林宫立即驳回了此类说法，但这个故事仍然说明了人工智能快速发展的一个副作用：人工智能深度伪造的进步。
AI Deepfake是一种使用算法交换视频、图像和其他数字内容中的面孔，使赝品看起来真实的技术。Deepfakes 已被认为是一种危险的政治操纵新工具。检测Deepfake已成为一个快速发展的行业，生成 AI 领域的领导者 OpenAI 声称能够以 99% 的准确率识别 Deepfake。
但研究人员表示，做到这一点并不容易，而且会变得越来越困难。
Digimarc 总裁兼首席执行官 Riley McCormack 告诉Decrypt：“概率技术已经尝试了一些方法来确定某物是否是人工智能。” “我想，如果你观察过许多这些方法，你就会发现，最好的方法的准确性都相当低。”
Digimarc于 1994 年推出，提供数字水印，有助于识别和保护数字资产和版权所有权。水印是识别深度赝品的最常用方法之一，谷歌等公司正在探索这种方法。
在旧金山举行的 Google Cloud Next 期间，Alphabet 和 Google 首席执行官 Sundar Pichai 推出了 Google Vertix AI 平台中的水印功能。
“利用 Google Deepmind 提供的技术，Vertex AI 生成的图像可以以人眼看不见的方式加水印，而不会损害图像质量，”Pichai 说。
然而，作为一种策略，水印有许多弱点。麦科马克表示，通过水印来阻止人工智能深度伪造需要每个人都采用相同的方法来表明某些东西是人工智能生成的还是真实的——这是他之前争论过的。
“仅使用水印进行生成式人工智能的问题在于，并不是每个生成式人工智能引擎都会采用它，”他说。“任何真实性系统的问题是，除非你无处不在，否则仅仅以一种方式标记它不会有任何作用。”
由于人工智能图像生成器从互联网和社交媒体上免费获取图像，因此其他专家主张在生成器中加入一些代码，这些代码会降低生成器中的图像质量，或者通过错误标记数据来利用毒丸，以便在将数据输入人工智能模型时，人工智能无法创建所需的图像，并且可能会在压力下崩溃。
人工智能深度造假已经被用来欺骗美国总统乔·拜登、教皇弗朗西斯和前总统唐纳德·特朗普。随着 Deepfake 技术日益进步，人工智能探测器只能在一场跟上的竞赛中打地鼠。
人工智能生成的儿童性成人内容（CSAM）的增加加剧了人工智能深度伪造的危险。英国互联网监管组织互联网观察基金会10 月份发布的一份报告显示，儿童色情内容正在利用免费使用和分发的开源人工智能模型在网上迅速传播。
IWF 表示，深度造假色情制品已经发展到了区分人工智能生成的儿童图像和真实儿童图像变得越来越困难的程度，使得执法部门追查网络幻影而不是实际的虐待受害者。
互联网观察基金会首席技术官丹·塞克斯顿 (Dan Sexton) 告诉Decrypt：“因此，你无法相信事情的真实性。” “那些能告诉我们事情是否真实的东西并不是100%的，因此，你也不能相信它们。”
McCormack提出的另一个问题是，市场上的许多人工智能模型都是开源的，可以不受限制地使用、修改和共享。
“如果你将安全技术放入开源系统中，”麦科马克说。“你把一把锁放在那里，然后在它旁边放上如何撬锁的蓝图，所以它并没有真正增加很多价值。”
Sexton 表示，在图像生成模型方面，他对一件事持乐观态度：随着像 Stable Diffusion、Midjourney 和 Dall-E 这样的大型模型变得更好并保留强大的护栏，那么允许本地创建 CSAM 的旧模型将被淘汰。他说，也可以更容易地判断哪些模型创建了这些图像。
塞克斯顿说：“你会发现做这些事情会更困难，做这些事情会更合适，而且可能更容易瞄准和防止这些伤害的发生。”
虽然政府领导人是人工智能深度伪造的主要目标，但越来越多的好莱坞名人发现他们的肖像被用于以人工智能深度伪造为特色的网络诈骗和广告中。
为了阻止未经授权使用她的形象，好莱坞演员斯嘉丽·约翰逊表示，她正在对人工智能公司 Lisa AI 采取法律行动，该公司在广告中使用了人工智能生成的复仇者联盟明星的图像。上个月，YouTube 巨头Mr. Beast提醒其追随者注意利用他的肖像进行的在线诈骗，甚至汤姆·汉克斯 (Tom Hanks)也是人工智能深度造假活动的受害者，该活动利用他的肖像来宣传牙科计划。
今年 9 月，教皇弗朗西斯（许多人工智能深度造假的对象）将这项技术作为世界和平日节日布道的核心内容。这位宗教领袖呼吁就人工智能及其对人类的意义进行公开对话。
弗朗西斯说：“人工智能领域取得的显着进步正在对人类活动、个人和社会生活、政治和经济产生迅速增长的影响。”
McCormack 表示，随着 AI 检测工具变得更好，AI Deepfake 生成器也将变得更好，从而导致去年 ChatGPT 推出后开始的 AI 军备竞赛的另一个前沿。
“生成式人工智能并没有造成深度造假问题或虚假信息问题，”麦科马克说。“它只是使其民主化。”
原文链接：https://decrypt.co/204079/from-biden-to-putin-ai-deepfakes-are-taking-over-the-political-discourse
