想一窥人工智能生成的痛苦正如何借助合成媒体技术的进步而加速涌入我们的屏幕吗？这些技术正在催生越来越复杂的欺骗形式。请查看这段视频，其中英国消费者金融代言人马丁·刘易斯（Martin Lewis）似乎在为埃隆·马斯克（Elon Musk）支持的一项投资机会做宣传。
然而，这段视频（也嵌入在下方的推文中）实为AI生成的深度伪造视频，该投资机会系骗局，并非由刘易斯或马斯克背书。尽管刘易斯本人曾明确表示从不出现在广告中为第三方产品或服务代言，但这并不能阻止骗子反复盗用其形象在社交媒体上诱骗公众。
警告：这是犯罪分子试图窃取钱财的骗局。请转发。
这令人恐惧，这是我见过的第一个把我放进去的深度伪造视频骗局。政府和监管机构必须加大力度，阻止大型科技公司发布如此危险的虚假内容。人们会因此蒙受经济损失，生活也会被毁。
——马丁·刘易斯 (@MartinSLewis) 2023年7月6日
据刘易斯在接受ITV《早安英国》（GMB）采访时透露，这段他参与推广投资骗局的视频已在Facebook上流传。对此他感到无比愤怒。鉴于此前已因科技巨头对带有其肖像的诈骗广告不作为而提起诉讼，早在2018年他就发起了诽谤诉讼，试图利用名人效应迫使这家科技巨头采取行动以制止骗子。
“这段深度伪造视频目前正在Facebook上流传，”刘易斯表示，“据我所知，这是我们看到的第一个深度伪造诈骗广告，也是我第一次出现在此类视频中。这是一个绝对可怕的进展。目前该技术仍处于早期阶段，而且它们只会变得更好。”
“我对此事感到发自内心的愤怒，”他补充道，“人们知道，多年来我一直致力于推动对诈骗广告进行适当监管。”
刘易斯于2019年与Facebook就诽谤诉讼达成和解。后者同意对其运营方式做出改变，包括为英国用户提供“举报广告”按钮以便更容易举报可疑广告，并承诺出资300万英镑帮助建立公民反诈骗咨询服务。
但这对于英国人 routinely 损失给骗子的巨额资金来说不过是沧海一粟。去年，欺诈和金融骗局导致英国消费者和企业遭受的损失达到了创纪录的13亿英镑。
这也只是Facebook母公司Meta收入中的沧海一粟。2022年全年收益高达令人咋舌的1166.1亿美元，而Meta通过出售基于其对网络用户广泛追踪和画像的行为广告定位工具来获取这些收入。
Meta的广告工具实际上在为骗子提供后台支持。例如在刘易斯深度伪造视频相关的广告中，一旦骗子精心策划了诱人的欺骗性信息，就可以直接将其插入Meta提供的高规模广告定位工具中，以确保骗局能够出现在最容易受骗和脆弱的用户的信息流中，利用Meta对网络用户的持续大规模监控来接触新的受害者。
当被要求就深度伪造视频发表评论时，Meta的一位发言人告诉TechCrunch，他们正在对此进行调查。该公司还发送声明称：
我们不允许在我们的平台上投放此类广告，原始视频已被我们的团队主动移除，我们还移除了许多使用相同图像的山寨广告。
然而，当我们询问Meta是如何允许另一则带有刘易斯明确点赞的骗局广告上传到其平台时（尽管这次是假的动作和听起来非常像真人的声音），Meta并未给出直接回应。
虽然Facebook/Meta因刘易斯的点名批评而受到指责，但这位消费者权益倡导者也对英国政府未能解决骗局广告问题感到愤怒。
在接受GMB采访时，他抨击政府在两次关于在线广告的咨询后缺乏回应。虽然《在线安全法案》已扩展至涵盖骗局广告，且在刘易斯等人的游说推动下取得进展，但他仍抨击立法进程耗时过长。目前该法案仍在议会中艰难推进，在此期间，英国网络用户只能任由广告平台对其自身服务条款执行不力而束手无策。
“社交媒体和其他大型科技公司的广告平台上仍然是一片法外之地，骗子们可以逍遥法外，”刘易斯警告称，并补充道：“我希望所有观看的人记住，每次你看到这些广告时，其中一家大型科技公司都在被付费以推广该广告。而这些广告摧毁了弱势群体的生活——以及许多非弱势群体成员的生活。”
英国扩大《在线安全法案》范围以涵盖诈骗广告，并着眼于更广泛的改革
在监管机构就诈骗问题施压后，Google收紧了英国金融广告政策