AI深度伪造技术已逼真到足以绕过平台审核。近日，一条假冒MrBeast的诈骗广告成功通过TikTok广告审查并上线。
该广告声称MrBeast正以2美元向1万名观众赠送iPhone 15 Pro。尽管这明显是诈骗套路，但鉴于MrBeast一贯“豪横”的人设，极易让人信以为真。
作为YouTube订阅量最高的个人创作者，25岁的MrBeast（吉米·唐纳森）以制作夸张恶作剧视频闻名，常无条件赠送房屋、汽车或巨额奖金。因此，若用户在深夜刷TikTok时警惕性降低，很容易相信他真会送出万台iPhone——毕竟他此前确实免费送过手机。
很多人收到了这条关于我的深度伪造诈骗广告……社交媒体平台是否已准备好应对AI深度伪造技术的兴起？这是一个严重的问题 pic.twitter.com/llkhxswQSw
—— MrBeast (@MrBeast) 2023年10月3日
从善意角度推测，这或许解释了广告为何能过审。TikTok采用“人工+AI辅助”双重审核机制，此次本质上是平台AI与伪造AI的对决，结果前者落败。
TikTok回应TechCrunch称，该广告因违反政策在发布数小时内被移除。平台未完全禁止合成媒体内容，但要求广告主必须明确披露是否使用了此类技术。
Meta同样依赖自动化技术审核广告，但也辅以人工训练及手动复核，并非仅靠AI把关。
在Instagram上查看此帖子Gayle King (@gayleking) 分享的帖子
随着AI技术普及，获取深度伪造工具愈发容易，欺骗性内容不再新鲜。除年轻群体外，年长消费者也易受骗。本周，汤姆·汉克斯与CBS主播盖尔·金均发声警告粉丝：他们正被用于虚假广告的AI换脸所冒充。
汤姆·汉克斯在Instagram发文：“小心！！网上有一段推广牙科计划的视频包含我的AI版本，我与此事毫无关系。”
尽管美国联邦贸易委员会已就深度伪造营销发出警示，但大规模监管仍面临挑战。随着全球多地选举临近，此类欺骗性广告可能带来更严重的社会后果。
AI生成的图像将对选举造成多大影响？
深度伪造带来的选举风险促使欧盟呼吁加强生成式AI的安全保障措施