SEC LC，一家专注于网络安全和合规的咨询公司，警告数字诈骗中合成内容使用的蔓延。由人工智能生成或操纵的图像、视频和声音已成为欺诈、误导性广告和虚假信息传播的综合策略。
在巴西，根据Lupa观察站发布的首份《巴西虚假信息全景报告》，利用人工智能创建的虚假内容的传播量在2024年至2025年间增加了三倍多，增幅达308%。该观察站负责追踪趋势、目标受众及主要虚假信息手段。国家数据保护局（ANPD）也在其技术雷达报告中分析了这一情况，其中涉及合成内容违规行为的六个阶段。
深度伪造：从虚假广告到巨额诈骗
当局强调的一个关注点是深度伪造技术在社交媒体上推广的广告和宣传活动中的使用。犯罪分子可以利用知名人物的图像或声音创建虚假优惠，向目标受众推广内容，并将受害者引导至克隆网站或欺诈平台，从而索取付款或个人信息。
ANPD的发布正值关于数字平台责任以及需要能够减少非法内容传播的机制的讨论不断深入的时期。该报告还涉及与金融诈骗、误导性广告、选举虚假信息、性别政治暴力、种族主义和非自愿使用图像相关的深度伪造应用，表明风险超出了网络安全领域，触及隐私、声誉和信任等问题。
巴西当局分析的一个案例涉及利用名人深度伪造视频来宣传并不存在的产品。据报告称，调查发现的犯罪团伙涉案金额超过2000万雷亚尔。ANPD指出，此类诈骗能够大规模运作，虽然单个受害者的损失相对较小，但累积起来可为犯罪分子带来高额利润。
全球AI欺诈态势严峻
美国联邦调查局（FBI）在2025年收到了22,364起与人工智能欺诈相关的投诉，调整后的损失超过8.933亿美元。企业报告称，在与使用人工智能组件的企业电子邮件入侵诈骗相关的损失超过3000万美元。世界经济论坛发布的《2026年全球网络安全展望》指出，73%的受访者表示自己在2025年直接受到数字欺诈的影响或认识受其影响的人，而87%的人注意到与人工智能相关的漏洞有所增加。
专家建议：重构身份认证与安全流程
LC SEC的首席执行官兼创始人Luiz Claudio表示，深度伪造技术的进步要求企业开始将身份和认证视为安全要素，不能仅依赖人的外貌或声音。“问题是，传统的身份验证流程是在语音、图像和视频会议中的在场情况相对可靠的背景下构建的。随着人工智能的发展，这些元素可以被复制。公司需要为关键决策创建独立的确认机制，尤其是当这些决策涉及资金、系统访问或敏感信息时。”
数字广告和金融领域是受此类欺诈影响最大的领域之一。除了验证图像和语音的使用来源及授权外，公司在敏感操作中还需要采用额外的身份确认机制。在涉及Arup的一起案件中，风险显而易见：犯罪分子在视频会议中使用了高管的合成形象，说服一名员工转账约2500万美元。
Luiz Claudio强调，采用额外的验证层对于防止合成内容被用作敏感操作中的唯一身份认证形式至关重要。“组织可以为高风险操作采用独立渠道的确认机制。付款请求、银行数据变更、文档共享或权限授予可能需要通过先前已知的渠道进行二次验证，以及双重批准、职责分离、强身份认证和审计记录。这些控制的组合降低了单一合成形象足以授权关键行动的可能性。”
监管新规与综合防御策略
2026年5月发布的第12,975号和第12,976号法令扩大了ANPD在治理、透明度、欺诈预防和平台非法内容方面的权力。在选举环境中，TSE第23,755/2026号决议也确立了广告中使用合成内容的规则，包括标识要求以及对候选人和公众人物图像和声音使用的限制。
Luis Claudio总结道：“打击深度伪造需要一种结合技术、内部流程和员工意识的保护策略。”合成内容生成技术迅速演变，指望依靠单一工具来识别所有深度伪造是不现实的。保护工作需要在人员、流程和技术之间分配。当公司为敏感决策制定明确规则、监控其品牌被滥用的情况，并培训员工质疑非常规渠道的请求时，它就为防范此类欺诈创建了另一层保护。