大数跨境

AI生成的虚假内容激增308%,巴西国家数据保护局(ANPD)就深度伪造诈骗发出警示

AI生成的虚假内容激增308%,巴西国家数据保护局(ANPD)就深度伪造诈骗发出警示 巴西跨境研究社
2026-09-01
5
导读:专注于网络安全与合规的咨询公司LC SEC警告称,数字诈骗中合成内容的滥用日益增多。由人工智能生成或篡改的图片、视频和语音已越过……

SEC LC:AI合成内容加剧数字诈骗风险

专注于网络安全与合规的咨询公司SEC LC警告称,数字诈骗中合成内容的使用正日益加剧。由人工智能生成或操纵的图像、视频及声音,已成为欺诈、误导性广告和虚假信息传播的综合手段。

据巴西卢帕观察站发布的《巴西虚假信息全景报告》显示,2024年至2025年间,利用AI创建的虚假内容传播量激增308%。国家数据保护局(ANPD)在技术雷达报告中也指出,在13类合成违规类型中,有6类源于合成内容。

深度伪造成营销诈骗新工具

当局重点关注深度伪造技术在社交媒体广告中的应用。犯罪分子利用名人形象或声音制作虚假优惠,诱导受害者访问克隆网站或欺诈平台,进而窃取资金或个人信息。

ANPD强调,此类风险已超出网络安全范畴,触及隐私、声誉与信任等核心问题。巴西曾破获一起利用名人深度伪造视频推销虚构产品的案件,涉案金额超2000万雷亚尔。尽管单笔损失较小,但规模化运作使犯罪团伙获利丰厚。

全球AI欺诈损失攀升

美国FBI数据显示,2025年收到AI欺诈投诉22,364起,调整后损失超8.933亿美元;企业因AI组件导致的邮件入侵诈骗损失逾3000万美元。世界经济论坛《2026年全球网络安全展望》指出,73%受访者受数字欺诈影响,87%注意到AI相关漏洞增加。

企业需重构身份认证体系

LC SEC首席执行官Luiz Claudio表示,深度伪造技术的进步要求企业将身份和认证视为安全要素,不能仅依赖个人的外貌或声音。他指出,传统验证流程建立在音视频相对可靠的基础上,而AI可轻易复制这些元素。企业应为涉及资金、系统访问或敏感信息的关键决策建立独立确认机制。

数字广告与金融领域受影响最甚。除核实素材来源外,敏感操作需额外验证。例如Arup公司案中,犯罪分子利用高管合成形象通过视频会议诱骗员工转账约2500万美元。

专家建议采用多重防护:“组织可为高风险操作设置独立渠道二次验证、双重审批、职责分离、强身份认证及审计记录。组合控制能降低单一合成形象授权关键行动的风险。”

监管强化与技术应对并重

2026年5月第12,975号及12,976号法令扩大了ANPD在治理、透明度及非法内容防控方面的职权。TSE第23,755/2026号决议亦规范了选举广告中合成内容的使用,明确标识要求并限制对候选人及公众人物形象声音的滥用。

Luiz Claudio强调,打击深度伪造需结合技术、内部流程与员工意识。他总结道:“合成内容技术迭代迅速,单一识别工具不现实。企业应制定敏感决策规则、监控品牌滥用情况,并培训员工质疑非常规请求,从而构建抵御欺诈的多层防线。”

【声明】内容源于网络
0
0
巴西跨境研究社
各类跨境出海行业相关资讯
内容 7434
粉丝 0
巴西跨境研究社 各类跨境出海行业相关资讯
总阅读39.5k
粉丝0
内容7.4k