欧盟拟将AI生成儿童性虐待图像及深度伪造内容定为刑事犯罪
欧盟委员会今日宣布，计划更新现有立法以跟上技术发展步伐，可能将描绘儿童性虐待（CSA）的AI生成图像及其他形式的深度伪造内容定为刑事犯罪。
该提案还提议设立一项新的刑事罪名，即直播儿童性虐待行为。根据该计划，持有和传播“恋童癖手册”也将被定为犯罪。这是欧盟旨在加强预防儿童性虐待措施的一揽子方案的一部分，包括提高对网络风险的意识，使受害者更容易报案并获得支持（包括赋予其获得经济赔偿的权利）。
这项更新欧盟现行规则（可追溯至2011年）的提案还包括关于强制报告犯罪行为方面的修改。
早在2022年5月，委员会曾提出一项单独的与儿童性虐待相关的立法草案，旨在建立一种框架，使数字服务提供商有义务使用自动化技术来检测和报告在其平台上流传的现有或新的儿童性虐待材料（CSAM），并识别和报告针对儿童的诱骗行为。
扫描CSAM的计划引发了高度争议，继续导致议会和理事会中的立法者意见分歧，同时也引发了人们对委员会与儿童安全技术游说团体之间联系的怀疑，并为欧盟执行机构带来了其他棘手问题，例如在推广该提案时采用法律上存疑的微定向广告手段。
委员会决定优先针对数字消息平台以打击儿童性虐待，这一决定招致了大量批评，认为欧盟立法者在一个复杂的社会问题上找错了重点——这可能给委员会带来压力，促使其提出后续提案。（当然，委员会并未如此表述；它将今天的方案描述为对其早期CSAM扫描提案的“补充”。）
话虽如此，自争议性的私聊扫描计划提出以来不到两年时间里，人们对深度伪造和人工智能生成图像相关风险的关注急剧增加，包括担忧该技术被滥用于制作儿童性虐待材料（CSAM），以及担心此类合成内容可能使执法部门更难识别真正的受害者。因此，生成式AI的爆发式增长为立法者重新审视相关规则提供了明确动力。
“儿童在线存在的增加以及技术发展都带来了新的滥用可能性”，委员会在今天的一份新闻稿中表示。它还指出该提案旨在“减少网络儿童性虐待和剥削的普遍有罪不罚现象”。
委员会在提交提案前进行的影响评估指出，儿童在线存在的增加以及“最新的技术发展”是催生儿童性虐待（CSA）新机会的领域。评估还表示，委员会对成员国法律框架的差异阻碍打击虐待行为的行动感到担忧，并希望改善目前“有限”的预防儿童性虐待及协助受害者的努力。
内政事务委员伊尔瓦·约翰松在一项支持声明中表示：“快速发展的技术正在为网络上的儿童性虐待创造新的可能性，并给执法部门调查这一极其严重且广泛存在的犯罪带来挑战。”“强有力的刑法至关重要，今天我们正采取关键一步，确保我们拥有有效的法律工具来拯救儿童并将施害者绳之以法。我们正在兑现我们在2020年7月发布的《欧盟更有效打击儿童性虐待战略》中所作的承诺。”
关于儿童的网络安全风险，委员会的提案旨在鼓励成员国加大对“提高意识”方面的投入。
与儿童性虐待材料（CSAM）扫描计划一样，最终由欧洲议会和理事会中的欧盟共同立法者决定这些提案的最终形态。而在今年晚些时候举行议会选举和重新组建委员会之前，谈判时间有限——尽管今天的打击儿童性虐待提案可能比消息扫描计划引发的分歧要小得多。因此，该提案有可能获得通过，而其他提案则仍陷于停滞。
委员会表示，如果/当就如何修改当前打击儿童性虐待指令达成一致，该指令将在其于《欧盟官方公报》公布后20天生效。
各州检察官推动打击人工智能儿童剥削行为
欧盟议员面临压力，需充分披露与儿童安全技术公司Thorn的业务往来