Meta推出新型AI安全系统，强化对儿童性虐待材料（CSAM）的治理。该系统不仅审核广告内容本身，还深度检测落地页，精准识别将用户诱导至违规页面的“指路”行为，并据此封锁目标链接及处罚违规投放者。同时，Meta部署AI代理主动探测安全漏洞，提升对被封禁用户换号回归的识别能力。
上半年拦截超3300万条违规内容
数据显示，今年1月至6月，Meta在Facebook和Instagram平台累计处置涉及儿童剥削的内容达3320万条。其自动化系统在用户举报前已主动识别并处理超过97%的相关违规信息。
回应AI生成违规图像争议
此次安全工具升级正值《连线》杂志调查曝光后两个月。该调查曾揭露Meta此前批准并投放了包含AI生成儿童虐待图像的广告，引发舆论关注。