Meta起诉了广受欢迎的AI“去衣”应用Crush AI的开发商。据报道,该应用在Meta旗下平台投放了数千条广告。除提起诉讼外,Meta还表示将采取新措施,严厉打击其他类似Crush AI的应用。
Meta在香港提起的诉讼指控称,Crush AI背后的实体Joy Timeline HK试图绕过公司审核流程,分发AI去衣服务广告。Meta在博客文章中称,虽曾多次因违规删除该实体广告,但Joy Timeline HK仍持续投放更多广告。
据《Faked Up》通讯作者Alexios Mantzarlis透露,利用生成式AI未经同意制作真实人物虚假色情图像的Crush AI,在2025年前两周于Meta平台投放了超8,000条“AI脱衣”服务广告。
报道称,Crush AI通过设立数十个广告主账户并频繁更换域名来规避Meta广告审核。Mantzarlis指出,其许多广告账户名为“Eraser Annyone’s Clothes”后接不同数字;此前,Crush AI甚至在Facebook上设有推广页面。
Facebook和Instagram并非唯一面临此类挑战的平台。随着X和Meta等社交媒体公司竞相集成生成式AI,它们在监管AI工具如何使平台对用户(尤其是未成年人)变得不安全方面正遭遇困难。
研究人员发现,2024年X和Reddit等平台上的AI脱衣应用链接激增,YouTube上也有数百万人收到此类应用广告。面对这一日益严重的问题,尽管Meta和TikTok已禁止对AI裸体化应用进行关键词搜索,但要将这些服务完全从平台上清除仍充满挑战。
Meta在博客文章中表示,已开发新技术专门识别AI裸体化或脱衣服务广告,“即使广告本身不包含裸露内容”。该公司称,现正使用匹配技术更快查找并删除模仿广告,同时扩大了系统标记的术语、短语和表情符号列表。
Meta表示,还将传统用于破坏不良行为者网络的策略应用于这些运营AI去衣服务广告的新账户网络。自2025年初以来,Meta已破坏了四个推广此类服务的独立网络。
在其应用之外,该公司将通过Tech Coalition的Lantern项目分享有关AI裸体化应用的信息。这是Google、Meta、Snap等公司为防止网上儿童性剥削而进行的集体努力。Meta表示,自三月以来已向该网络提供了超3,800个唯一URL。
立法方面,Meta表示将“继续支持立法,赋予父母监督和批准其青少年下载应用的权利”。该公司此前曾支持美国的Take It Down法案,并表示目前正与立法者合作实施该法案。

