Apple和Google已收到停止并终止函，要求其从各自应用商店下架具有AI功能的“裸露”应用。
据《Wired》报道，旧金山市检察官大卫·秋（David Chiu）下令两家科技巨头下架共13款可生成AI深度伪造裸体图像的应用程序。信函呼吁苹果和谷歌停止“协助和教唆”传播非自愿亲密图像，并要求终止与相关开发者的合作。
这并非秋首次针对深度伪造平台采取行动，他此前曾对16个允许用户利用AI将真实女性和女孩照片转为色情内容的网站提起诉讼。他告诉《Wired》，苹果和谷歌很可能从涉事应用内购中赚取数百万美元，其商店需加强审核以确保此类应用无法获批。
尽管公众对深度伪造技术普遍强烈抗议，但今年早些时候科技透明度项目（TTP）的报告指出，“裸露”应用常能绕过Apple和Google的审核人员。报告进一步指控部分应用在App Store和Google Play上受到积极推广，且许多被评为适合所有人的“E”级，使儿童可下载。据悉，搜索“nudify”或“undress”等关键词即可轻易找到这些应用，尽管两家公司均有政策禁止发布色情或淫秽内容。
谷歌和苹果并非唯一在与网络深度伪造泛滥作斗争的公司。Meta监督委员会最近呼吁加强对普通受害者的保护，因现有预防措施似乎更偏向公众人物。埃隆·马斯克的xAI也已成为多起涉及非自愿深度伪造诉讼的目标。
一位谷歌发言人告诉《Wired》，该公司已删除数百款具有去衣功能的应用程序，其中五款是应秋的要求处理。谷歌重申禁止性内容的政策，并表示若发现举报应用违规将采取“迅速行动”。《Wired》补充称苹果在出版前未提供评论，但其在向Engadget发表的声明中表示：
"App Store旨在为用户提供安全且值得信赖的平台，我们始终严格禁止设计用于生成、分发或消费色情内容的App。'Nudification'应用违反我们的App审核指南，我们已主动拒绝了许多此类应用，并删除了其他许多应用，包括当用户通过举报工具标记时。我们已经删除了三款涉事应用，并正在终止其开发者在我们计划中的账户。我们还与另外四家需要解决政策违规行为否则将面临被移除风险的应用保持联系。"