生成式AI工具的进步为互联网带来了新问题：大量仿照真人制作的合成裸体图片泛滥。周四，微软采取重大举措，为复仇色情受害者提供工具，以阻止其Bing搜索引擎返回这些图片。
微软宣布与StopNCII合作，该组织允许复仇色情受害者在其设备上为这些真实或虚假的露骨图片创建数字指纹。随后，StopNCII的合作伙伴使用这些数字指纹（技术上称为“哈希值”）从其平台中清除图片。微软的Bing加入Facebook、Instagram、Threads、TikTok、Snapchat、Reddit、Pornhub和OnlyFans，与StopNCII合作并使用其数字指纹来遏制复仇色情的传播。
在一份博客文章中，微软表示已在截至8月底的试点项目中，通过StopNCII数据库对Bing图像搜索返回的26.8万张露骨图片采取了行动。此前，微软曾提供直接举报工具，但该公司称这已被证明远远不够。
微软在周四的博客文章中称：“我们听到了受害者、专家和其他利益相关方的担忧，认为仅靠用户举报可能无法有效扩大影响范围，也无法充分解决图像可通过搜索访问的风险。”
你可以想象，如果是在一个受欢迎程度高得多的搜索引擎上，这个问题会严重得多：那就是谷歌。
谷歌搜索提供其自身的工具来举报和删除搜索结果中的露骨图片，但据《连线》杂志调查，谷歌因未与StopNCII合作而遭到前员工和受害者的批评。自2020年以来，韩国谷歌用户已举报了17万条涉及unwanted sexual content的搜索和YouTube链接，《连线》报道指出。
AI深度伪造裸体问题已经非常普遍。StopNCII的工具仅适用于18岁以上人群，但“脱衣”网站已经开始在全国范围内给高中生带来问题。不幸的是，美国没有针对AI深度伪造色情作品的法律来追究任何人的责任，因此该国正依赖各州和地方法律的拼凑方式来应对这一问题。
旧金山检察官于8月宣布提起诉讼，要求下架16个最严重的“脱衣”网站。根据《Wired》创建的深度伪造色情法律追踪器，美国已有23个州通过了处理非自愿深度伪造内容的法律，而九个州则否决了相关提案。