Stable Diffusion 开源后，互联网迅速被用于制作色情内容。Reddit 和 4chan 等社区利用该 AI 生成了逼真的动漫风格裸体角色及名人非自愿虚假裸体图像。
尽管 Reddit 关闭了相关子版块，NewGrounds 等平台也禁止了 AI 生成艺术作品，但新论坛应运而生填补空白。
其中规模最大的是 Unstable Diffusion，其运营者围绕高质量色情内容生成 AI 开展业务。该平台 Patreon 每月从数百名捐赠者处获得超 2,500 美元收入，用于维持服务器运行及资助开发。
Unstable Diffusion 团队成员 Arman Chaudhry 表示：“短短两个月内团队扩展至 13 人以上，还有众多顾问与志愿者。我们致力于在可用性、体验及表现力上创新，打造专业艺术家和企业可用的工具。”
AI 伦理学家对此表示担忧。虽然 AI 生成色情内容并非新鲜事，但 Unstable Diffusion 模型生成的样本质量更高。伦理学家指出，这可能对边缘群体产生负面影响，包括侵犯成人演员隐私权、版权，甚至导致从业者失业。
Mission Control AI 事务副总裁 Ravit Dotan 指出：“风险包括对女性身体提出不合理期望、未经同意使用其作品训练算法、侵犯隐私版权及导致女性失业。我特别担心 AI 生成色情内容对女性的不成比例影响，例如之前的‘脱衣’应用仅针对女性。”
卑微的起点
Unstable Diffusion 始于今年八月，最初为 subreddit，后迁移至 Discord，现拥有约 5 万名成员。
管理员 AshleyEvelyn 表示：“我们旨在支持 NSFW 内容创作者，提供一个比 4chan 更合理、能与广泛 AI 社区协作的平台。”
起初，该平台仅分享 AI 色情内容及绕过过滤的方法。随后，管理员开始探索利用开源工具构建专属 AI 系统。
Stable Diffusion 虽未专门用于生成色情内容，但 Stability AI 未明确禁止合规定制，采取放任治理方式。该公司未回应置评请求。
早期 Discord 机器人基于原版 Stable Diffusion 运行，但因缺乏足够色情示例训练，常出现肢体错位和生殖器扭曲等问题。
Stable Diffusion 数据集中仅约 2.9% 为 NSFW 内容，导致模型处理露骨内容时缺乏依据。为此，管理员招募志愿者创建色情数据集进行微调，类似为家具生成 AI 提供更多沙发椅子图片。
Chaudhry 透露，部分工作已见成效，如修复面部和手臂扭曲的技术。“我们正在解决收集高质量、描述丰富且涵盖用户多样化偏好数据集的挑战。”
这些定制模型支撑着 Discord 机器人及即将推出的网页应用，后者将允许用户关注特定创作者的 AI 色情内容。
不断壮大的社区
如今，Unstable Diffusion 托管着各种风格的 AI 色情内容，设有“仅限男性”、“软色情”、“Hentai”、“BDSM”及“非人类”等频道。用户可调用机器人生成作品并投稿至“星标板”。
该平台声称已生成超 437.5 万张图片，并定期举办竞赛以改进模型。
Unstable Diffusion 致力于打造“道德”社区，禁止儿童色情、深度伪造及过度血腥内容。用户需遵守条款并接受审核；平台采用过滤器阻止特定人物图像，并配备全职审核团队。
Chaudhry 称：“Discord 上严格只允许虚构守法内容。未来针对商业应用，我们将与合作伙伴制定合适的审核规则。”
但随着系统普及，监控难度加大。Chaudhry 未公布网页应用或订阅版机器人的具体审核计划，第三方部署也将增加管理复杂性。
蒙特利尔人工智能伦理研究所创始人 Abhishek Gupta 警告：“此类服务器可能成为问题内容的聚集地，连接恶意用户并提升其技能，同时加剧审核团队的心理创伤。”
此外，未经授权使用艺术家作品训练模型引发争议。正如 DeviantArt DreamUp 引发的不满，许多艺术家反对 AI 模仿其风格却无署名补偿。
角色设计师 Holly Mengert 和 Greg Rutkowski 谴责拙劣的 AI 模仿作品挤压原创空间，损害收入。（Unstable Diffusion 授予用户生成图像的完全所有权和销售许可。）
Gupta 还指出，不希望作品与色情关联的艺术家可能受害，因为用户发现特定名字能生成更好效果，如“[艺术家姓名]风格裸体女性”。
Chaudhry 表示正寻求使模型“对艺术界更公平”，但未说明授权或排除作品的具体步骤。
对艺术家的影响
若 AI 能精确生成所需图像，人类成人艺术家将面临何种处境？目前威胁尚不紧迫，因 FurAffinity、Newgrounds 等平台已全面禁止 AI 艺术。
OnlyFans 表示未来可能允许经认证的创作者发布 AI 内容，但对深度伪造保持禁令。
跨性别画家 Milo Wissig 认为：“目前 AI 生成质量不高，更多作为辅助工具。许多人无法分辨差异，只求快速廉价内容。”
对于 BDSM 艺术家，AI 难以复制复杂的绳结艺术和安全机制。Wissig 表示：“让 AI 生成的绳索看起来合理非常困难。”
训练数据还可能放大传统偏见，默认生成白人异性恋内容。Wissig 指出：“除非特别指定，否则机器会生成最白种人化、异性恋化的内容。”
种族偏见在机器学习领域已有记录。在色情内容中，AI 扭曲普通人形象带有种族化和性别特征，令人不安。DALLE-2 也曾因生成过多欧洲风格作品受批评。
Wissig 去年尝试生成“性感酷儿跨性别者”图像时发现，需仔细措辞才能呈现人脸。而在 Unstable Diffusion “仅性别酷儿”频道中，几乎所有图像都是带阴茎的传统女性形象。
拓展业务
作为 Equilibrium AI 的一部分，Unstable Diffusion 正资助其他项目，如基于动漫微调的 Waifu Diffusion。
Chaudhry 计划将其发展为支持广泛 AI 内容生成的组织，提供工具和资源。Equilibrium AI 已获某大型云提供商初创加速器名额及五位数云资源赠款，用于扩展训练设施。
除资助外，Unstable Diffusion 还将发起 Kickstarter 众筹并寻求风投。“我们计划创建自有模型并进行微调组合，拆分出新品牌和产品。”
内容审核是最紧迫挑战。2020 年 Pornhub 因传播非法视频失去支付支持。尽管有参议员呼吁加强 AI 内容过滤，Unstable Diffusion 的未来仍充满不确定性。