试图将AI色情生成商业化的团体Unstable Diffusion，在Kickstarter上从867名支持者处筹集了超5.6万美元。然而，随着平台调整对AI项目的审核标准，该活动已被关闭。由于Kickstarter采用“全有或全无”模式且活动未结束，所有资金将退还资助者。这意味着Unstable Diffusion无法获得这笔款项，其原定2.5万美元的目标虽已翻倍达成，但最终落空。
平台立场转变：优先保护创意与创作者
Kickstarter首席执行官Everette Taylor在博客文章中回应称：“过去几天我们咨询了社区顾问委员会，并听取了各方反馈。有一点很明确：Kickstarter必须始终站在创意作品及其创作者一边，助力创意繁荣。”
对于AI项目的新规，平台目前保持审慎态度。Taylor坦言：“这项技术尚新，我们尚无定论。当下的决定未必适用于未来，因此希望与大家保持持续对话。”
现阶段，平台重点关注两点：一是项目如何与受版权保护的材料交互，尤其是艺术家作品未经同意被用于算法训练的情况；二是项目是否“利用特定群体或将任何人置于伤害风险之中”。
AI艺术伦理争议推至风口浪尖
近期，OpenAI的ChatGPT和Stability AI的Stable Diffusion等工具取得主流成功，将AI艺术伦理问题推向公众视野。若Lensa AI等应用能基于开源模型即时生成媲美专业艺术家的头像，职业艺术家将面临何种冲击？
多位艺术家呼吁Kickstarter下架Unstable Diffusion项目，担忧AI生成器威胁职业生涯。例如：
@Kickstarter 你们打算让一个以生成（可能未经同意的）色情内容为核心、卖点包含窃取Greg Rutkowski作品的项目通过吗？还是说会采取措施保护创作者和公众？
— Karla Ortiz (@kortizart) 2022年12月10日
对@Kickstarter允许Unstable Diffusion众筹感到羞耻。你们正在助长盗窃行为，并为制造非自愿色情内容的工具提供资金。
— Sarah C. Andersen (@SarahCAndersen) 2022年12月11日
插画师Greg Rutkowski成为争议焦点。作为《龙与地下城》等系列的知名画师，他的名字曾是Stable Diffusion最热门搜索词之一，用户可借此轻松复制其风格。但他从未授权作品用于训练算法，这使他成为反对AI侵权的积极倡导者。
Unstable Diffusion曾在Kickstarter页面宣称：“凭借2.5万美元资金，我们将使用7500万张高质量图像训练新模型，包括约2500万张动漫/角色扮演图、2500万张Artstation/DeviantArt/Behance艺术作品及2500万张摄影图。”此言论令众多独立艺术家警觉，因他们的作品正发布于上述平台。
支持艺术家的AI工具集Spawning开发了“Have I Been Trained”网站，供创作者查询作品是否被纳入热门数据集并选择退出。尽管4月法院案件显示抓取公开数据存在法律先例，但争议仍未平息。
项目转战自有平台，对抗“反AI”游说
尽管Kickstarter暂停了其项目，Unstable Diffusion仍在其他渠道筹款。CEO Arman Chaudhry向TechCrunch表示：“虽然平台向部分艺术家妥协令人失望，但我们不会退缩，将继续捍卫创作自由。我们已更新官网，支持者可直投新AI艺术系统研发。我们将对抗那些游说使AI艺术非法化的团体，而支持者的助力至关重要。”
目前，该项目通过Stripe在自有网站筹款，已获超1.5万美元。Chaudhry还在Discord社区警告成员警惕“反AI”动向：“该群体正通过虚假报告攻击Kickstarter、Patreon等平台，并发起GoFundMe募资超15万美元，旨在游说政府禁止AI艺术。Zeipher已暂停模型发布，Stability AI也正从Stable Diffusion 3.0中移除艺术家。但我们不会沉默，近10万用户的社区不会被少数恐惧新技术的人击败。”
混沌龙
为Magic the Gathering绘制的插图。
19.7英寸 x 27.6英寸画布上的丙烯画。#gregrutkowski #fantasy #chaosdragon #acrylicpainting #mtg #wizardsofthecoast— Greg Rutkowski (@GrzegorzRutko14) 2021年9月21日
AI色情生成中的固有问题
当项目如Unstable Diffusion以NSFW（不适宜工作场所观看）内容为核心时，AI艺术伦理问题更为复杂。
Stable Diffusion使用含23亿张图片的数据集训练，但仅约2.9%含NSFW内容，导致模型处理露骨内容时缺乏依据。Unstable Diffusion隶属Equilibrium AI，通过Discord招募志愿者完善色情数据集以微调算法——如同为家具生成AI增加沙发图片一样。
然而，AI生成器易受人类偏见影响。网络免费色情内容多迎合男性凝视，若训练数据如此，输出结果亦难避免。Unstable Diffusion曾承诺开发“更好处理人体解剖、多样可控艺术风格、公平代表LGBTQ+及种族性别等欠训练概念”的模型。
更严峻的是，互联网海量免费色情内容的真实性与同意性难以验证（尽管OnlyFans等平台需验证身份）。即便模特同意出演，也不等于同意图像被用于AI训练。该技术虽能生成逼真图像，但也可能被滥用于制造非自愿深度伪造色情内容。
目前全球针对非自愿深度伪造色情的法律极少。美国仅弗吉尼亚州和加利福尼亚州对部分虚假及深度伪造媒体有限制。Mission Control公司AI责任副总裁Ravit Dotan指出：“我尤其担心AI色情对女性的差异化影响，例如此前一款AI‘脱衣’应用仅针对女性。”
更新于2022年12月22日美东时间上午9:55，附有Unstable Diffusion声明。
认识一下Unstable Diffusion：试图将AI色情生成器商业化的团队
AI生成色情内容的能力日益强大，我们或许尚未准备好应对后果。