故意毒害他人从道德上讲是绝对错误的。但如果办公室里总有人偷吃你的午餐，难道你不会采取一些小小的报复手段吗？
对于艺术家而言，保护作品不被未经同意用于训练AI模型是一场艰难的斗争。退出请求和不抓取代码依赖于AI公司本着诚意行事，但那些将利润置于隐私之上的公司很容易无视此类措施。大多数艺术家无法选择将自己隔离于离线状态，因为他们依赖社交媒体曝光来获得委托和其他工作机会。
Nightshade是芝加哥大学的一个项目，通过“污染”图像数据使其对AI模型训练无用或产生干扰，从而为艺术家提供了一些救济途径。该项目负责人、计算机科学教授Ben Zhao将Nightshade比作“在午餐中放辣椒酱，以防止它被从办公室冰箱里偷走”。
赵说：“我们展示的事实是，生成式模型本质上只是模型，并无双关之意。Nightshade本身并不是为了成为彻底击垮这些公司的终极强力武器。Nightshade表明这些模型存在漏洞，并且有方法可以对其进行攻击。这意味着内容所有者可以采取比向国会写信或通过电子邮件投诉更有效的反击方式。”
赵和他的团队并非旨在推翻大型AI公司——他们只是想迫使科技巨头为获得授权的作品付费，而不是在未经授权使用抓取来的图像训练AI模型。
他继续说道：“这件事有正确的处理方式。这里的核心问题在于同意权和补偿金。我们只是为内容创作者提供一种对抗未经授权训练的手段。”
Nightshade针对文本提示与图像之间的关联，通过微妙地改变图像中的像素来欺骗AI模型，使其解读出与人类观众所见完全不同的图像。模型会对“受阴影影响”的图像特征进行错误分类，如果它们用足够多的“受污染”数据进行训练，就会开始生成与相应提示完全无关的图像。研究人员在一份正在同行评审中的技术论文中写道，少于100个“受污染”样本就足以破坏Stable Diffusion的提示。
例如，想象一幅描绘奶牛在草地上悠闲躺卧的画作。
赵告诉TechCrunch：“通过操纵并有效扭曲这种关联，你可以让模型认为奶牛长着四个圆轮子、一个保险杠和一个排气管。当提示它生成一头奶牛时，它会生成一辆大型福特卡车，而不是一头奶牛。”
Nightshade团队还提供了其他例子。经过处理的《蒙娜丽莎》图像与原始版本对人类来说几乎一模一样，但AI不会将其识别为一位女性的肖像，而是“看”成一只穿着长袍的猫。
在模型使用被篡改的图像进行训练（使其将某些图像误认为猫）后，提示AI生成狗的图像，会产生令人毛骨悚然的混合体，既不像狗也不像猫。
技术论文指出，这种影响会蔓延到相关概念上。那些污染了“奇幻艺术”提示词的样本，也影响了“龙”和“迈克尔·惠兰”（Michael Whelan，一位专攻奇幻和科幻封面插画的画家）等提示词的效果。
Zhao还领导了创建Glaze的团队，这是一种伪装工具，可扭曲AI模型“看”和确定艺术风格的方式，防止其模仿艺术家独特的作品。与Nightshade类似，人眼可能看到一幅“经过Glaze处理”的写实炭笔肖像，但AI模型会将其视为抽象画——然后在被提示生成精细炭笔肖像时，生成杂乱的抽象画。
在接受TechCrunch采访时，Zhao在去年该工具发布后描述Glaze为一种用作防御的技术攻击。虽然Zhao最近告诉TechCrunch Nightshade并非“直接攻击”，但它仍在对无视退出选项的掠夺性AI公司采取主动攻势。OpenAI——一家正面临涉嫌违反版权法的集体诉讼的公司——现在允许艺术家选择不参与未来模型的训练。
赵说：“这类[退出请求]的问题在于，它是可能出现的最软弱、最无力的请求类型。没有执行机制，也没有任何力量能迫使公司信守承诺。”“有很多公司躲在幕后，规模远小于OpenAI，且毫无底线。它们完全没有理由遵守这些退出名单，仍然可以随意获取你的内容并随心所欲地使用。”
Kelly McKernan是一位参与对Stability AI、Midjourney和DeviantArt提起的集体诉讼的艺术家，她在X上发布了一张他们经过阴影处理和Glaze处理的绘画示例。这幅画描绘了一位被困在霓虹血管中的女性，像素化的替身正以她为食。McKernan写道，这代表了生成式AI“吞噬人类创作者的真实声音”。
2022年，随着AI图像生成器向公众推出，McKernan开始浏览那些与自己的画作惊人相似的图片，当发现超过50件作品被抓取并用于训练AI模型时，他们告诉TechCrunch自己完全失去了创作更多艺术的兴趣，甚至还在AI生成的内容中发现了他们的签名，因此他们说使用Nightshade是一种在充分监管存在之前的保护措施。
麦肯南说：“这就像外面狂风暴雨，但我仍必须去上班，所以我得保护自己，撑一把透明的伞看清前行的路。”“这并不方便，我也无法阻止风暴，但它能帮助我抵达彼岸。同时，这也向那些只知索取却毫无后果的公司传递了一个信息：我们将奋起反抗。”
Nightshade所做的绝大多数更改对人类眼睛来说应该是不可见的，但团队确实指出，“着色”在具有纯色和平滑背景的图片上更为明显，这个工具可以免费下载，还提供低强度设置以保留视觉质量，McKernan表示，虽然在使用Glaze和Nightshade后他们能看出图片被修改了，因为他们是绘制该作品的艺术家，但这种变化“几乎难以察觉”。
插画家Christopher Bretz展示了Nightshade对其一件作品的影响，在X平台上发布了结果，将图片通过Nightshade的最低和默认设置运行对插图几乎没有影响，但在更高设置下变化则很明显。
“我这一周一直在用 Nightshade 做实验，并计划将任何新作品以及我大部分旧的在线作品集都通过它进行处理，”Bretz 告诉 TechCrunch。“我知道不少数字艺术家已经有一段时间没有发布新作品了，我希望这个工具能给他们重新分享的信心。”
这是我使用Nightshade测试的第一张图片！
我将其设置为默认值，耗时约12分钟——大约是30分钟估计时间的三分之一。下次我将尝试更高的渲染质量。—— Christopher Bretz 2024年1月19日
这是在最低设置下运行的，耗时约 11 分钟。
—— Christopher Bretz 2024年1月20日
团队在一份博客文章中写道，理想情况下，艺术家在在线分享作品之前应同时使用Glaze和Nightshade，团队仍在测试Glaze和Nightshade在同一张图片上的交互效果，并计划发布一个集成单一工具来同时实现这两种功能，在此期间，他们建议先使用Nightshade，然后使用Glaze以最小化可见效果，团队敦促不要只进行着色而未进行涂层的艺术作品发布，因为Nightshade并不能保护艺术家免受模仿。
签名和水印——即使添加到图像的元数据中——也是“脆弱”的，如果图像被修改，它们可以被移除。Zhao 表示，Nightshade 所做的更改在裁剪、压缩、截图或编辑后仍然有效，因为它修改了构成图像的像素。即使是拍摄显示着经过 Nightshade 处理的图像的屏幕的照片，也会干扰模型训练。
随着生成模型变得越来越复杂，艺术家们面临着越来越大的压力，需要保护自己的作品并抵制抓取行为，Steg.AI和Imatag帮助创作者通过应用人类肉眼无法察觉的水印来确立对图像的所有权，尽管两者都未能承诺保护用户免受不道德的抓取行为，去年发布的“No AI”水印生成器会应用将人工制作的作品标记为AI生成的水印，希望用于训练未来模型的数据集能够过滤掉AI生成的图像，还有来自Spawning.ai的工具Kudurru，它可以识别并跟踪抓取者的IP地址，网站所有者可以阻止这些被标记的IP地址，或者选择返回不同的图像，比如竖中指。
Kin.art，另一个工具本周推出，采取了不同的方法。与 Nightshade 和其他以密码学方式修改图像的程序不同，Kin 会掩盖图像的部分内容并交换其元标签，使其更难用于模型训练。
Nightshade的批评者称该程序为“病毒”，或抱怨使用它会“损害开源社区”。在Nightshade发布前几个月的一张发布于Reddit的截图中，一名Discord用户指责Nightshade进行“网络战/恐怖主义”。另一位在X上意外走红的Reddit用户质疑Nightshade的合法性，将其比作“入侵易受攻击的计算机系统以扰乱其运行”。
不要宣布你的艺术已使用 Nightshade 处理，让它成为一个小小的惊喜礼物 🤗
——Paloma McClain 2024年1月19日
认为 Nightshade 是非法的，理由是它“故意破坏了生成式 AI 模型的预期用途”，正如 OP 所述，这是荒谬的。Zhao 断言 Nightshade 完全合法。他说：“它并不是‘神奇地跳入模型训练管道然后杀死所有人’。”模型训练者自愿抓取图像，无论是否经过 Nightshade 处理，而 AI 公司从中获利。
Glaze 和 Nightshade 的最终目标是为每份未经同意抓取的数据增加“增量成本”，直到在未授权数据上训练模型变得不可行。理想情况下，公司将不得不为训练模型购买未受污染的图像的许可，确保艺术家给予同意并获得报酬。
此类做法此前已有先例；Getty Images和Nvidia最近推出了一款完全使用Getty丰富的图库照片库训练的生成式AI工具。订阅客户需根据希望生成的照片数量支付费用，而用于训练模型的摄影师则可获得部分订阅收入。 payouts（收益分配）由摄影师的内容对训练集的贡献量以及“该内容随时间的表现”决定，《连线》杂志报道称。
Zhao 澄清说，他并非反 AI，并指出 AI 有许多非常有用的应用，并不存在如此严重的伦理问题。在学术界和科学研究领域，AI 的进步值得庆祝。他说，虽然围绕 AI 的大多数营销炒作和恐慌实际上指的是生成式 AI，但传统 AI 已被用于开发新药和应对气候变化。
“这些事情都不需要生成式 AI。这些事情不需要漂亮的图片，也不需要捏造事实，或者在你和 AI 之间有一个用户界面，”Zhao 说。“它们并不是大多数基础 AI 技术的核心部分。但确实存在这样的情况：这些东西与人交互起来非常容易。大型科技公司紧紧抓住这一点，将其作为一种轻松盈利并吸引更广泛人群的方式，相比之下，真正的科学 AI 具有根本性的突破能力和惊人的应用。”
科技领域的主要参与者，其资金和资源远超学术界，总体上支持人工智能。他们没有动力资助那些具有颠覆性且无法带来经济收益的项目。赵坚决反对将 Glaze 和 Nightshade 商业化，也反对将这些项目的知识产权出售给初创公司或大型企业。像 McKernan 这样的艺术家感激能够暂时摆脱订阅费用，因为这类费用在创意行业使用的软件中几乎无处不在。
“包括我在内的艺术家们感到处处被剥削，”McKernan 说。“因此，当有免费资源提供给我们时，我们心怀感激。”
Nightshade 团队由赵、博士生 Shawn Shan 以及多名研究生组成，其研究经费来自大学、传统基金会和政府拨款。但为了维持研究，赵承认，团队可能需要探索一种“非营利结构”，并与艺术基金会合作。他还表示，团队手中还有“几招”。
“长期以来，研究是为了研究本身而进行，旨在拓展人类知识。但我认为，像这样的情况存在一条伦理界限，”赵说。“这项研究至关重要……最容易受到这种影响的人往往最具创造力，而在资源方面他们得到的支持最少。这不是一场公平的较量。这就是为什么我们要尽力帮助平衡这场‘战场’。”
Kin.art 推出免费工具，防止生成式 AI 模型对艺术作品进行训练
Selkie 创始人就在新裙装系列中使用 AI 引发争议一事进行辩护