周日，加州州长加文·纽森签署法案AB 2013，要求开发生成式人工智能系统的公司发布训练数据的高层摘要。除其他要点外，摘要必须涵盖数据所有权、获取或许可方式，以及是否包含受版权保护或个人信息。
很少有人工智能公司愿意表态是否会遵守该规定。
TechCrunch联系了OpenAI、Anthropic、Microsoft、Google、Amazon、Meta等AI领域主要参与者，以及Stability AI、Midjourney、Udio、Suno、Runway和Luma Labs等初创公司。不到一半的公司做出回应，其中微软明确拒绝置评。
仅有Stability、Runway和OpenAI表示将遵守AB 2013法案。
OpenAI发言人称：“我们在运营的司法管辖区（包括加州）遵守法律。”Stability发言人则表示，公司“支持既保护公众又不扼杀创新的深思熟虑的监管”。
公平地说，AB 2013法案的披露要求并非立即生效。虽然适用于2022年1月及之后发布的系统（如ChatGPT和Stable Diffusion），但公司直到2026年1月才开始发布训练数据摘要。此外，该法律仅适用于向加州居民提供的系统，留有一定回旋余地。
但供应商保持沉默可能还有另一原因，这与大多数生成式AI系统的训练方式有关。
训练数据通常来自互联网。供应商从网站抓取大量图像、歌曲、视频等内容用于系统训练。
几年前，AI开发者在模型发布时的技术论文中列出数据来源是标准做法。例如，谷歌曾透露使用公开LAION数据集训练早期Imagen模型；许多较早论文提及开源训练文本集合The Pile，其包含学术研究和代码库。
在当今竞争激烈的市场中，训练数据集构成被视为竞争优势，这也是公司不予披露的主要原因之一。同时，训练数据细节也可能让开发者面临法律风险。LAION链接到受版权保护和侵犯隐私的图片，而The Pile包含Books3——一个由斯蒂芬·金等作者创作的盗版作品库。
关于训练数据滥用的诉讼已有多起，且每月都有新诉讼被提起。
作者和出版商声称OpenAI、Anthropic和Meta使用受版权保护的书籍（部分来自Books3）进行训练；音乐厂牌因Udio和Suno据称在未支付报酬的情况下使用歌曲训练而将其诉至法庭；艺术家们也对Stability和Midjourney提起集体诉讼，称其数据抓取行为构成盗窃。
不难看出，AB 2013法案可能给试图避免卷入法庭斗争的供应商带来问题。该法律强制公开一系列可能具有自证其罪性质的训练数据集规格信息，包括首次使用时间以及数据采集是否仍在进行中。
AB 2013法案范围广泛。任何对AI系统进行“实质性修改”（即微调或重新训练）的实体，还被强制发布相关训练数据信息。该法律虽有豁免条款，但主要适用于网络安全和国防领域的AI系统（如“在国家空域内操作飞机”的系统）。
当然，许多供应商认为“合理使用”原则提供法律保障，并在法庭主张及公开声明中强调这一点。一些公司（如Meta和Google）已更改平台设置和服务条款，以便利用更多用户数据进行训练。在竞争压力下，并押注合理使用抗辩最终胜诉，部分公司广泛使用受知识产权保护的数据进行训练。
路透社报道显示，Meta曾一度无视内部律师警告，使用受版权保护的书籍进行AI训练；有证据表明Runway获取Netflix和迪士尼电影训练视频生成系统；据报道，OpenAI在未获创作者知情情况下转录YouTube视频以开发包括GPT-4在内的模型。
正如我们此前所写，存在一种结果：无论是否披露系统训练数据，生成式AI供应商都可能全身而退。法院最终可能站在合理使用倡导者一边，裁定生成式AI具有足够变革性，而非《纽约时报》等原告所称的抄袭引擎。
在更极端的情况下，AB 2013法案可能导致供应商在加州 withholding 某些模型，或仅使用符合合理使用和授权数据集的数据为加州用户发布版本。一些供应商可能认为，应对该法案最安全的做法是避免做出可能引发妥协及诉讼的披露。
假设该法律未被挑战或暂停执行，我们将在AB 2013法案截止日期前（一年多以后）获得清晰图景。