Meta 近期发布的 Llama 2 展示了业界对开源大型语言模型（LLM）的兴趣爆发，此次发布也被誉为来自大型科技公司的首款拥有商业许可的开源 LLM。
在一片兴奋之中，人们很容易忘记生成式 AI 领域在知识产权（IP）所有权和版权等法律问题上的真正不确定性。
如果不考虑生成式 AI 的“毒丸”——衍生数据，这是一个危险的假设。
虽然“衍生作品”在版权法下有特定的法律待遇，但针对data衍生物的法律或监管先例寥寥无几，而随着开源大型语言模型（LLM）的普及，这类衍生物即将变得更为普遍。
当软件程序基于输入数据生成输出数据时，哪些输出数据属于输入数据的衍生内容？全部？部分？还是都不是？
上游问题如同毒丸一般，会沿着衍生链条蔓延并产生连锁反应；随着我们在 LLM 知识产权方面面临更真实的法律挑战，任何主张的范围都会随之扩大。
在软件领域，关于数据衍生的法律待遇存在不确定性，这一直是现状。
为什么 LLM 改变了游戏规则？这是三种力量形成的完美风暴：
- Centralization（集中化）：直到大型语言模型出现之前，没有任何单一软件能够生成以无数种方式适用的可变输出。大型语言模型不仅生成文本和图像，还生成代码、音频、视频和纯数据。在两三年内，即在围绕大型语言模型的知识产权所有权和版权案例法尘埃落定之前，大型语言模型的使用将无处不在，如果风险从大型语言模型供应商流向用户，暴露面将会增加。这不仅适用于与版权相关的风险，也适用于由幻觉、偏见等引起的其他潜在危害相关的风险。
- Incentives（激励机制）：版权持有人有动力主张最广泛的大型语言模型衍生作品定义，因为这扩大了他们索赔损害的范围。讽刺的是，主要平台公司在与其他平台的全面战争中实施许可限制时也是如此。Llama 2许可证就是一个例子：section 1.b.v禁止使用Llama来“改进”非Llama大型语言模型。模糊的定义有利于权利持有者和拥有最大法律资金的一方。
- Risk-shifting（风险转移）：软件平台公司是转移风险给用户的专家。当今运行世界的软件都带有（极其）有限的责任许可协议。不要误解：开发大型语言模型的主要平台公司也会通过法律协议和政治手段试图将风险转嫁给用户。这也是为什么大型科技公司敦促人工智能监管的原因之一：想想第230条款如何保护社交媒体平台，尽管算法放大具有类似编辑的角色。
如果法院裁定那些使用受版权保护材料训练模型的公司构成侵权，那么基于这些模型构建的企业将面临两种不同类型的风险：
- Platform risk（平台风险）：供应商是否会从市场上撤回该模型？如果是，是否有功能相当的可替代模型可用？重新调整模型和提示词的总工作量是多少？需要多长时间？
- Pricing risk（定价风险）：如果供应商没有从市场上撤回该模型，由于需要支付版权费用或在开发或运营大型语言模型时引入额外成本，使用该模型的成本是否会发生变化？
当然，LLM 供应商会辩称，即使模型是用受版权保护的材料训练的，模型本身并不构成侵权。模型只是看起来与源材料毫无相似之处的数据。真正可能侵犯版权的是模型的输出（例如，考虑提示词“改写 The Weeknd 的歌曲 Blinding Lights 的歌词”，ChatGPT 的回答是“这个”）。
如果法院达成一致意见，企业还需要管理另一种风险：
- 下游风险：企业如何确保其使用大型语言模型（LLM）不侵犯版权？这种风险在多大程度上会超出 LLM 的直接输出，延伸至由人、软件及系统利用这些输出所创造的衍生价值？
理解生成式 AI 的“毒丸”所带来的风险，也赋予了企业技术领导者管理这些风险的工具。
我们的建议：
- 在考虑 LLM 许可协议时，应争取明确拥有 LLM 输出及其衍生内容的所有权，并允许无限制地用于改进其他 LLM。在缺乏对 LLM 输出衍生内容明确定义的情况下，应制定深思熟虑的政策，以界定何种情况构成 LLM 输出的版权意义上的“转换性改变”。（仅将输出转为小写可能不算，但使用另一个 LLM 对输出进行总结则很可能算。）这将作为抵御下游风险的防火墙。
- 在考虑付费许可时，要求免除某些类型的风险，并处理若未来风险通过供应商传导至贵司业务时应遵循的经济关系安排。对于大型 LLM 平台供应商而言，购买对其所在领域至关重要的知识产权使用权，或者（若无法做到）设立特定类型的保险，远比其客户自行操作更为经济。网络安全领域已有大量先例，部分供应商已将勒索软件保险捆绑提供。在生成式 AI 领域，Adobe 为通过 Firefly 创建的内容提供全额赔偿，而 Writer 则为其平台生成的内容提供全额赔偿。
- 不要忽视政治层面：如果 LLM 用户什么都不做，最终结果将是对大型 LLM 平台和大型科技公司提供有意义的监管保护，而这将以牺牲 LLM 初创企业和用户为代价。ChatGPT Plus 和微软预计在其 Office 产品中为生成式 AI 功能收取的费用为每月每用户 25–30 美元。在这个收入水平下，大多数类型的风险不应转嫁给付费用户。
软件领域也曾面临类似的问题，即围绕衍生作品而设计的“病毒式”/“左翼开源”（copyleft）开源许可证，以 GPL 为典型代表。开源的爆发与 SaaS 和云计算的兴起同时发生。无论好坏，SaaS 应用和云基础设施通过不分发软件的方式规避了 GPL 的“毒丸”条款。AGPL 许可证堵上了这一漏洞，通常成为那些希望对其价值链施加控制的企业支持的开源项目的首选（例如 MongoDB、Nextcloud、OpenERP 和 RStudio）。
相比之下，大多数有机生长的开源项目采用更宽松的许可证（如 Apache 2.0、BSD、MIT）。开源大语言模型能否力挽狂澜？它们或许能帮助企业绕过某些商业 LLM 许可证的限制，但并不能使 LLM 用户免受版权风险的影响。
正如开源许可领域出现了分化，LLM 供应商的世界也将随之分裂。一些平台将继续维持“将所有风险转嫁给用户”的现状；而其他企业级平台则将通过与客户合作管理风险来形成差异化。风险管理的形式多种多样，从针对定义明确的输入数据进行垂直化训练并确保可追溯的使用权，到提供类似某些私密消息平台的服务——使得针对其用户的任何法律行动在实际执行中变得不切实际。
随着我们逐渐走出 AI 的“狂野西部”时代，平衡 LLM 能力与风险管理的工作可能会变得更加复杂——但这无疑是非常值得的努力。