The Reverse Information Paradox

Satya Nadella

原文链接：https://x.com/satyanadella/article/2076323181154230284

在智能时代，企业应该如何保护其核心知识产权（IP）？

诺贝尔经济学奖得主肯尼斯·阿罗（Kenneth Arrow）曾著名地描述过信息市场中的一个悖论：“在购买者掌握信息之前，信息的价值对他是未知的；但一旦他掌握了信息，他实际上也就无偿获取了它。”在阿罗的“信息悖论”中，卖家为了出售知识，面临着白白送出知识的风险。

AI 引发了完全相反的问题。在 AI 时代，买家仅仅为了使用他们所购买的东西，就面临着交出自身知识的风险。

你实际上为“智能”支付了两次费用：一次是付钱，另一次是用比金钱更有价值的东西支付——也就是你为了让这些智能变得有用，而必须透露的专有知识。你希望模型表现得越好，你需要喂给它的专有知识就越多！

随着时间的推移，这种信息不对称变得越来越严重。当你使用你购买的服务时，卖家对你的了解越来越多；而作为回报，你对卖家学到了什么却知之甚少。

这就是我所认为的“逆向信息悖论”（Reverse Information Paradox）。

专利制度解决了阿罗悖论的一个方面。它允许发明者公开一个想法，而不至于白白将其送人。逆向信息悖论也需要属于它自己的同等解决方案。

这需要的不仅仅是数据保护。模型会从“数据副产品（exhaust）”中学习：人们编写的提示词（prompts）、智能体（agents）使用的工具，尤其是当模型出错时人们做出的纠正。每一次纠正都会被提炼成机构的专业知识（know-how）。这是一种竞争对手永远买不到的知识，也是一种几乎在不知不觉中泄漏的知识：通过一次次调用轨迹（trace）、一次次纠正、一次次评估（eval）悄然流失。

在消费智能的过程中，你也在创造智能。而你创造的东西理应属于你。这是哈耶克（Hayek）意义上属于你特有的智能：别人无法掌握的、关于特定时间、地点和环境的知识。它知道你是怎么想的、你重视什么，以及你如何衡量成功。

虽然模型提供商拥有合理使用权，通过公共数据训练模型能带来伟大的创新，这是我们所需要的；但我发现一个具有讽刺意味的现状：行业现状是反过来对模型蒸馏（distillation）施加限制性条款，并保留从客户使用和交互数据中学习的权利。如果学习仅仅在一个方向上流动，经济价值就会向学习基础设施的拥有者集中，而不是流向知识的创造者本身。因此，我们必须将学习基础设施分发给每一家企业，以便他们能够控制自己的学习闭环。

正如亚历克斯·卡普（Alex Karp，译注：Palantir CEO）所说：“技术客户想要的是对他们的算力、模型、数据栈和超额收益（alpha）的控制权。他们想知道自己拥有生产资料，而且这些资料没有被转移给其他人。”目前的体系恰恰在进行卡普和众多公司所担忧的这种转移。

这就是为什么企业需要一个真正的信任边界（trust boundary），以使其人力资本和 Token 资本得以复利增长。在这个边界内，组织的数据、轨迹、评估集、微调权重（adapted weights）和记忆共同积累并不断进化。这是一个不可逾越的硬性边界，未经同意，任何东西都不能越过，甚至是智能副产品（intelligence exhaust）也不行。企业将要求拥有使用模型输出物来微调和/或训练自己模型的权利。我认为这是每家公司使其模型与企业问责义务相对齐的权利。

在云时代，企业积累的是数据。在 AI 时代，它们积累的是学习能力。信任边界必须相应地进化，从保护信息转向保护组织学习、适应和积累智能的机制。为了确保这一点，每家企业都必须做到以下几点：

控制（Control）：创建你私有的评估集（evals），因为评估集定义了组织内部什么是“好”。此外，保留组织对自身记忆、轨迹、反馈、决策和制度上下文的所有权，以及利用自身任务和查询的模型输出的能力。
能力（Capability）：在租户边界（tenant boundary）内构建你自己专有的学习环境，用于训练或微调模型。在这里，模型可以针对真实的工作流进行学习，而不会暴露公司的知识。
选择（Choice）：确保编排层（orchestration layer）与任何单一模型解耦。问问自己：如果你正在使用的任何一个模型被撤走，你是否仍然有能力使用其他模型来运营并优化你的评估体系？即使某个特定的“通用”模型被拿走，你公司“老兵”级别的业务能力是否依然能保留在你手中？
成本（Cost）：通过解耦编排层，你也能够以最高效和最具成本效益的方式将上下文、模型和任务结合起来，而不会牺牲质量。
复利（Compound）：将这四者结合起来，你就能创造出属于自己的持续学习闭环（即爬山优化机器/hill climbing machine），这将使你的 AI 投资为公司创造复利价值。