2026 年 8 月，法律 AI 公司 Harvey 公布了其首个经过后训练的开放权重模型 Harvey Tenet。它没有从零训练一个法律基础模型，而是以月之暗面的开放权重模型 Kimi K3 为底座，与 Fireworks 合作，投入约 150 张 NVIDIA B300 GPU，花两个月让它更擅长完成复杂的法律工作。

这件事有些反直觉。如今企业已经能直接调用能力很强的闭源模型，价格也越来越低。通过 API 接上检索、工具和业务工作流，很多任务已经可以完成。Harvey 为什么还要自己投入资源，参与模型训练？

另一边，开放模型研究者 Nathan Lambert 追踪 AI 论文时也发现了一个变化：在他检索的约 37 万篇 arXiv 论文中，最近每个月提及 Qwen 的论文数量，已经接近提及 OpenAI GPT 家族的数量。几年前，Meta 的 Llama 是许多研究者开展实验的共同底座；如今，Qwen 已成为非常重要的选择。

这两个现象分别发生在科研和法律行业，却都指向一个问题：当使用一个现成模型越来越方便，为什么仍有那么多人想获得权重，在它的基础上继续做研究和训练？

2026 年 10 月 22 日，Nathan Lambert 在哈佛大学 AI 安全课程做了一场关于开放语言模型的客座讲座。他曾参与 Ai2 的 OLMo、Tülu 等开放模型研发，长期撰写技术通讯 Interconnects 和《RLHF Book》。这场讲座不仅谈模型性能，还谈了开源传统、商业竞争、训练方法、科研采用、蒸馏争议及安全风险。本文选择其中“科研底座与企业专业化”这条线索深入展开；想了解其他部分，可以参考文后附录的讲座原视频。其中，Harvey 的具体训练实践还会结合项目方原始报告展开；Mercor 的例子则依照 Nathan 在讲座中的介绍与slides呈现。

一、闭源模型已经很强、也很便宜，开放权重还提供什么？

2023 年第一代 Llama 发布时，开放权重模型与领先闭源模型之间还有明显差距。随后，Llama 3、DeepSeek-V3、DeepSeek-R1，以及 Qwen、Kimi、GLM 等模型陆续出现。到 2026 年，Nathan 认为，一些中国开放模型已经能在编程 Agent 等高价值任务中与领先闭源模型竞争。

他在讲座中引用了两套评测。按照 Artificial Analysis 的综合能力指数，领先开放权重模型达到闭源前沿先前水平的时间差约为三个月；Epoch AI 的软件工程能力评测则给出约五个月的估计。两套评测衡量的任务不同，但都显示，开放模型与前沿能力之间的距离已经缩短。

领先开放权重模型与闭源模型的能力进展。黑线为闭源模型，蓝线为开放权重模型；约三个月的时间差来自这套综合能力评测。数据及图表：Artificial Analysis；引自 Nathan Lambert 哈佛讲座slides

Nathan 也谈到一个实际使用中的区别：部分开放模型在核心编程任务上非常强，但在更分散的长尾场景里，闭源模型往往更均衡。对企业来说，模型排行榜可以帮助筛选，却不能代替真实业务任务的评测。

另一个变化是价格。过去，开放模型的重要卖点之一是便宜；但领先闭源实验室也在不断提供低价、好用的小模型。Nathan 展示的能力—成本图里，闭源模型已经进入低成本区间。对只需要稳定调用模型的团队，自建推理集群并不一定比 API 省钱。

Artificial Analysis 综合能力与该机构评测任务成本的关系。蓝框重点标出 MiMo-V2.6-Pro，显示开放模型具有价格竞争力；但图中的闭源模型也占据了部分低成本、高能力的位置。横轴为对数刻度；此处成本并非 Harvey LAB 法律任务的成本，也不包含自行训练和运维开支。数据及图表：Artificial Analysis；引自 Nathan Lambert 哈佛讲座slides

因此，Nathan 把注意力转向了两个词：specialization（专业化）和 ownership（技术所有权）。前者关心模型能否通过继续训练适应特定任务，后者关心使用者是否拥有训练、部署和升级模型的选择。

对研究者来说，开放权重意味着可以亲自开展训练实验；对企业来说，它让专业任务和评估标准有机会进入模型训练。至于技术控制权背后的商业选择，留到具体案例之后再讨论。

二、Qwen 为什么成了越来越多 AI 研究者的工作底座？

研究者使用模型，往往不只是为了得到一个答案。他们可能提出一种新的后训练方法，要比较不同算法、数据或计算预算带来的变化。这个过程中，需要修改模型参数，也需要尽量保持实验条件可控。一个有多个尺寸版本的开放模型家族，可以让团队从较小规模开始验证，再视资源情况扩大实验。

Nathan 回顾了这种公共研究底座如何变化：早期 Llama 很重要；后来，Qwen 持续提供不同参数规模的版本，发布节奏也很快，逐渐成为大量研究工作的起点。从研究生态的角度看，围绕一个模型家族积累的训练代码、实验配置和复现经验，也会降低后来者继续开展实验的门槛。这是理解 Qwen 被广泛采用的一种可能解释。

为了观察这种变化，他用程序检索了 arXiv 五个 AI 与机器学习类别中的约 37 万篇论文，按月追踪不同模型家族的文本提及情况。结果是 Llama 的相对存在感逐渐减弱，Qwen 持续上升；到讲座时，每月提及 Qwen 的论文篇数，已经接近提及 GPT 家族的篇数。

arXiv 相关论文中，每月提及 Qwen（红色）与 OpenAI GPT（绿色）家族的篇数。图为堆叠柱状图：红色柱段的高度是 Qwen 的提及量，绿色柱段自身的高度才是 GPT 的提及量，不能把绿色柱段的顶部直接当作 GPT 的篇数。这是文本提及统计，同一篇论文可能同时出现两个家族，不直接代表模型实际使用份额。引自 Nathan Lambert 哈佛讲座slides

Nathan 还通过推理服务商披露的 token 数量和 Hugging Face 的下载量观察开放模型的采用。由于开放模型常在本地或企业内部运行，没有哪个指标可以完整记录真实使用情况。但不同线索放在一起，都让他关注到中国开放模型在科研和开发者生态中不断增长的影响力。

这让他产生了一个颇有意思、也与研究方法直接相关的担忧：如果大量研究都在 Qwen 上开展，论文中宣称对“语言模型”有效的方法，会不会其实主要对 Qwen 有效？

一项训练方法可以在同一家族的小模型和大模型上取得收益，但要了解它的适用范围，还需要研究它在其他底座上是否成立。Nathan 没有说 Qwen 已经让科研出现系统性偏差；他担心的是，研究方法与一个广泛使用的模型生态可能会相互演化。这不是对 Qwen 的否定，而是提醒研究者关注自己究竟验证了多广泛的结论。

他还有一个与科研直接相关的区分：开放权重与完整开放训练材料，是不同层次的开放。如果要训练应用模型，取得权重通常已经可以开展很多工作；但如果想研究某种能力是怎样产生的，还可能需要预训练数据、代码和中间检查点。Nathan 参与的 OLMo，以及 Pythia 等研究项目，提供的价值便不只是“有一个可以下载的模型”，还包括对训练过程的检查和复现。

那研究者拿到权重以后，到底能怎样改变模型？这就涉及 Nathan 在讲座中专门讨论的训练阶段。

三、从预训练到 RL：为什么发布后的模型还有这么多训练空间？

Nathan 用一个三段式框架概括现代语言模型的训练：Pre-training → Mid-training / SFT → Reinforcement Learning。这不是所有实验室都必须采用的固定流程，而是帮助理解能力从哪里来、后续训练又改变了什么。

预训练（Pre-training）利用大规模数据建立基础模型的知识与能力。这是需要长期研究和大量算力投入的阶段。后来的研究团队或垂直行业公司，如果已经可以取得足够强的开放模型，通常不需要为了一个专业任务重新支付全部基础模型研发成本。

中期训练与监督微调（Mid-training / SFT）开始使用质量更高的数据，让模型学习完整的推理轨迹。Nathan 特别强调，模型在进入大规模 RL 前，可能已经通过这些数据掌握了许多推理行为。这些示例为后续强化学习提供了重要的能力起点。

强化学习（RL）让模型自行尝试任务，再根据结果反馈更新策略。对于长程 Agent，一次 rollout 可能涉及多轮思考、文件操作、工具调用和环境反馈，而不只是写出一段答案。模型需要学会怎样组织一系列行动，训练系统也必须不断执行并评价这些行动。

Nathan 认为，大规模 Agentic RL 在模型研发中的地位正在上升。他在slides中引用 Reflection AI 的 Beam：该项目预训练使用 6,144 张 GB300、持续不到四周，而后续 RL 使用约 10,500 张 GB300、持续四周，产生超过一亿次 rollout。这个案例说明，对一些前沿模型，RL 已经是一项投入大量计算与工程资源的训练工作。

对研究者而言，开放模型让他们能够亲自实验这些训练方法；对企业而言，则意味着可以拿已经很强的底座，在自己的业务任务上继续训练。真正的难点随之出现：数学题可以检查答案，代码任务可以跑测试，一份律师交付的法律文件，怎样判断模型到底完成得好不好？

Harvey 的研究正是在回答这个问题。

四、Harvey：怎样把律师的专业判断变成模型能力？

Nathan 在讲座里用 Harvey 举例， 他认为：企业可以在开放模型上继续训练，使其在自己的专业任务中表现更好，而且可能获得比单纯调用通用模型更合适的质量—成本组合。他在现场用一张质量—成本图说明：与 Kimi K3 基座相比，经过后训练及执行框架调整的 Harvey Tenet，在每次任务推理成本接近的情况下，完成整项法律任务的比例更高。

Harvey Tenet 在 LAB 保留任务中的质量—成本表现。纵轴为任务全通过率，横轴为单次任务推理成本（对数刻度，越向右成本越低）。该图反映的是项目方汇总的评测比较，而非训练成本变化。来源：Harvey / Fireworks；Nathan Lambert 哈佛讲座slides

这张图展示了结果，却没有解释提升是如何实现的：Harvey 究竟怎样让一个通用模型更擅长完成复杂法律工作？

沿着 Nathan 引用的案例，如果我们进一步阅读 Harvey 的《Harvey Tenet Research Preview》和 Fireworks 的《Post-training Kimi K3 with Harvey for long-horizon legal work》，就可以看到任务环境、专家评分与强化学习的具体设计：

一份法律工作，怎样变成训练任务？

Harvey Tenet 是 Harvey 在 Kimi K3 基座上训练的法律 Agent 模型，目标是提高模型完成长程法律工作的能力。想象一位律所合伙人交办一项任务：要求审阅一批文件，找出与交易风险有关的事实，并提交一份法律备忘录。指令可能很短，但背后的文件很多。Agent 得自己决定先看哪些合同、怎样寻找关键证据、如何判断条款之间的关系，最终写出律师可以审阅的交付物。

在这样的任务里，“大致回答正确”往往不够。一份看似完整的备忘录，如果漏掉一个关键例外条款，或者引用的材料无法支持结论，就可能达不到交付要求。这与普通问答最大的不同，是质量标准分散在许多具体检查点中。

Harvey 的做法是先让法律专家把这些标准写出来。每个训练任务包含合伙人式的工作指令、一个有相关与非相关资料的客户事项环境，以及一份专家制定的评分细则（rubric）。Rubric 会逐项检查事实、法律问题、证据引用、风险判断和交付格式；一项任务平均包含约 50 条检查条件。

接下来，Agent 进入沙盒，使用工具检索文件、阅读资料、组织分析，最后把交付物写到指定文件。系统根据专家 rubric 评价结果，再把反馈用于强化学习。Harvey 使用异步 RL 和 GSPO，同时通过奖励设计鼓励模型在保证质量的前提下减少不必要的步骤和 token 消耗。项目使用约 1,750 个法律任务环境，训练历时约两个月，并同步调整了 Agent 的执行框架。Harvey 还在报告里说明，后训练采用合成数据、公开法律资料和专家数据，没有使用客户数据。对法律这样重视保密的行业，如何构造有代表性的任务环境，本身也是研究需要解决的问题。

这个过程最有启发的地方是：律师贡献的不只是一批法律知识文档，也包括判断一项专业工作有没有完成的标准。 这些标准被编入任务和奖励，模型便有机会通过实际执行学习更符合行业要求的行为。

后训练究竟值不值得？先看每次任务花了多少钱、完成了多少工作

回到刚才的质量—成本图，Harvey 与 Fireworks 公布了 Legal Agent Bench（LAB）保留测试任务的具体数字。Kimi K3 基座的全通过率为 10.8%，Tenet 提升至 19.7%；平均每次任务尝试的推理成本，则从 5.62 美元增加到 5.92 美元。这里的“全通过”要求交付物满足任务的所有评分条件，因此比平均答对几项检查点严格得多。

需要留意的是：Kimi K3 基线分数引用自 Vals 的 LAB 排行榜，而 Tenet 在 Harvey 的评测设置下运行，执行框架额外加入了 finish 工具。两者的执行与评分实现并非完全一致。因此，这组数字更适合用来理解项目方报告的整体表现，而不能单独量化 RL 参数更新带来的净收益。

结果的意义并不是 Tenet 每次运行变便宜了，而是按照这组公开结果，在接近的单次推理预算下，Tenet 能够完成更多符合专业标准的任务。

那么，花两个月训练这件事，在商业上真的划算吗？如果一家企业持续处理大量相近任务，训练带来的改善能在许多后续工作中复用，更高的合格交付比例就有机会抵消部分前期投入，也可能减少人工修订的工作量。这是这项实验呈现出的商业潜力。

但决定是否真正赚钱，还需要另一组数据：训练 GPU 的实际费用、专家制定任务与 rubric 的成本、模型部署维护开支，以及真实律所工作中节省了多少人工时间。Harvey 公开了训练规模与研究评测，却没有给出足够信息计算完整投资回报。因此，目前可以看到质量调整后的推理成本改善，还不能得出“企业自训练一定比采购 API 划算”的结论。

Harvey 的研究报告还介绍了与 Tenet 主模型分开的其他专项训练：并购尽调需要处理大量文档与任务委派，批量审阅强调结构化抽取和精确引用，律所知识管理则关注怎样提高长期资料的利用效率。它们使用的训练方式和执行框架并不完全相同，也说明专业化训练需要从具体工作出发，而不是给通用模型灌入更多行业文本就能解决所有问题。

除了 Harvey，Nathan 在讲座中还介绍了 Mercor 与 SkyRL。与 Harvey 选择 Kimi 训练法律 Agent 不同，Mercor 与 SkyRL 选择的是 Qwen3.5-397B-A17B，利用专家数据进行后训练，并将训练脚本和模型权重公开。这让外部团队也能够获得训练后的模型，研究和使用这套训练成果。

两项研究采用不同的底座，也处理不同的专业任务。Harvey 展示法律 Agent 在质量—成本上的变化；Mercor 则把专家数据用于大规模 Qwen 模型的后训练，还将脚本与权重提供给外部团队。它们共同说明：通用模型发布之后，仍有相当多的专业能力可以继续开发。

但一家公司能否持续走这条路，不只取决于训练技术，也取决于它对模型与供应商关系有多少自主选择。

五、谁能继续训练模型，也关系到谁能控制它

对企业来说，技术控制权不只是“能不能下载模型”。Nathan 在讲座中提到，一些创业公司很担心自己长期依赖少数闭源模型提供商，甚至会顾虑公开批评供应商的后果。如果能够在许可范围内自行部署和训练权重，企业就可以减少对单一 API 的依赖，也不必为每次任务调用持续向原模型提供商传输业务使用信号。至于实际有哪些数据流向第三方，还要看企业采用的部署方式。

不过，无论是科研实验还是企业训练，要持续使用这样的开放底座，都有一个前提：有人愿意持续投入巨额资源，发布新的开放权重模型。为什么模型公司愿意这么做？

Nathan 在讲座中从商业竞争的角度回答了这个问题。他曾走访多家中国 AI 实验室，观察到不少团队迫切希望自己的模型被研究者和开发者采用。对还没有在闭源 API 市场占据领先位置的公司，发布权重可以带来使用、反馈、人才和技术声誉，也能增加领先竞争者维持生态优势的难度。中国开放模型厂商的持续发布，并不完全是理想主义，也是一种争取采用的商业策略。

但开放生态也面临收入如何回到模型开发者手中的难题。闭源公司训练模型，再通过自己的 API 收费；开放权重模型则可能由一家团队训练，其他推理服务商承担部署和调用。模型越受欢迎，开发模型的公司也不一定获得与之相称的收入。Nathan 因此讨论了许可证的变化：有的模型采用 MIT、Apache 2.0 等宽松条款，另一些则加入商业规模、品牌或使用限制。开放权重并不自动代表可以不受限制地修改、商用和重新分发。

对使用者来说，这些安排直接影响 ownership 的实际含义：能否自行部署？能否继续训练并保留自己的版本？当业务规模扩大，是否需要额外协议？对模型开发者来说，它们关系到下一轮预训练和后训练能否获得资金支持。

不过，Nathan 支持开放模型的理由还不止商业策略。他在讲座中回顾了自由软件和开源软件传统，强调允许更多人研究、修改和分享技术，对于科学进步一直很重要。这也是他长期投入 OLMo 等开放研究的原因之一。对于模型训练研究者，有时真正需要的不是推理 API，甚至不只是最终权重，而是能够检查数据、代码与训练过程的材料。

他的另一层担忧是技术权力集中。如果 AI 成为越来越重要的基础技术，而只有极少数公司能够控制其能力、访问和发展方向，研究者、企业和社会将失去多少自主选择的空间？这正是 Nathan 从科学开放延伸到技术扩散与控制权的思考。

当然，发布权重也意味着开发者难以收回已经流通的模型。Nathan 在讲座最后专门讨论了网络安全和其他滥用风险：开放模型可能扩大一些实际伤害，比如非自愿深度伪造；但闭源模型也被用于网络攻击，开放模型同时能够帮助防御者研究风险。他反对简单地把全面禁止开放权重当成主要安全方案，更倾向于判断每次新发布究竟增加了什么风险、社会和防御者是否有时间准备。

让我们回到文章开头的两个例子：Qwen 在 AI 论文中的提及量增长，说明它已成为科研生态的重要参照；Harvey 的 Tenet，则展示了企业怎样把专业判断转化为后训练的任务与反馈。模型能力和 API 价格决定了今天用什么，开放到什么程度则影响更多人能否参与下一轮模型能力的开发。

这不是说每家公司都应该自己训练模型。调用 API 仍然是很多应用的好选择。但当任务需要被持续评测和改进，当企业希望掌握自己的专业训练过程，当研究者希望真正理解模型能力如何形成，开放权重和开放研究材料就提供了不同于单纯调用服务的机会。

结语｜企业的专业经验，怎样才能真正进入模型学习？

Harvey 的实验值得研究者关注，除了评测结果，还有它选择的技术入口：并不是先拿到一大批法律文档，就开始训练模型，而是先定义专业工作，再把环境、工具和专家判定标准组织成能反复执行和评估的任务。Nathan 同时介绍的 Mercor，则展示了另一种做法：利用专家数据对开放底座继续训练，并把脚本和权重发布出来，让外部团队也能使用这些成果。

这让一个应用层问题逐渐变成训练研究问题：对于一项真实专业任务，哪些瓶颈可以通过检索、工具和工作流解决，哪些确实值得通过后训练改变模型行为？ 仅靠通用排行榜很难回答。企业业务中的任务设计、专家反馈以及可靠的评测，可能成为研究者和产业团队合作时更有价值的连接点。

参考资料