大数跨境

AI既当研究者又当裁判,还能教会自己进步吗:Sakana AI让多Agent协作经验进入模型训练

AI既当研究者又当裁判,还能教会自己进步吗:Sakana AI让多Agent协作经验进入模型训练 Research AI+
2026-10-22
0
导读:2026 年 10 月 Sakana AI 与加州大学伯克利分校的论文《Recursive Self-Improvement through Multi-Agent Self-Supervision》

在一组需要编写代码、运行实验并提交研究报告的任务测试中,研究人员只给 AI 提供任务要求,没有额外教它如何组织团队。训练前的模型(下文称为“基座模型”)在 110 次执行中,只有一次出现了成功的子 Agent 委派——也就是调用另一个 AI Agent(Subagent)分担任务,且工具没有报错。

经过两轮训练后,更新版本在同样没有组队指令的 110 次测试中,有 87 次主动完成这样的委派。一个 Agent 写好代码、另一个 Agent 随后读取该文件的交接行为,也从 1 次增加到 83 次。

这组结果来自 2026 年 10 月 Sakana AI 与加州大学伯克利分校的论文《Recursive Self-Improvement through Multi-Agent Self-Supervision》。研究团队提出 MASS(Multi-Agent Self-Supervision,多 Agent 自监督):让共享同一个底层语言模型的多个 Agent 组成团队,执行研究任务;再比较它们的成果、调整团队的工作安排,把筛选出的执行过程用于训练底层模型。模型更新后,再由新版本继续执行、比较和学习。

这里的变化不是模型突然获得了从未具备的组队能力。论文中的另一项对照发现,基座模型只要收到通用的组队指令,本来就能调用其他 Agent。训练后出现的主要变化,是模型在没有这些额外指令时,更常主动采用协作方式。

研究人员使用 Qwen3.6-27B 完成了两轮更新,在部分研究任务表现、协作行为和评价一致性上观察到改善。这属于递归自我改进(Recursive Self-Improvement,RSI)的一次受控尝试:模型从上一轮由自己参与产生和筛选的数据中学习,再承担下一轮的执行与评价工作。但任务、Agent 运行环境和训练步骤仍由研究人员预先设定;两轮改进也不等于证明它能够长期持续进步。

但 MASS 真正值得讨论的,不只是模型有没有变强,而是:当研究经验由模型自己生成、评价并挑选时,什么样的经验值得被训练回模型?

一、当研究没有标准答案,模型如何评价自己的工作?

先看 MASS 论文中的一项具体任务。研究团队设计了一道模拟金融研究的编程题:要求 AI Agent 利用宏观经济数据,以及利率、外汇、大宗商品等市场信息,预测未来 1—20 天的股票指数收益,并设计相应的交易策略。模型需要用历史数据回测策略表现,最后提交可运行的代码、实验图表和研究报告。这是一项合成测试任务,不是已经进入真实市场的交易项目,也不意味着模型完成了新的科学发现。

今天的 Coding Agent 已经能够完成其中不少步骤。但能够运行代码、画出收益曲线,不代表研究结论可靠。实验是否无意中使用了未来数据?训练集和测试集是否泄漏?比较基准是否合理?得到的结果能否支持报告中的判断?

其中一些问题可以通过程序检查,另一些则需要理解研究设计,甚至进行更多独立实验才能回答。检查训练数据是否早于测试数据,是对某个步骤的验证;判断整个交易研究是否可信,则还涉及实验设计和结论。问题不在于 Agent 是否能够完成回测,而在于它能否识别哪些回测结果真的值得相信。

这也是开放式研究任务和许多标准 Coding 任务的区别。程序编译通过、测试用例全部成功,往往能提供比较直接的反馈;一份研究报告即使包含可运行的代码,也仍然可能采用有偏差的数据、遗漏必要的对照,或者提出超过证据范围的结论。

这正是 MASS 所讨论的 non-verifiable tasks:不是说研究结果原则上无法验证,而是指训练过程中缺少现成、可靠、能够自动判断整体成果质量的规则式信号。部分数学和编程测试有明确答案、单元测试或形式化验证器;开放式研究却很难只用一条规则,判断一份研究报告究竟好在哪里、错在哪里。

如果每轮训练都需要人类专家检查大量研究产物,评价就可能成为扩展的瓶颈。对于前沿研究,判断一项结果是否成立,有时还需要昂贵的实验或很长的反馈周期;训练系统不可能每产生一次候选研究,就立刻获得一个充分可信的最终答案。

研究团队尝试在这样的条件下,让当前模型同时负责完成研究任务、修改团队工作计划和比较研究成果。论文把这种安排称为 Homogeneous RSI(同源模型的递归自我改进):同一代语言模型承担任务执行者(Executor)、流程优化者(Optimizer)和成果评价者(Evaluator)三种职责。它们在运行时可以是不同的 Agent 实例,但使用相同一代模型的权重。

Executor 负责产生研究成果;Optimizer 负责修改分工与工作流程;Evaluator 则比较成果,决定哪种尝试更值得保留。研究团队想知道,模型能否借助集体协作,产生足以训练自身的经验。

一种常见的训练思路,是让外部教师模型或可靠评分规则为样本提供监督。MASS 的主要训练循环则没有一个始终在外部、能力明确更强的教师替它筛选正确经验。执行、评价和下一轮训练数据选择都要依赖当前这一代模型。这为实验提供了动机,也留下了一个风险:如果不同 Agent 共享同一种判断盲点,会发生什么?

二、MASS 的第一步:让模型寻找更好的团队工作方式

MASS 的第一步是在模型权重不变的情况下,尝试找到一种更好的团队工作方式。只有找到相对有效的协作方案后,研究团队才会收集执行记录、用于下一步训练。

研究团队使用 qwen-code 作为 Agent 的工作环境,让模型能够调用工具、处理文件和运行程序。在团队内部,一个总协调 Agent(Orchestrator)负责向多个执行子任务的 Agent(Subagent)分配工作、收集结果,再把代码、实验文件和报告整合起来。

但研究人员没有停留在“数据科学家”“建模专家”“审稿人”之类的角色分配。仅仅告诉 Agent 扮演什么专家,并不能解决真正的协作问题:上一环节输出不完整怎么办?下一个 Agent 应该检查哪些内容?结果有问题时,是继续向下执行,还是返回某一步重做?

在 MASS 之前,同一条研究路线有一项 RHI(Recursive Harness Self-Improvement)工作,研究能否在不改变模型权重的情况下,仅靠调整 Agent 的外部工作安排来改善表现。MASS 借用了这种表示方法,把团队的 Workflow(工作流程与分工计划)写成可编辑的文本。这里的 Workflow 是 Harness 的一部分;Harness 泛指围绕模型安排工具、上下文、执行控制与协作的外部机制。

Role 说明每个 Agent 负责什么;Instruction 说明具体做什么;Contract 规定必须交付哪些信息与检查结果;Hop 描述调用顺序,以及什么时候需要返回先前的步骤。

RHI 的 Harness 四要素:Role、Instruction、Contract、Hop

图 1|Harness 的四个组成部分(The RHI harness consists of roles, instructions, contracts, and workflow hops)。来源《Multi-Agent Self-Supervision》(2026),Sakana AI 博客。

回到第一节的金融研究任务。为了预测股指收益并回测交易策略,团队必须先准备市场数据、提取预测特征,再训练模型和测试策略。研究团队让模型尝试不同的分工与交接方案,再通过比较执行成果筛选相对更好的安排。论文展示的一份经过搜索的金融任务 Workflow 中,不同 Agent 分别负责数据准备、特征构建、模型训练、回测、审计和报告生成。

在这份 Workflow 中,数据处理 Agent 不能只交出清洗后的数据,还要按 Contract 的规定返回验证报告。报告包含几项是/否检查,让下游 Agent 知道数据是否满足进入下一步的条件:

–
no_future_leakage:是否排除了未来信息泄漏。
–
train_end_before_val_start:训练数据的结束时间是否早于验证数据的开始时间。
–
val_end_before_test_start:验证数据的结束时间是否早于测试数据的开始时间。

这样,后续建模 Agent 接收到的,不仅是文件,还有判断文件是否适合继续使用的检查依据。如果检查不通过,工作流程便可以安排重新处理,而不是把有问题的数据直接交给下一环节。不过,Contract 规定的是必须交付哪些检查结果,并不能单独保证这些检查执行得正确。

这种设计把原本隐含在“数据已经准备好”中的假设,变成了后续 Agent 可以读取和使用的交付要求。Contract 负责规定需要返回什么,Hop 则决定这些检查结果如何改变接下来的执行路径。两者结合,才可能让多个 Agent 的分工不只是看起来合理,而是在执行过程中真正衔接起来。

好的协作不仅要决定谁来做事,还要决定每个环节应当留下什么证据,以及下一个环节怎样使用这些证据。

那么,Workflow 怎样变好?

对同一项任务,研究团队先保留一个当前评价最好的工作计划作为比较基准。Executor 所协调的 Agent 团队按照新候选 Workflow 执行,生成代码、实验结果和报告;Evaluator 将这次的成果与当前方案的成果进行比较,给出偏好和理由;Optimizer 再根据反馈修改 Role、Instruction、Contract 和 Hop。如果新方案得到更好的评价,就将它保留为新的 Champion Workflow(当前最优候选)。之后继续尝试新的修改。

这意味着系统并非只让 Evaluator 对一份答案说“好”或“不好”,而是把评价转化为下一轮搜索的输入。一次 Workflow 修改是否有效,需要让 Executor 真正重新做一遍任务,才能看到它对最终研究成果的影响。

在这个搜索过程中,模型权重保持不变。Champion 只是当前模型根据比较结果选出的较优候选,并不意味着它已经通过独立科学验证。

一条来自 Workflow 搜索的线索

Workflow 经过多轮修改后,研究人员想知道:具体任务的信息,更多地体现在这四类文本的哪一部分?但在看结果之前,有一个重要前提:Optimizer 使用的提示词本来就强调优先改进 Contract 和 Hop 所规定的交接与调用关系。 因此,之后观察到的变化不能被当作模型完全自发发现了二者的重要性。

研究团队用文本 Embedding(将文字表示为向量)和互信息估计,衡量四类 Workflow 文本与任务描述之间的统计关联;这里分析的是文本与任务描述的关系,并非 Agent 实际执行时交换了多少信息。结果显示,随着搜索推进,Role 和 Instruction 的任务特异性整体下降,而 Contract 与 Hop 的任务特异性增加。

Workflow 搜索过程中 Role、Instruction、Contract、Hop 的任务信息变化

图 2|任务信息向 Contract 与 Hop 转移(Task information shifts toward contracts and call order)。四类 Workflow 信息随搜索轮次的变化。来源:《Multi-Agent Self-Supervision》(2026),Sakana AI 博客 Figure 5

角色描述逐渐通用,交付要求与环节衔接却越来越具体。换句话说,随着 Workflow 被修改,系统对“谁是专家”的描述没有一直变得更长,却花了更多文本说明“每一步应该交付什么、怎样进入下一步”。

这给 Agent 工程提供了一条线索:与其不断加长角色说明,不如检查协作中哪些交付条件和调用关系需要写得更具体。不过,这是一项对 Workflow 文本变化的描述性分析,不能单凭这些统计关联,认定 Contract 和 Hop 就是任务表现改善的原因。

三、从优化 Workflow 到更新模型权重:MASS 怎样形成递归循环?

到这里,MASS 仍然是一个自动搜索 Agent Workflow 的系统。如果去掉优化后的计划,模型未必学会了如何自己组织类似的协作。

研究团队要继续做的是,把团队已经产生的经验用于训练。

这一步改变了技术问题的性质。搜索 Workflow 只是在当前模型之外找到更好的组织方式;如果要让模型在未来面对新任务时也更可能采用这样的协作方式,就必须将执行过程转换成可供参数训练学习的监督数据。

MASS 由两个循环组成:内层循环在权重不变时优化 Workflow;外层循环从筛选出的协作轨迹中学习,更新共享模型参数。

MASS 论文中多 Agent 自监督的内层和外层循环总览

图 3|MASS 的递归自我改进框架。上方展示在共享模型权重不变时,Executor、Evaluator 和 Optimizer 如何优化多 Agent Workflow;下方示意通过优化后的执行经验更新模型,并进入下一轮迭代。来源:《Recursive Self-Improvement through Multi-Agent Self-Supervision》(2026),论文 Figure 1。

实验使用 Qwen3.6-27B,设计了金融、机器人、药学方向的 12 项合成研究任务:9 项用于训练,3 项留出测试。由于其中 1 项训练任务没找到合格的改进 Workflow,最终有 8 项任务提供训练数据。

内层为某项任务选出 Champion Workflow 后,研究团队让 Agent 团队按照这份工作计划,独立重复执行同一任务 18 次。这样做是因为即使团队计划相同,不同次执行也可能产生不同代码、实验和报告,成果质量未必一致。

每次执行都会留下研究成果,以及一份 Trajectory(执行轨迹):Orchestrator 怎样拆解和委派任务,Subagent 如何调用工具、处理文件、返回结果,以及团队怎样整合交付物。研究团队不仅要挑最终报告,也要挑出值得模型学习的工作过程。

随后,当前模型以 Evaluator 的身份两两比较这些成果。研究人员再用 Bradley–Terry 模型(一种把两两比较结果汇总成相对评分的统计方法)整理偏好、为不同执行结果排序。每项任务最多保留 16 条执行轨迹:排名靠前的 15 条用于训练,第 16 条用于训练过程中的验证。首轮训练最终使用了来自八项任务的 119 条训练轨迹;比预期少的一条,是因为一次执行提前终止。

这里筛选的不是事先由人写好的正确答案,而是当前模型相对更偏好的完整执行过程。于是,哪个研究尝试被选中,不仅影响当下的实验记录,也决定下一代模型会接触什么样的工作经验。

研究人员将这些轨迹整理成监督微调(SFT)数据,再通过 LoRA(一种只调整部分可训练参数的微调方法)更新共享模型。与只训练模型生成最终报告不同,这些数据还包含 Orchestrator 与 Subagent 的对话和工具操作记录,因此能够让模型学习任务组织和具体执行两类行为。

这两类记录并不完全相同。Orchestrator 的轨迹展示如何把任务拆解成若干工作、委派给合适的 Agent、等待中间结果并做整合;Subagent 的轨迹则展示如何按照收到的要求独立完成局部工作。它们最终训练的是同一套共享模型,因此模型可能同时学习协作决策与具体任务执行。

其中一个关键处理是:整理训练数据时,研究人员把 Orchestrator 最初收到的工作计划和固定执行指令移除,只留下原本的任务要求。 如果保留整份计划,模型可能只是在学习遵照计划执行;移除这些预制指令,则能检验模型是否从实际发生的协作中学到了组织任务的行为。轨迹里已经发生的委派和交接信息仍然保留。模型因此能够学习协作是如何进行的,而不是始终依赖一份现成计划。

这一设计并不能保证模型一定学会了通用的组织能力,但它使后面关于“没有显式 Workflow 时,模型是否会主动协作”的行为测试变得有意义。

完成第一轮训练后,新模型不仅成为下一轮 Executor,也重新担当 Optimizer 和 Evaluator。它继续搜索 Workflow、比较研究成果、筛选轨迹,再训练出下一代模型。论文将初始模型和两轮更新依次记为 L⁽⁰⁾、L⁽¹⁾、L⁽²⁾。

因此,MASS 不只是 Prompt 优化。内层搜索修改的是 Workflow,外层 SFT 则实际改变了模型权重。

但这也不意味着整个科研系统由模型完全自主设计。任务、运行环境、搜索规则与训练流程由研究人员预先建立;12 项合成任务的描述也由 GPT-5.5 在实验前生成。MASS 验证的是在这些条件之内,模型能否利用自身协作与评价信号完成连续更新。

四、两轮之后,模型究竟学会了什么?

研究人员从四个方面检查变化:研究任务成绩、主动协作行为、其他角色的能力,以及多 Agent 轨迹的训练效果。四组证据衡量的是不同事情,不宜简单合成一句“模型能力提高了多少”。

1. 研究表现:有提升,也有没提升的任务

先区分两个评价环节:在 MASS 训练过程中,同一代模型负责挑选要学习的执行轨迹;而论文报告性能时,研究人员另外请 GPT-5.5、Claude Opus 4.8 等模型比较不同版本的研究成果。后者不参与训练轨迹筛选。

在三个留出的合成研究任务上,第一轮模型对基座模型的外部评价胜率为 53.9%,第二轮达到 69.9%;第二轮模型相对第一轮模型的胜率为 60.8%。这里的胜率是外部模型在两份成果之间作出偏好选择的比例,并不是科研任务的客观成功率。

为了检查这种改进能否延伸到合成任务之外,研究团队又使用了公开 Benchmark。这些是其他研究者提出的标准化测试,不是前面那 12 项合成任务。研究团队既看模型能拿到多少分,也看它为得到这些分数生成了多少输出 Token(文本量)。其中,MLR-Bench、DSBench、ScienceAgentBench 和 AstaBench 涵盖机器学习、数据科学和科学研究型 Agent 任务;第二轮模型在这四项测试上的单位输出 Token 得分是基座模型的 1.20—1.60 倍。这衡量的是得分与输出 Token 的关系,而不是绝对得分都提高了同样倍数:例如 DSBench 原始得分从 0.473 到 0.482,ScienceAgentBench 从 28.8% 到 31.7%。

图 4|公开 Benchmark 表现(Public benchmark performance)。比较基座模型和两轮训练模型的得分与输出 Token;研究类任务与软件工程任务的变化方向不同。来源:《Recursive Self-Improvement through Multi-Agent Self-Supervision》(2026),Sakana AI 博客 Figure 3。

相反,在 Terminal-Bench 2.0 和 SWE-bench Verified 这两项软件工程测试上,第二轮模型的单位输出 Token 得分只有基座模型的 0.96 和 0.94 倍。

从这些测试看,MASS 的收益更多出现在研究类任务上,没有同步推广到所有软件工程测试。更准确的说法是:模型在若干研究类评测上的得分与输出 Token 之比改善了,而不是模型的整体科研能力已经提高了 1.20—1.60 倍。

2. 协作行为:模型开始自己委派工作

研究人员还做了一组只提供任务描述、不提供优化后 Workflow 或额外组队指令的行为测试。在每代模型各 110 次执行中,成功委派 Subagent 的次数,从基座的 1 次增加到第一轮后的 48 次、第二轮后的 87 次;跨 Agent 的代码交接则从 1 次增加到 42 次、83 次。

论文对这两个行为给出了可操作的定义:成功委派意味着 Orchestrator 调用了 Subagent 且没有出现工具错误;代码交接意味着某个 Subagent 成功读取了另一个 Subagent 已写入的 Python 文件。

因此,这些数据记录的是实际发生的工具调用与文件交接,而不是模型在回答中声称自己“进行了团队协作”。研究团队也核查了训练轨迹,确认相应行为存在于 SFT 数据中。

论文据此认为,外部 Workflow 所组织的一部分协作行为,经过训练开始成为模型在执行时更倾向于主动采用的方式。

附录 G.2 还有一个关键对照:研究人员不提供优化后 Workflow,而是给基座模型一套通用组队指令,让它自行选择三至六种专家角色,并遵循统一的执行与交接规则。基座模型 110 次执行全部成功委派 Subagent,其中 103 次完成跨 Agent 代码交接。这说明基座模型原本就有相应能力;训练后的变化,主要体现为没有明确协作指令时使用这些能力的频率增加。

这个变化与第一组性能结果互相补充:得分告诉我们一些最终成果获得了更好的评价,行为测试则让我们看到模型完成任务的方法发生了什么变化。它并没有证明每一次新增委派都更合理,但至少把“模型从协作中学习”落到了可观察的执行行为上。

3. 角色泛化:学过执行轨迹,也影响了优化和评价

MASS 的 SFT 主要学习任务执行轨迹,没有单独为 Optimizer 和 Evaluator 提供专门的训练目标。但更新后的模型,在这两个角色上也出现了变化。

为单独观察“工作计划本身是否变好”,研究人员先让训练前和第一轮训练后的模型分别搜索 Workflow,再把两套 Workflow 都交给同一个基座模型执行。这样最终执行者不变,比较的就是使用不同 Workflow 产生的成果。

在这项对照中,第一轮模型搜索出的 Workflow,相对基座模型搜索出的 Workflow,获得了 64% 的外部评价胜率。但两套计划最初是在不同版本的 Executor、Optimizer、Evaluator 共同参与下找到的,因此无法把这 64% 的优势单独归因于 Optimizer。

研究人员还让不同版本的内部 Evaluator 与外部评审分别比较研究成果,统计双方作出相同偏好判断的比例。模型自身的评价判断与外部强模型判断的一致性,从基座的 73% 提高到第一轮后的 91%,第二轮后达到 93%。

值得注意的是,模型并未接受专门针对评价角色的额外 SFT 目标,却在担任 Evaluator 时与外部判断者更一致;生成 Workflow 的表现也发生了变化。

论文将这种现象视为 Role Generalization 的证据:从团队执行轨迹中学习,可能影响共享模型承担其他工作角色时的表现。这说明评价行为更接近外部评审,但不能直接等同于科学判断一定更正确。

4. 训练信号:多 Agent 轨迹可能更有效

前面比较的是模型生成结果时的输出 Token,这里比较的是微调过程中累计处理的训练 Token。研究团队准备了两类训练数据:一种来自多个 Agent 的协作轨迹(图中 M⁺),另一种来自单 Agent 独立执行的记录(S⁺⁺)。研究人员用它们分别训练模型,再比较任务成果。在这组对照中,使用多 Agent 轨迹的模型处理约 2880 万监督训练 Token 后,对基座模型取得 68.3% 的评价胜率;使用单 Agent 轨迹的另一组模型,处理约 4200 万 Token 后,胜率为 64.0%。

MASS 多 Agent 与单 Agent 训练轨迹的 Token 效率对比

图 5|单位监督训练 Token 的性能(Performance per supervised training token)。横轴为累计监督训练 Token,纵轴为对基座模型的评价胜率;图中比较多 Agent、单 Agent 和混合数据配置。来源:《Multi-Agent Self-Supervision》(2026),Sakana AI 博客 Figure 6。

论文作者认为,多 Agent 轨迹可能包含比单 Agent 连续执行更丰富的训练信息:既记录怎样完成局部工作,也记录怎样拆分、委派、交接与整合工作。

从训练样本的角度看,多 Agent 系统带来的差异不只是把一次任务拆成更多对话,而是让不同层级的决策同时出现在可学习的序列里。论文把这视为更高监督信息密度的一种可能解释;但这并不意味着所有多 Agent 数据都天然优于单 Agent 数据。

但这不是一个只改变“单 Agent 或多 Agent”这一变量的严格对照:多 Agent 组(M⁺)使用来自八项任务的 119 条轨迹,而单 Agent 对照组(S⁺⁺)使用来自四项任务的 290 条轨迹;两组的任务覆盖、数据构成与采样方式并未完全匹配。因此,这组结果支持多 Agent 轨迹可能带来更好的训练效率,却不能把差异全部归因于轨迹结构。

此外,监督训练 Token 效率不等于整个系统的计算效率。上述 2880 万与 4200 万 Token 是训练过程中累计处理的监督 Token,并非去重后的原始数据量;它们也未计入生成轨迹、搜索 Workflow 与评价结果的全部成本。论文还报告,多 Agent 执行平均产生约 2.4 倍的 Token。这组实验尚不能证明端到端计算成本更有优势。

综合这四组实验,MASS 不仅让模型在部分任务上获得更好的评价,也改变了它执行任务的方式,并观察到这种训练对优化和评价角色的影响。接下来需要看的是:这些变化能否形成一个有效的自我改进过程。

五、一个容易被忽略的发现:评价更好,为什么改进仍然可能很慢?

谈到 AI 自我改进,我们很自然会问:模型是否有能力判断哪份研究成果更好?

MASS 的一项消融实验却指出,另一项能力同样关键:即使得到质量更高的反馈,Optimizer 也未必知道下一步应该怎样修改 Workflow。所谓“消融”,就是研究人员有意替换或改变系统中的某个环节,观察结果有什么不同。

这是论文为分析不同角色而额外进行的对照,不是 MASS 主要训练循环中改用 GPT-5.5 监督模型。为了区分这两个角色的影响,研究人员固定 Executor 为基座模型,比较三类配置:Optimizer 和 Evaluator 都使用基座模型;只把 Evaluator 换成 GPT-5.5;或者同时把两者换成 GPT-5.5。

图 6 的纵轴统计的是:在全部 12 项合成任务里,有多少项任务在截至某一搜索轮次时,至少找到过一份“合格”的 Workflow。

这项实验将“合格”定义为:候选 Workflow 产生的成果与未使用 Workflow 的基座成果相比,GPT-5.5 和 Claude Opus 4.8 各在三个随机种子下作出评审判断,同一对成果获得的六个判断全部偏好候选成果。这里不是六次独立的任务执行。

MASS 的 Optimizer 和 Evaluator 消融实验:改进 Workflow 的任务覆盖数随搜索轮次变化

图 6|Workflow 搜索消融实验(Workflow-search ablations)。横轴为搜索轮次,纵轴为累计找到至少一个达到外部评价标准的 Workflow 的任务数;比较不同 Optimizer/Evaluator 配置。来源:《Multi-Agent Self-Supervision》(2026),Sakana AI 博客 Figure 7。

同时升级 Optimizer 和 Evaluator 的配置,到第 5 次搜索迭代已为全部 12 项任务找到过满足这一标准的改进 Workflow。仅升级 Evaluator 的帮助较小;完全使用基座模型的配置,到第 13 次迭代也为 12 项任务中的 11 项找到过合格候选,但搜索速度更慢。

这里统计的是每项任务是否曾经找到过一个合格候选,不是说每次修改都能继续提高质量。实验也不能把改进全部单独归因于 Optimizer,因为最强配置同时改变了两个角色。

论文作者由此提出一个有条件的判断:在他们测试的搜索预算和任务设置下,Optimizer 的能力可能是比单纯改善 Evaluator 更突出的瓶颈。

这个区别体现在工作内容上:Evaluator 负责比较研究成果、指出差距;Optimizer 则需要把反馈转化为下一轮的具体修改,例如重新分配任务,或补上某个环节必须交付的检查结果。能够判断哪份成果更好,不等于知道怎样生产出更好的成果。

论文还观察到,Workflow 搜索并非每轮都稳定向好。某个候选曾得到较高评价,下一次修改仍可能让表现变差;修改文本的幅度大小,也与结果变化没有简单对应关系。因此,改进速度不仅取决于反馈是否准确,还取决于 Optimizer 能否提出值得检验的新安排。

但即使 Optimizer 能不断提出更好的候选,MASS 还要依赖 Evaluator 判断哪些候选值得保留、哪些执行轨迹应该进入训练。改进方案由模型提出,训练经验也由模型自己筛选;如果筛选错了,问题就可能从一次执行延续到下一代模型。

这才把讨论带回标题里更难回答的部分:当裁判也是选手,我们怎样知道它选择的经验真的值得学习?

六、如果裁判也是选手,它怎么知道自己真的进步了?

这里可以用前面的金融回测任务构造一个风险情境。这是假设,并非论文报告的实际失败案例。 如果模型没识别出数据泄漏,却反复把相关结果评为优质研究,那么带有缺陷的执行轨迹就可能进入下一轮训练,使模型更熟练地重复这种做法。

在 Homogeneous RSI 中,Executor、Optimizer、Evaluator 虽然承担不同职责,却共享同一代模型的能力与局限。某种错误判断若同时影响研究成果和结果筛选,就可能通过训练继续保留。论文作者明确讨论了这种共享盲点的风险。

前面介绍研究成绩时提到的外部评审,正是为这个问题设置的一道独立观察环节:研究团队让 GPT-5.5 与 Claude Opus 4.8 比较不同代模型的研究成果,但不把这些外部判断放入 MASS 的主要自监督训练循环。这样,挑选训练数据时的内部模型偏好,与论文报告性能时的外部比较至少不是同一套评分。

不过,外部模型更偏好某份报告,并不能替代真实实验、形式化验证或领域专家对结论的核查。GPT-5.5 还参与了合成任务描述的生成和后续外部评审;这一事实不能证明评价受到偏差影响,但提醒我们:外部模型评审也并非完全独立于任务设计来源。

这也是评价一致性从 73% 增长到 93% 必须谨慎理解的原因:它衡量的是与外部评价者的判断是否接近,而不是已经验证研究结论的真伪。外部模型可以帮助检查评价是否偏离主流模型的判断,但当任务本身缺少确定答案时,多个模型作出一致选择,仍有可能共享同一个错误前提。

其他实验边界也需要放在这里一起看。MASS 只完成两轮更新,训练数据主要来自数量有限的合成研究任务;公开 Benchmark 显示部分领域改善、部分领域未改善。它尚未证明改进能够长期持续,更没有证明改进速度会不断加快。研究团队已经公开代码,为后续复现和更长期的实验提供了基础。

因此,MASS 所证明的范围应该准确表述为:在研究人员设定的环境与训练流程中,模型能够利用自身多 Agent 协作产生的数据完成两次权重更新,并在一组测试上呈现可观察的改善。 这是一项关于递归自监督的实验进展,还不能等同于 AI 已经解决开放式科学研究的可靠监督问题。

七、从 MASS 往前看:Harness 会成为模型的训练来源吗?

第二节提到的 RHI,是理解 MASS 研究脉络的重要线索。第一作者 Hyunin Lee 在 2026 年 6 月的 RHI 研究博客中,已经讨论过模型变强后,外部 Harness 是否还有存在价值。

RHI 实际研究的范围比较具体:在模型权重保持不变时,修改由 Role、Instruction、Contract、Hop 构成的文本 Workflow,观察 Agent 的执行表现能否改善。它并没有自主重写整个 Agent Runtime,也没有把执行轨迹用于训练下一代模型。

RHI 自动改进 Harness 的迭代流程示意

图 7|RHI 的 Harness 自我改进循环(The Recursive Harness Self-Improvement loop)。在模型权重固定时,比较相邻执行结果,根据反馈迭代修改 Harness。来源:《Multi-Agent Self-Supervision》(2026),Sakana AI 博客。

RHI 博客当时已经提出 Harness-in-the-loop Learning:更好的 Harness 不仅改善当下执行,也可能产生更有价值的训练轨迹,使模型与 Harness 形成共同演化的循环。换句话说,让 Harness 成为模型训练来源,是原作者此前就提出的方向,而不是 MASS 之后才出现的外部解读。

RHI 实验了这条思路的前半段:如何通过优化 Workflow 改善执行结果。MASS 则进一步把优化后的执行轨迹用于 SFT,让更新后的模型进入下一轮协作。因此,二者的区别并不是有没有 Workflow,而是 Workflow 产生的经验有没有进入模型训练。

在这条研究路线中,Harness 不再只是提高某一次 Agent 执行质量的工具。它还决定团队如何分工、留下什么中间记录、哪些过程可以被整理为下一轮训练数据。MASS 的实验提示,优化 Harness 可能同时影响当前任务的执行结果,以及后续模型能够学习到的协作过程。不过,这并不意味着任何 Harness 优化都能产生同样的训练收益。

结语

随着部分协作策略通过训练进入模型权重,我们可能需要重新划分模型与 Harness 的职责。有些能力更接近模型能够习得的工作策略;另一些机制的价值,则在于提供独立的执行约束和可检查的证据。

模型内化一种行为,与系统保证这种行为可靠发生,是两个不同层次的问题。 前者可以通过训练提高模型主动采用某种方法的概率,后者仍然需要独立的验证设计。

因此,未来需要讨论的并非简单的“模型会不会吃掉 Harness”,而是哪一部分原先写在外部流程里的经验,可以逐渐成为模型自身的工作能力;又有哪些机制因为承担着验证和约束的职责,不能仅凭模型已经学会相似行为就被取消。

另外,回到标题:AI 既当研究者,又当裁判,还能教会自己进步吗?

MASS 在两轮受控实验中给出了初步肯定的答案:多 Agent 团队形成的协作经验,可以被筛选为训练数据,并改变共享模型后续执行任务的方式。但这套机制能否持续产生正确而非只是更受偏好的经验,仍然是开放问题。

当 AI 开始从自己的研究过程中学习时,真正需要关注的,不只是它能生成多少新尝试,而是它凭什么决定哪些尝试值得成为下一轮的起点。

 

参考资料

1.
Lee, H., Xu, J., Seely, J., Lee, D., Sojoudi, S., Zaharia, M., & Tang, Y. (2026). Recursive Self-Improvement through Multi-Agent Self-Supervision arXiv:2610.12176. https://arxiv.org/abs/2610.12176
2.
Sakana AI. (2026). Multi-Agent Self-Supervisionhttps://pub.sakana.ai/mass/
3.
Sakana AI. (2026). Multi-Agent Self-Supervisionhttps://github.com/SakanaAI/mass
4.
Lee, H., Xu, J., Seely, J., Lee, D., Zaharia, M., & Tang, Y. (2026). Recursive Harness Self-Improvement arXiv:2607.15524. https://arxiv.org/abs/2607.15524
5.
Lee, H. (2026, June 28). Recursive Harness Self-Improvement: Reorganizing Multi-Agent Systemshttps://hyunin-lee.github.io/Recursive-Harness-Self-Improvement/

【声明】内容源于网络
0
0
Research AI+
我们是一个开放的 Global青年研究者社区,汇集了AI及 AI4Science/Engineering 领域的青年学者、科研工作者、产业科学家/工程师和专业人士,野生而充满活力。
内容 33
粉丝 0
Research AI+ 我们是一个开放的 Global青年研究者社区,汇集了AI及 AI4Science/Engineering 领域的青年学者、科研工作者、产业科学家/工程师和专业人士,野生而充满活力。
总阅读874
粉丝0
内容33