大数跨境

谷歌RRSI :正则化递归自改进 Agent Harness

谷歌RRSI :正则化递归自改进 Agent Harness 苏哲管理咨询
2026-11-08
2
导读:RRSI是 Google Research 提出的智能体框架自迭代方法,核心是冻结大模型权重,仅进化 Agent 外围 Harness,包含提示词、控制流、工具、记忆与子智能体等组件,解决传统 Har
编者摘要:RRSI(Regularized Recursive Self-Improvement of Agent Harnesses)是 Google Research 提出的智能体框架自迭代方法,核心是冻结大模型权重,仅进化 Agent 外围 Harness,包含提示词、控制流、工具、记忆与子智能体等组件,解决传统 Harness 演化极易在训练集过拟合、分布外性能下滑的痛点。它不限制可修改内容,而是对搜索轨迹施加正则约束。提案端采用退火编辑预算、历史防重复、停滞探索引导;筛选端设置多层门禁:Critic 前置拦截基准特化作弊、噪声阈值过滤随机波动、token 成本收益约束、无效组件剪枝与领域保护规则。框架基于 Git worktree 隔离候选版本,全修改记录可审计。同一迭代循环支持编码、文档工作、工程设计三类领域,只需替换领域适配器。实验显示,相比初始 Harness,演化后在演化集与多个 OOD 基准上均稳定提升,且推理开销更低;该框架与底层模型解耦,可对接不同大模型,但依赖评测反馈,适合需要跨任务泛化的智能体,而非单纯在固定 benchmark 刷分。

附录:RRSI 完整解读(Google Research,Regularized Recursive Self-Improvement of Agent Harnesses)

总结:底层大模型冻结,只自动进化 Agent 的外围运行框架(Harness);核心创新是给 Harness 进化加上双重正则,解决传统 Harness 自演化严重过拟合、分布外(OOD)收益消失的痛点arXiv论文:arXiv:2609.24972;项目页:regularized-rsi.com;开源仓库 Apache2.0

一、基础概念:什么是 HarnessHarness 

 Harness 包裹在冻结 LLM 之外的整套智能体系统:提示词、控制流、工具调用、上下文管理、记忆、子智能体、配置。模型权重不动,所有改动都在 Harness 层。传统 Harness 演化(RSI):在固定演化集(evolve set)上反复修改、刷分,很容易记住这一批任务的 “套路”,在演化集上分很高,换到新基准(OOD)收益直接归零甚至下跌,这就是它要解决的核心问题智源社区。RRSI 的设计哲学:不限制可以改什么(编辑空间完全开放),而是正则化搜索轨迹、约束 “怎么改、改完凭什么留下来”

二、两大正则模块:Proposal 提案端 + Selection 筛选端1)Proposal(proposer,提案生成)—— 约束搜索过程退火编辑预算  :限制单个候选版本一次能打包多少独立修改,随轮次退火,后期每次改动尽量稀疏、方便归因;避免一次性堆一大堆改动,分不清哪个改动有效全编辑历史感知:记录所有失败假设,不会重复生成已经被证伪的修改方案停滞检测 + 探索引导:如果搜索卡住,强制引导去修改从来没被尝试过的组件(新工具、新记忆、子智能体等),鼓励新颖结构2)Selection(selector,筛选评审)—— 准入门槛,不是涨分就录取这是 RRSI 最关键的多重门禁:Critic 前置筛查:评估之前先过滤,直接干掉专门针对基准作弊、benchmark 专属的硬编码(泄露、任务特化 trick)噪声调整下限(noise floor):预先标定评测本身的随机噪声带 ;分数提升落在噪声区间内的改动直接拒收,不把随机波动当成有效改进成本约束规则:新增的推理 token 开销,必须用可测量的分数增益来买单,抑制无节制膨胀上下文、增加工具组件剪枝 Prune:长期不再贡献收益的组件自动移除,保持 Harness 精简领域专属守卫(guards):领域硬约束,比如工程任务不能通过率暴跌、不能只提交空结果

整个闭环:每一轮生成 2 个候选 harness → 独立 git worktree 分支隔离 → critic 筛查 → 并行评估 → 按规则选出胜者,分支快进;历史全部可审计,每一条修改记录:组件、假设、分数变化、代价、裁决结果都留存智源社区

三、架构与代码映射(README 里的 Method to Code)Harness 

表格模块代码文件作用分数 & 代价聚合rrsi/evaluate.py加权奖励、并行评估退火预算rrsi/schedule.py  编辑预算编辑历史、停滞标记、探索rrsi/history.py历史记录、stall_flag、待尝试组件失败轨迹分析rrsi/analyst.py + digester.py从任务轨迹提炼失败假设提案生成、打标签(组件 / 假设 /diff)rrsi/propose.py生成改动 diff组件校验、新颖度计算rrsi/components.py区分工具 / 记忆 / 子智能体等类型Critic 泄漏筛查rrsi/critic.py正则 + LLM 复审,拦截基准特化修改选择逻辑、噪声带、成本规则rrsi/selection.py最终是否接受新版本噪声带标定rrsi/calibrate.py自评估标定  工程设计亮点:Git Worktree 版本管理每一个候选 harness 都在独立 git 分支 evolve/ 上;选中一个版本就向前推进分支,当前最优版本永远对应一个 commit,全链路可追溯、可回滚,审计友好。

四、三个开箱即用的 Domain 实例(同一套 RRSI 循环,只换适配器)

Coding 终端智能体:Terminal-Bench 2.1(evolve),OOD:SWE-bench Verified

基线 H0:74.2 → RRSI:80.2(+6.0);SWE-bench 82.0→83.8(+1.8)

Workspace 文档工作智能体 Harvey LAB:Harvey LAB(evolve),OOD:JobBench、GDPval、APEX-Agents

OOD 多个基准稳定正向提升,是 RRSI 最亮眼的一组结果

Engineering 工程设计智能体 EngDesign:EngDesign(evolve),OOD:Frontier-Eng

50.0→54.9(+4.9);Frontier-Eng 17.7→22.0(+4.3)

补充:不限于 Claude Opus 4.8;换成 Gemini 3.5 Flash 作为冻结 policy,同样的 RRSI 循环依然有效,证明框架和底层模型解耦。附带收益:最终产出的 Harness 相比无正则演化版本,policy token 消耗减少 30%,更省算力

五、如何新增一个 Domain

只需要实现 domains//adapter.py,导出 Domain 对象,实现:任务划分:evolve /heldout/smoke 任务 IDrun ()、score ():跑 harness、返回单任务奖励轨迹加载、渲染、smoke 冒烟校验critic 黑名单、组件信号、prompt、领域守卫规则配置:harness 目录、rrsi.json 超参、SKILL.md、PATTERNS.mdRRSI 核心完全不感知领域、benchmark 格式,领域能力全部隔离在 adapter 层。

六、Quickstart 流程要点

安装:Python ≥3.10,pip install -e ".[dev]";不同 domain 有独立 venv(coding 用 harbor、workspace/eng 用 agentic 环境)LLM 后端:默认 Vertex AI Claude Opus 4.8(proposer/analyst/critic/policy),Harvey 评判用 Gemini 3.5 Flash;支持任意 LiteLLM 模型串运行命令:

bash

冒烟测试python3 rrsi.py --domain  smoke

评估初始H0,生成基线

python3 rrsi.py --domain  baseline

启动迭代演化(可中断,touch STOP停止)

python3 rrsi.py --domain  run

重判/重评估历史轮次

python3 rrsi.py --domain  readjudicate --t

输出产物:runs// 下存放 frontier、edit history、原始 trajectory;超参在 domains//rrsi.json

七、局限与边界(非常重要)

只演化 Harness,不训练底层大模型权重,不是全栈自改进;是系统层面的 RSI,不是模型自训练正则是权衡:会压低演化集上的上限收益,换取 OOD 泛化能力;无正则版本经常在 evolve 集刷更高分,但 OOD 直接崩依赖评测反馈、有评测噪声假设;需要足够的评估预算,每一轮都要跑完整 evolve 集不是通用自主自我改进,是受控、可审计、有成本约束的 Harness 搜索框架

八、核心对比:

传统 Harness 进化 vs RRSI

传统:放开搜索 → 疯狂拟合 evolve 集、记住 benchmark trick → ID 涨分巨大、OOD 崩盘、token 越跑越多

RRSI:开放编辑空间 + 双向正则(提案端控预算、探索;筛选端卡噪声、成本、作弊、剪枝)→ 优先沉淀通用可复用机制,OOD 稳定正向提升、更省 token。


【声明】内容源于网络
0
0
苏哲管理咨询
为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
内容 2490
粉丝 0
苏哲管理咨询 为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
总阅读87.6k
粉丝0
内容2.5k