附录:RRSI 完整解读(Google Research,Regularized Recursive Self-Improvement of Agent Harnesses)
总结:底层大模型冻结,只自动进化 Agent 的外围运行框架(Harness);核心创新是给 Harness 进化加上双重正则,解决传统 Harness 自演化严重过拟合、分布外(OOD)收益消失的痛点arXiv论文:arXiv:2609.24972;项目页:regularized-rsi.com;开源仓库 Apache2.0
一、基础概念:什么是 HarnessHarness
Harness 包裹在冻结 LLM 之外的整套智能体系统:提示词、控制流、工具调用、上下文管理、记忆、子智能体、配置。模型权重不动,所有改动都在 Harness 层。传统 Harness 演化(RSI):在固定演化集(evolve set)上反复修改、刷分,很容易记住这一批任务的 “套路”,在演化集上分很高,换到新基准(OOD)收益直接归零甚至下跌,这就是它要解决的核心问题智源社区。RRSI 的设计哲学:不限制可以改什么(编辑空间完全开放),而是正则化搜索轨迹、约束 “怎么改、改完凭什么留下来”
二、两大正则模块:Proposal 提案端 + Selection 筛选端1)Proposal(proposer,提案生成)—— 约束搜索过程退火编辑预算
整个闭环:每一轮生成 2 个候选 harness → 独立 git worktree 分支隔离 → critic 筛查 → 并行评估 → 按规则选出胜者,分支快进;历史全部可审计,每一条修改记录:组件、假设、分数变化、代价、裁决结果都留存智源社区
三、架构与代码映射(README 里的 Method to Code)Harness
表格模块代码文件作用分数 & 代价聚合rrsi/evaluate.py加权奖励、并行评估退火预算rrsi/schedule.py
四、三个开箱即用的 Domain 实例(同一套 RRSI 循环,只换适配器)
Coding 终端智能体:Terminal-Bench 2.1(evolve),OOD:SWE-bench Verified
基线 H0:74.2 → RRSI:80.2(+6.0);SWE-bench 82.0→83.8(+1.8)
Workspace 文档工作智能体 Harvey LAB:Harvey LAB(evolve),OOD:JobBench、GDPval、APEX-Agents
OOD 多个基准稳定正向提升,是 RRSI 最亮眼的一组结果
Engineering 工程设计智能体 EngDesign:EngDesign(evolve),OOD:Frontier-Eng
50.0→54.9(+4.9);Frontier-Eng 17.7→22.0(+4.3)
补充:不限于 Claude Opus 4.8;换成 Gemini 3.5 Flash 作为冻结 policy,同样的 RRSI 循环依然有效,证明框架和底层模型解耦。附带收益:最终产出的 Harness 相比无正则演化版本,policy token 消耗减少 30%,更省算力
五、如何新增一个 Domain
只需要实现 domains//adapter.py,导出 Domain 对象,实现:任务划分:evolve /heldout/smoke 任务 IDrun ()、score ():跑 harness、返回单任务奖励轨迹加载、渲染、smoke 冒烟校验critic 黑名单、组件信号、prompt、领域守卫规则配置:harness 目录、rrsi.json 超参、SKILL.md、PATTERNS.mdRRSI 核心完全不感知领域、benchmark 格式,领域能力全部隔离在 adapter 层。
六、Quickstart 流程要点
安装:Python ≥3.10,pip install -e ".[dev]";不同 domain 有独立 venv(coding 用 harbor、workspace/eng 用 agentic 环境)LLM 后端:默认 Vertex AI Claude Opus 4.8(proposer/analyst/critic/policy),Harvey 评判用 Gemini 3.5 Flash;支持任意 LiteLLM 模型串运行命令:
bash
冒烟测试python3 rrsi.py --domain smoke
评估初始H0,生成基线
python3 rrsi.py --domain baseline
启动迭代演化(可中断,touch STOP停止)
python3 rrsi.py --domain run
重判/重评估历史轮次
python3 rrsi.py --domain readjudicate --t
输出产物:runs// 下存放 frontier、edit history、原始 trajectory;超参在 domains//rrsi.json
七、局限与边界(非常重要)
只演化 Harness,不训练底层大模型权重,不是全栈自改进;是系统层面的 RSI,不是模型自训练正则是权衡:会压低演化集上的上限收益,换取 OOD 泛化能力;无正则版本经常在 evolve 集刷更高分,但 OOD 直接崩依赖评测反馈、有评测噪声假设;需要足够的评估预算,每一轮都要跑完整 evolve 集不是通用自主自我改进,是受控、可审计、有成本约束的 Harness 搜索框架
八、核心对比:
传统 Harness 进化 vs RRSI
传统:放开搜索 → 疯狂拟合 evolve 集、记住 benchmark trick → ID 涨分巨大、OOD 崩盘、token 越跑越多
RRSI:开放编辑空间 + 双向正则(提案端控预算、探索;筛选端卡噪声、成本、作弊、剪枝)→ 优先沉淀通用可复用机制,OOD 稳定正向提升、更省 token。

