梦晨 发自 凹非寺
量子位 | 公众号 QbitAI
清华唐杰团队在递归自我改进(RSI)领域取得重要突破,提出全新的无标签自进化框架HarnessPro。该框架首次将帕累托优化引入Agent底座进化,成功打破了“Agent越进化越烧钱”的行业痛点。
在不接触任何官方测试用例和标准答案的前提下,HarnessPro不仅提升了AI智能体的任务通过率,还显著降低了Token执行成本和运行延迟。在SWE-Bench Pro基准测试中,其性能实现反超,并在保持高性能的同时,将单任务平均花费降低53.0%。
HarnessPro能够一键生成省钱版(Lite)、均衡版(Medium)和性能版(Heavy)三套方案,满足不同场景下的部署需求。
多智能体协同进化机制
针对以往RSI方法通过增加探索范围和验证复杂度来换取高分,导致Token消耗和延迟激增的问题,唐杰团队设计了多智能体协同进化的HarnessPro框架。该框架包含四个核心Agent,形成“诊断-规划-编辑-测试”的闭环流水线:
轨迹诊断师:精准定位浪费
为了确保诊断准确性,每个候选Harness在训练集上独立运行3次。轨迹诊断师Agent分析完整执行轨迹,不仅识别任务失败原因,还重点揪出浪费Token的操作。例如,在某案例中,诊断师发现AI在无关配置文件上反复倾倒日志,导致单次任务消耗251万个输入Token。
进化规划师与代码编辑器:多样化方案生成
进化规划师基于诊断报告和成本指标,利用Diff工具对比代码差异,为每个候选者生成成本优先、平衡模式和性能优先三种设计方案。随后,代码编辑器在独立工作空间中修改底层代码和配置,并自动提交至Git以便追溯。
测试合成器:提升评估可靠性
针对无标签环境下LLM裁判存在“盲目乐观”、失败案例召回率低(仅41.7%)的问题,HarnessPro引入测试合成器Agent。该Agent根据任务描述编写固定单元测试,将失败案例召回率提升至83.3%,大幅提高了评估的准确性。
帕累托筛选:多级方案择优
系统淘汰性能低于底线或处于帕累托劣势的方案后,利用归一化加权平方距离准则,选出符合Lite、Medium、Heavy三个档位的代表进入下一轮迭代。
自主进化出的降本策略
源码分析显示,HarnessPro并非简单削减上下文或降低思考等级,而是进化出了一套组合策略:
动态路由与运行时控制
动态路由:根据任务描述从五档配置中匹配最合适的推理强度和工具调用预算。
运行时钩子:通过hook.py限制工具调用次数。例如在Terminal-Bench 2中,达到特定次数时分别触发“经济阶段”提醒、“收敛阶段”警告,直至最终拦截,防止无限探索。这些提醒被巧妙拼接在工具返回结果末尾,以保护Prompt前缀缓存。
日志折叠机制
针对冗长的命令行日志,系统引入类似RTK的工具输出压缩机制,自动折叠连续重复报错并截断超长输出,仅保留关键信息。
性能与成本双重突破
在Terminal-Bench 2、SWE-Bench Pro和ProgramBench三大基准测试中,HarnessPro均表现优异。测试采用GPT-5.5搭配Codex以及GLM-5.2搭配Claude Code作为底座模型。
GPT-5.5 + Codex组合:
此前的SOTA方法RHO在SWE-Bench Pro上虽提升分数,但成本暴涨42.6%。相比之下,HarnessPro-Heavy在全部三个基准上获得最高通过率,且成本更低。在Terminal-Bench 2上,Heavy模式通过率达80.8%,比RHO高出4.5个百分点,单任务成本降低33.9%。
HarnessPro-Medium:在SWE-Bench Pro上通过率为79.0%,接近RHO的80.0%,但单任务成本从2.68美元降至1.26美元,降幅达53.0%。
HarnessPro-Lite:在三大基准上通过率全线超越原始基线,同时节省17.7%–57.4%的成本。
GLM-5.2 + Claude Code组合:同样复现了上述优势。此外,Heavy模式在SWE-Bench Pro上的平均任务耗时从520秒缩减至412秒。
消融实验证实,单独应用动态路由或预算钩子虽能省钱但会牺牲通过率,唯有通过多智能体多轮递归进化产生的协同效应,才能真正推动“性能-成本”帕累托前沿。
核心团队与开源信息
论文共同通讯作者为清华大学计算机系教授、智谱AI首席科学家唐杰,以及清华大学自动化系副教授赵虹。共同第一作者盘卓实和冯志远均来自清华大学。盘卓实的另一项研究ContextPilot已被EMNLP 2026接收。
目前,HarnessPro的相关代码与进化配置已开源。
论文地址:https://arxiv.org/abs/2610.26770
GitHub:https://github.com/pzs19/HarnessPro

