模型研究告别人工调参,文心迈入 RSI 阶段
百度正式推出自动研究系统 ERNIE Evolve。该系统赋予 AI 自主编程能力,能够独立完成选题、代码修改、实验运行及自我升级全流程。
继文心 5.5 Flash Base 开源后,ERNIE Evolve 已应用于即将发布的文心 5.5 Flash 推理优化中,涵盖昆仑芯 P800 低时延场景性能优化、确定性推理吞吐优化及极致解码速度优化等核心环节。
刷新行业 SOTA:双层循环驱动模型研发
递归自我改进(Recursive Self-Improvement,简称 RSI)是全球 AI 领域的前沿方向,旨在让 AI 参与自身研发,形成能力优化的闭环。ERNIE Evolve 在此领域取得突破,能够围绕既定目标与约束,自主提出研究方向、开展实验、验证结果并沉淀经验。
在 NanoChat AutoResearch 和 NanoGPT Speedrun 两项任务的三个评测指标上,ERNIE Evolve 均取得了目前公开验证的 SOTA(State of the Art)表现。
ERNIE Evolve 基准测试表现
多智能体协作的双层循环架构
ERNIE Evolve 采用双层循环机制组织研究:
- 外层循环:结合历史实验结果与已有知识,提出新研究方向并安排多条研究线并行探索;
- 内层循环:针对具体方向持续进行代码修改、效果评测和经验沉淀。
系统内部由多个智能体分工协作:Director 负责选择研究方向,Selector 确定每轮实验目标与代码起点,Executor 负责修改代码生成新版本。每轮实验后,独立评测程序 Evaluator 评估性能,Reviewer 检查是否偏离目标或存在漏洞。只有通过严格评测与复核的改进才会被保留,所有代码改动、结果及经验均会被记录以供后续参考。
ERNIE Evolve 架构
实战验证:全面赋能文心 5.5 Flash 推理优化
ERNIE Evolve 已接入文心 5.5 Flash 真实推理优化流程,并在生产环境中取得显著成效。所有改动均通过文心团队压测与正确性检查,完成生产级验证。
1. 昆仑芯 P800 低时延场景优化
ERNIE Evolve 历时约 168 小时,经过 4 轮方向探索,先后接入原生融合算子并启用投机解码,进一步优化主机调度同步机制及通信路径。最终,最优版本的生成速度提升至基线的 623.6%。
2. 确定性推理吞吐优化
系统在 3 天内围绕确定性采样、开关及算子并行策略开展 3 个方向探索。在严格保持确定性的前提下,最终将吞吐提升至基线的 133.7%,平均每 token 生成时间缩短 26%,首 token 延迟降低 12%。
3. 极致解码速度优化
累计探索 7 个研究方向,其中 3 个方向通过对 MoE 与 mHC 算子、矩阵乘与调度策略,以及草稿模型关键路径的优化带来有效提升。最终实现推理性能累计提升至基线的 114.9%,且精度与基线保持一致。
左右滑动查看更多
推理基础设施优化是 RSI 在真实研发中的首个落点。未来,这一研究闭环将逐步延伸至训练系统优化、模型能力研究和评测体系迭代,推动 AI 自主发现问题、提出假设、设计实验并验证结果。整个扩展过程将在明确的目标、权限和资源边界内进行,并接受持续的安全评估与人工监督。
技术博客:
https://ernie.baidu.com/zh/research/posts/ernie-evolve/

