编者摘要：GitSwarm 由 Meta 等机构提出，提出复合推理新范式：让 LLM 推理算力跨独立智能体回合持续积累，保存部分解、失败实验、中间证据，避免重复重新推导。系统基于可分支 Git 仓库作为持久共享记忆，同质异步智能体无中央规划者，自主完成探索、验证、修改、整合工作。每个提交除 Git 物理父节点外，强制声明informed_by=跨分支语义依赖，支持借鉴其他分支成果；智能体有提交贡献、提名候选、弃权三种行为，依靠提名投票完成去中心化结果筛选。
在 IMO 数学证明基准上 GPT‑5.5 可一次性解决全部 30 道难题；ProgramBench 程序重构任务达 79.4% 得分，远超单智能体基线。在 RMT、Looped Transformer、NanoChat 三项神经网络架构研究中，系统能够复用失败实验思路，跨分支融合创新，改进原始模型。数据表明绝大多数历史贡献会被后续复用；编程任务偏向融合历史产出最终解，数学证明任务侧重利用历史做候选评估。该工作存在无法证明性能提升的因果关系、仓库膨胀带来算力开销等局限，未来目标训练智能体奖励长期集体贡献而非仅单任务结果。
10 个关键问答 Q&A
- Q：什么是复合推理 (compounding inference)？
A：一种推理范式，推理产生的中间成果（局部解、失败实验、证据）持久保存，跨多个智能体回合被复用、修改、组合，不用每次从头重新计算。 - Q：GitSwarm 为什么选用 Git 仓库作为存储？
A：天然支持持久化、多分支并行开发、原子提交；可以同时记录代码状态，再额外补充 informed_by记录跨分支逻辑依赖。 - Q：
informed_by=语义依赖和 Git 父提交区别是什么？A：Git 父是 agent 工作开始的物理代码状态； informed_by强制记录本次工作借鉴的所有提交，包含其他分支，实现跨分支思想复用，不需要合并分支。 - Q：GitSwarm 有没有中央调度 / 总规划智能体？
A：没有。所有 agent 是同质，自主决定做什么；执行框架只负责调度并发、环境隔离、校验提交，不分配任务。 - Q：Worker 智能体的 3 种结局动作是什么？
A：①贡献：发布验证后的原子 commit；②提名：给已有候选投支持票，不修改代码；③弃权：无有效工作就终止，不消耗预算，但消耗推理 token。 - Q：GitSwarm 如何选出最终答案？
A：去中心化读出。预算耗尽，选择获得最多提名的 commit，哈希字典序处理平局。提名记录独立，不会修改解决方案的依赖谱系。 - Q：ProgramBench 和 IMO 证明任务行为有什么差异？
A：程序重构：大量历史贡献融合进最终解决方案；数学证明：历史更多用来对比评估候选，最终证明只用到小部分贡献图。 - Q：GitSwarm 科研任务的重要发现是什么？
A：早期失败的实验不代表完全无用；很多最终有效的架构，是很久之后的 agent 重新挖掘当初失败思路改进而来。 - Q：系统的主要局限性是什么？
A：只能观测到 agent 读取、引用历史，但无法严格证明复用历史就是性能提升的原因；仓库不断变大，读取历史带来额外 token 算力开销。 - Q：论文提出的未来研究方向是什么？
A：在 GitSwarm 环境使用强化学习训练 agent；不只奖励单次任务成功，奖励产出对后续工作有价值的贡献，训练 AI 做集体科学发现。
附录 Meta 超级智能实验室 《GitSwarm：去中心化复合推理》解读
论文来源：arXiv:2610.04862v1 [cs.AI]，2026 年 10 月 4 日。作者来自 Meta Superintelligence Labs、Mila、蒙特利尔大学、哥伦比亚大学、卡内基梅隆大学和普林斯顿大学（通讯作者 Vedant Shah、Anirudh Goyal）。
一、主要思想：复合推理（Compounding Inference）
论文提出一个新范式 ——复合推理。现有推理时的算力扩展（重复采样、更长推理轨迹、搜索、多智能体协作）关注的是 "额外算力怎么花"；但长周期问题求解和科学研究面临的互补挑战是：有用的计算必须能跨多次尝试持续积累。
关键洞察：
-
中间工作的价值往往在产出时未知（失败的实验可能指向新方向、部分解可能成为后续的关键组件、竞争方案只有组合起来才有用）； -
如果这些工作随回合结束而消失，后续计算就要重新发现； -
因此需要把推理时计算组织成持久、可演进、可复用的工作体，而不是孤立的单条轨迹。
二、GitSwarm 系统设计
GitSwarm 用共享、可分支的 Git 仓库作为结构化持久记忆，实现复合推理。
三大设计原则：
- 持久性
中间发现能比其作者存活更久； - 可分支性
竞争方案可并行发展，不必过早绑定单一解； - 归因性
后续工作者能识别贡献间依赖，包括跨分支依赖。
关键机制：
- 同质、异步的工作者
各自独立检查仓库、决定下一步做什么（探索、实验、验证、精炼或整合），没有中央规划者分配任务或角色；一个执行框架（harness）只管理并发、隔离、验证和发布。 - 共享计算图
每个贡献是原子提交，有物理父提交 p_i（工作起点状态）；另有强制的informed_by=字段声明语义来源U_i，从而允许 "沿一条分支发展、同时借用其他分支的发现"，无需 merge。 - 工作者三选一动作
① 提交（发布经验证的原子提交）；② 提名（为现有候选发布带理由的提名记录）；③ 弃权（发现冗余或无用时不发布，弃权不消耗预算但耗推理成本）。 - 实时群体状态
仪表盘（预算、在飞工作者、提名统计）和 in-flight 活动日志（ gs_inflight，公布工作范围 / 进展，帮助避免重复劳动）。 - 去中心化读出
预算耗尽后，由提名票数最多的候选胜出（plurality + 确定性破平），不设特权终审者；提名记录独立于计算图，不改变最终解的血统。
三、实验结果（关键数据）
① 长周期问题求解（固定答案基准）
- IMOPProofBench-Advanced
（30 道数学证明题）：用 GPT-5.5-High 工作者，20 名工作者解出 28 题、40 和 80 预算时全部 30 题一次运行解出（略低于 100 万输出 token）；Gemini-3.1-Pro 下解出数从预算 20 时的 23.3 道升至 160 时的 29.0 道（曲线非单调，80 处局部回落）。 - ProgramBench
（程序重构，50 道固定子集）：Codex 工作者从 100 人时的 73.1% 提升至 500 人时的 79.4%；继续提示的单个 Codex 基线仅 63.1–65.1%。显著优于最强报告基线 65.1%。
② 持续实验研究（开放式神经架构研究）
- Residual Matrix Transformer (RMT)
两个群体智能（72 小时、8 GPU H200）达到 2.890 和 2.894 的留出损失，优于参考 3.147（同 1.3B token 预算）。6 项改动中 4 项源自其他分支，其中一个从失败的 "用上一 token 记忆" 尝试开始，49.5 小时后被另一工作者扩展成时序混合器进入最终模型。 - Looped Transformer (Huginn)
26 小时后受保护开发损失 3.187，优于参考 3.265、直连 GPT 3.274、Codex 3.479。获胜的 FFN 适配器早期曾被否决（128 样本子集误判），后被 512 样本复核翻案。 - NanoChat
20 工作者群体在 24 小时内将验证 BPB 从 0.993 降到 0.905（通过 1465 次成功评估），胜者结合多分支改动。
③ 计算确实在积累（复用证据）
-
ProgramBench 中 94.7%的贡献被后续构建引用；选中解的传递血统覆盖贡献图的 81.6–92.6%（主要通过跨分支依赖连接，Git 父血统只占约 1/4）。 -
IMOProofBench 中选中证明只覆盖 21.3–33.0%（证明任务更多用于 "比较和挑选候选"）。 -
声明复用率：ProgramBench 99.9%、IMOProofBench 96.2% 的合格回合引用了早期贡献；工件消耗率 79.9–82.5%；必需推理 / 评估工件在约 98–99% 回合被访问。
四、讨论与局限
- 因果归因不足
依赖与执行轨迹分析只证明 "工作者检查、复用、积累" 了先前工作，不能隔离由此带来的性能增益。 - 评估范围受限
ProgramBench 只测 200 题中的 50 题子集；IMOProofBench 满分是单次运行；研究任务间训练预算、checkpoint、GPU 分配存在差异。 - 计算开销
仓库增长导致输入 token 随检查成本上升；冗余 / 失败回合消耗算力；GPU 研究有资源争用和调度开销。
五、结论与展望
GitSwarm 证明推理时计算可以跨原本独立的回合积累，形成可复用的工作体，无需中央智能规划者。作者提出自然下一步：在该环境内用强化学习训练智能体，不只奖励单回合结果，而是奖励 "其价值在后继工作中显现" 的贡献，让智能体学会推进集体发现过程。
附加说明：论文还包含相关工作和受控合成实验（隐藏规则书→持久性、隐藏迷宫→可分支性、撤回证据→归因性），均验证了对应底层属性的操作收益。实验全程隔离无外网，强调 GitSwarm 定位为人工监督的研究工具