大数跨境

《多智能体优势的幻象:自动多智能体系统的系统性评估》

《多智能体优势的幻象:自动多智能体系统的系统性评估》 苏哲管理咨询
2026-11-08
0
导读:Slaesforce这篇论文对当下流行的自动 LLM 多智能体系统 (MAS) 提出批判性评估。过往研究普遍认为多智能体凭借角色分工、任务分解、并行推理会优于单智能体,但大多没有控制推理成本。。

编者摘要:Slaesforce这篇论文对当下流行的自动 LLM 多智能体系统 (MAS) 提出批判性评估。过往研究普遍认为多智能体凭借角色分工、任务分解、并行推理会优于单智能体,但大多没有控制推理成本。本文选取 6 个主流自动 MAS 框架,对比强单智能体基线 CoT‑SC,覆盖数学、QA、代码、深度检索多类任务。实验表明:多数场景自动 MAS 性能不优于 CoT‑SC,推理成本却经常高达后者 10 倍。即便使用专门为多智能体设计的合成数据集 SMFR,自动 MAS 依旧性价比低下;只有人工精心设计的 Expert‑MAS 才能发挥多智能体真实增益。

架构拆解发现自动 MAS 普遍存在三类缺陷:角色冗余、功能坍缩退化为集成采样、架构臃肿。很多自动搜索框架最终只是重新复现 CoT‑SC 逻辑。多智能体取得收益存在能力门槛,基座大模型本身推理能力必须足够强。论文指出:不能迷信自动多智能体架构搜索;多智能体需要可验证任务分解、角色对输出具备真实因果作用,否则只会造成高额算力浪费。

10 个关键问题Q&A

  1. Q:论文核心结论是什么?
    A:当前自动生成的多智能体系统没有传说中的巨大优势,经常花费数倍算力,但性能打不过简单单智能体 CoT‑SC;只有人工精心设计的 MAS 才能真正获益。
  2. Q:多智能体真的完全没用吗?
    A:不是。专家手工设计的 Expert‑MAS 在 SMFR 数据集取得巨大提升;多智能体范式本身可行,问题出在 “自动生成 MAS 框架”。
  3. Q:为什么过去很多论文说多智能体效果更好?
    A:大多没有控制算力开销;多智能体调用更多 LLM,靠增加计算量换来提升,不是协同架构带来的收益。
  4. Q:什么是 “功能坍缩”?
    A:复杂多智能体工作流实际运行退化成等价 CoT‑SC 多次采样投票,智能体之间没有有效分工协作。
  5. Q:什么是 “昂贵旁观者”?
    A:部分子智能体完整执行推理、消耗 token,但输出几乎不会影响最终答案,纯粹消耗算力。
  6. Q:SMFR 数据集作用是什么?
    A:专门构造天然适合多智能体的任务(可并行子任务、上下文隔离),排除 “任务本身不适合 MAS” 这个借口。
  7. Q:弱模型能不能靠多智能体追上强模型?
    A:不能,实验证明自动 MAS 无法跨越模型代际差距,强单智能体(GPT‑5 CoT‑SC)优于复杂的 GPT‑4o 多智能体。
  8. Q:自动 MAS 框架常见有哪些失效模式?
    A:角色冗余;验证器首因位置偏置;架构搜索得到随机 “幸运解”;协调器学习到静态固定策略,不随任务难度调整。
  9. Q:多智能体发挥价值的前提条件?
    A:①基座模型推理能力达到最低门槛;②显式可验证任务分解;③角色对最终输出具备真实因果影响;④合理并行与上下文隔离。
  10. Q:对后续研究与工程落地有什么建议?
    A:评估 MAS 必须同时看准确率 + 推理成本;少用黑盒自动架构搜索;优先确定性调度;不能只看准确率指标。
附录 多智能体优势的幻象

arXiv:2606.13003v2 [cs.AI] 2026‑06‑13

摘要

主流观点认为多智能体系统(MAS)优于单智能体系统(SAS),支撑该观点的论据包括上下文保护、并行处理以及分布式决策等优势。然而,这一论断的实证依据大多来自与单智能体基线的对比,而所用基准测试偏向独立推理任务,无法充分体现多智能体系统的上述优势。本文聚焦于自动生成式多智能体系统(这类系统相比人工设计版本具备更强泛化能力),将其与性能强劲的单智能体基线 ——带自一致性的思维链(CoT‑SC)开展严谨、系统化对比评估。

在传统推理数据集,以及包含交互式多步骤工作流的任务(例如 BrowseComp‑Plus)上,实验表明:自动多智能体系统的性能持续弱于 CoT‑SC,但其推理开销最高可达后者的 10 倍。为排除任务本身结构带来的干扰,本文构建一套面向多智能体的诊断合成数据集,数据集内置显式任务分解、上下文隔离、可并行化的任务条件。实验发现,在该数据集上,专家手工搭建的多智能体系统,无论绝对性能还是成本效率,均显著优于自动生成的多智能体架构。

这说明现有评测框架没有考虑计算成本增加带来的边际收益,掩盖了复杂多智能体系统存在的关键架构缺陷与低效问题。关键的是,对自动生成的多智能体架构进行系统性拆解后发现:当前自动设计范式会造成架构臃肿,只追求表面复杂度,却无法转化为实际能力收益,暴露出系统设计与多智能体核心原则之间存在根本性错位。

数据集与代码:https://multi‑agent‑eval.github.io/

1 引言

尽管大语言模型(LLM)能力已经取得长足进步,但仅靠单智能体系统(SAS),在 BrowseComp‑Plus [7]、《人类终极考试》(HLE)[28] 这类复杂推理任务上依旧存在短板。于是多智能体系统(MAS)越来越多地被当作解决方案 [17]。人们的预设是:多个大模型智能体协同,依托任务分解、并行执行、上下文隔离、角色专业化、辩论、结果调和、交叉验证等机制,依靠集体决策超越单智能体系统 [9,12,34,33,44,10]。

这一设想推动了自动多智能体系统的快速发展:依靠自动协调层,动态完成任务拆解、配置智能体角色、路由信息、管控执行流程 [19,13,42,22,40,18]。与之相对的是人工设计多智能体系统,需要大量人工投入,往往很难泛化到全新任务。自动多智能体系统也可以采用去中心化团队模式,智能体之间更独立地完成交互与行动 [3,27,26]。虽然去中心化系统具备不一样的扩展特性,但中心化协调范式是高精度任务执行的主流方案,因此本文评估以中心化自动多智能体为对象。

虽然自动多智能体广受关注,但它实际能兑现多少优势尚不明确。绝大多数评测会将多智能体和思维链 CoT [36]、自一致性思维链 CoT‑SC [35]、自我迭代优化 [25] 等单智能体基线做对比;在数学推理、问答、代码生成任务上,不少工作报告多智能体准确率得到提升 [6,44,19,13,23,42,40]。但这类对比几乎不会控制推理开销,例如大模型调用次数、总花费、重试次数、采样路径数量。因此,多智能体看似更强,有可能只是测试阶段计算量更大,而非协同机制本身带来增益 [16,1]。

近期更多研究对多智能体的鲁棒性提出质疑:面对高性能单智能体基线,多智能体性能表现不稳定 [10];辩论、验证机制本身也存在不稳定性 [37,32]。部分控制变量实验表明,多智能体能否取得收益取决于任务结构与成本 [20,18]。但现有评测大多只看最终准确率,并不检验多智能体的核心机制 —— 任务分解、并行化、上下文隔离 —— 是否真的在自动工作流中生效。

此外,Anthropic [2] 提出:只有当任务能明显受益于上下文隔离(上下文保护、并行运算、领域 / 系统提示词 / 工具集层面的角色专业化),才适合搭建多智能体系统。虽然 MASBench [18] 这类新数据集提供了可控的多智能体分析框架,但大部分评测依旧使用原本为单智能体设计的任务,无法把子任务结构、并行执行、角色专业化这些属性单独剥离出来做检验。

已有研究 [20] 指出,GSM8K [8]、MMLU [11] 这类常用推理、问答基准并不适合评估智能体能力,它们面向静态推理;与之相对,BrowseComp‑Plus [7] 这类基准需要动态、递进式的信息搜集与推理。针对当前多智能体评测体系存在的错位,本文围绕三个核心问题开展研究:

  1. 对比性能
    自动多智能体系统相比高性能单智能体基线,是否可以稳定取得具备成本效益的性能提升?
  2. 任务适配性隔离
    当任务明确具备多智能体执行的结构条件时,自动协调器能否把这些条件转化成实际性能收益?
  3. 架构一致性
    自动系统是否真正实现多智能体的核心原则:并行化、角色专业化、上下文保护?

本文选用多款不同规模、不同系列的模型(GPT‑4o、GPT‑5、GPT‑OSS‑120B、Gemini‑2.5‑Pro),在标准推理任务,以及 GPQA‑Diamond、HLE‑Maths、SWEBench Lite、BrowseComp‑Plus 这类复杂智能体场景下,对自动多智能体开展系统性评测,并和 CoT‑SC 对比。结果发现:自动多智能体并不能稳定优于单智能体;很多场景下 CoT‑SC 可以持平甚至超过多智能体,同时成本更低。

为排除 “任务本身不适合多智能体” 这一干扰因素,本文提出SMFR(合成多跳金融推理)诊断数据集。该数据集具备显式子任务结构、高上下文负载,天然适合并行计算与角色专业化。即便在这样的任务上,CoT‑SC 依旧稳定胜过自动多智能体,说明多智能体表现差并不是任务适配性造成。本文同时搭建一套专家手工设计的多智能体基线,采用显式任务分解、角色专业化、确定性调度,这套基线取得了非常好的效果,证明只要架构设计得当,多智能体范式本身是有效的。

进一步,本文拆解自动生成多智能体架构,检验其和多智能体核心原则的匹配程度。对工作流的拆解发现架构臃肿,核心智能体功能系统性失效: (1) 分配给智能体的角色经常功能高度冗余; (2) 大量自动多智能体系统实际上功能坍缩,退化成基础 CoT‑SC; (3) 这种角色失效现象在不同任务中普遍存在,说明自适应任务分解存在本质缺陷。

综上,自动多智能体所谓的性能优势,往往只是表面复杂度带来的假象,而非架构协同产生的增益。本文主要贡献:

  1. 重新审视多智能体优势
    经过系统化基准测试,证明在考虑成本效率、采用强基线的条件下,自动多智能体几乎无法超越单智能体基线。
  2. SMFR 诊断基准集
    提出合成多跳金融推理数据集 SMFR,具备显式子任务结构;同时提供人工专家构建的 Expert‑MAS,给出多智能体可达到的经验性能上界。
  3. 架构拆解分析
    系统分析自动生成的多智能体工作流,揭示功能坍缩现象:复杂的自动设计在实际运行中退化为简单单智能体执行。

2 相关工作

“智能体特性” 是一个连续谱系 [16]。本文按照推理的执行主体区分单智能体系统(SAS)与多智能体系统(MAS):

  • 单智能体系统 SAS
    由单个大模型实例驱动的顺序控制循环,包含工具调用 [39]、自我反思 [24]、思维链推理 CoT。
  • 多智能体系统 MAS
    多个由大模型驱动的智能体,按照结构化协议交互 [38],依靠集体行为完成推理。

本文评估对象为中心化自动多智能体系统:由协调器动态管理角色与信息流,代表智能体扩展方向的前沿水平。

推理时自动多智能体

这类多智能体针对每一条查询动态调整智能体配置。DyLAN [23] 依靠重要性打分实时挑选子智能体;MAS‑Zero [19] 实现零样本协调,无需外部验证。

经过优化的自动多智能体

为降低推理阶段开销,这类框架在部署前搜索、训练得到最优架构。ADAS [14]、AFlow [42] 把多智能体架构设计当作代码生成任务,用蒙特卡洛树搜索(MCTS)在验证集上寻找效果好的工作流;ToolOrchestra [30]、MAS‑Orchestra [18] 借助强化学习训练中心化协调器;MaAS [40] 属于中间路线,算子分布预先完成优化,但推理阶段会针对查询采样对应架构。

本文同时评测两类系统,研究动态灵活或者预优化的工作流,是否值得付出高额的单查询计算开销,同时避免架构臃肿、功能坍缩。

多智能体失效问题的诊断研究

已有工作 [5] 聚焦执行层面故障,例如通信失败;本文研究自动多智能体搜索机制带来的结构性低效:角色冗余、功能坍缩。文献 [16,20] 质疑现有基准是否适合多智能体,本文提出 SMFR 作为诊断工具,专门隔离任务适配性的影响。针对文献 [31] 提出的 “计算量混淆性能增益” 问题,本文证明:即便 token 预算显著更低,CoT‑SC 依旧优于多智能体。说明现有自动架构存在架构臃肿,高额计算开销无法转化为推理收益。

3 重新审视多智能体系统的优势

为研究自动多智能体是否可以稳定、低成本地取得优于强单智能体基线的效果,本文开展大规模对比实验,跨多款大模型,对比单 / 多智能体的性能与开销,检验假设:多智能体相比同等预算下简单集成采样,是更优的扩展路径。

3.1 实验设置

基准数据集

数学推理、问答、代码生成是多智能体评测的主流领域。本文选用最新、难度最高的任务变体,复现已报道的多智能体性能提升,在严苛条件下检验其鲁棒性:

  1. 数学推理
    HLE‑Maths[28]
  2. 问答
    GPQA‑Diamond[29]
  3. 代码生成
    SWE‑Bench Lite[15]

以上基准偏向静态推理。遵照文献 [20] 建议,加入BrowseComp‑Plus[7],专门用来测试递进式信息搜集、动态推理。

自动多智能体基线

选取 6 个代表性前沿智能体协调框架,覆盖推理时动态生成、基于训练 / 验证集优化两类方案。完整配置见附录 B。

  1. DyLAN[23]
    依靠大模型打分迭代挑选 Top‑K 专业化子智能体,动态调整智能体团队构成。
  2. MAS‑Zero[19]
    零样本框架,元智能体基于 CoT、CoT‑SC、Reflexion、Debate 四类推理模块迭代优化多智能体调度;验证器评估全部候选路径,选出最终输出。
  3. ADAS[14]
    元智能体生成协调逻辑代码,迭代发现智能体架构;验证集上的性能会存入归档,指导后续迭代。
  4. AFlow[42]
    把工作流设计视作代码搜索,用蒙特卡洛树搜索配合大模型优化器,基于验证反馈迭代候选方案。
  5. MaAS[41]
    控制器从概率超网络中采样适配查询的工作流,顺序执行算子直到满足阈值;支持动态提前终止,依靠环境反馈得到的文本梯度完成优化。
  6. MAS‑Orchestra[18]
    强化学习训练得到协调器,管理子智能体任务委派;“多智能体程度 DoM” 控制系统复杂度,协调器从候选池选取 CoT、辩论等子智能体配置。

基座大模型

为保证跨范式泛化性,选取不同类型的模型:GPT‑4o、GPT‑5、GPT‑OSS‑120B、Gemini‑2.5‑Pro,覆盖闭源前沿模型、不同代际、开源模型。受资源、API 成本限制,仅选取代表性模型,但足以判断架构缺陷是否跨模型家族普遍存在。

评测协议

全部结果取 3 次独立运行均值;Gemini‑2.5‑Pro 成本过高,仅运行 1 次。CoT‑SC 基线在全部数据集、全部基座模型上均采用5 次采样 + 多数投票。测试集划分见附录 A。

3.2 实验结果

图 2 展示多智能体性能和推理开销的权衡关系(开销包含搜索、验证带来的额外消耗)。完整结果参考表 4。

核心趋势:在全部基准上,CoT‑SC 性能持续优于自动多智能体;多智能体往往花费超过 10 倍计算开销,却得不到更高准确率。说明对于现有框架,架构复杂度并不能高效替代简单的随机采样集成。

“补齐模型能力” 假设不成立:主流观点认为精巧的多智能体调度可以把能力较弱的模型拉升到前沿水平,但实验否定该结论:

  1. 对于 GPT‑4o、GPT‑OSS 这类中等能力模型,多智能体无法带来稳定提升;
  2. 单智能体 GPT‑5 运行 CoT‑SC,效果优于基于 GPT‑4o 搭建的最复杂多智能体(ADAS、AFlow),总 token 消耗还不到后者一半。

说明自动多智能体架构无法弥补不同代际模型之间的能力鸿沟,只会带来巨大计算臃肿,却没有对应的性能回报。

复杂度需要基座模型具备能力下限:仅在使用 GPT‑5、Gemini‑2.5‑Pro 运行 HLE‑Math 任务时,多智能体取得明显性能提升。这说明多智能体架构想要获益,基座模型本身推理能力必须达到一定门槛,才能驾驭复杂的协同逻辑。

小结:实验证据说明多智能体领域普遍存在架构臃肿。性能‑成本之间巨大差距说明:这些框架生成复杂多智能体图结构,并不会带来推理能力的实质提升;自动搜索算法只是得到大量冗余、高开销的迭代,并没有超越简单无结构采样集成。

3.3 SMFR 诊断基准数据集

上一节实验显示,在标准数据集上,CoT‑SC 无论准确率、成本效率都优于多智能体。但已有文献 [16,20] 提出质疑:很多基准本身是为简单输入输出的单智能体任务设计,并不适合评估多智能体。为排除 “任务本身不适合多智能体” 这个变量,本文构建专门适配多智能体工作流的数据集:合成多跳金融推理数据集 SMFR(Synthetic Multi‑Hop Financial Reasoning)。

任务结构

每个样本包含大量股票历史开盘 / 收盘价格(30 天窗口,B 家公司),同时包含一组投资者的买卖交易记录。智能体需要判断:每一位投资者在哪一个日期可以达到指定盈亏目标,再按照聚合规则(最早达标日期 / 最晚达标日期)选出获胜的投资者。

任务专门规避捷径解法:必须做多步上下文提取(价格查找、日期检索、日期过滤),以及数值推理(盈亏计算、目标价格推导、排序)。

任务具备非线性依赖关系:符合智能体基准构建指南 [45],也满足 Anthropic [2] 提出的多智能体适用条件(上下文隔离、可并行、角色专业化)。SMFR 上下文负载高,不能依靠贪心局部推理解决。需要维护全局目标(目标盈亏),同时执行多个模块化独立子任务(每个投资者的盈亏计算),在海量历史市场数据中检索信息。正确完成任务要依次执行:

  1. 约束解析:明确目标、对比逻辑;
  2. 交易信息提取:从混杂文本定位目标记录;
  3. 盈亏推导:确定已实现收益基准;
  4. 反向价格计算:推导达成盈亏目标所需要的价格;
  5. 阈值扫描:校验候选日期;
  6. 跨投资者结果汇总,输出最终答案。

不同投资者对应的交易提取、盈亏计算、反向价格计算可以天然并行;但同一个投资者内部步骤之间有顺序依赖。

合成数据生成

基于真实美股历史股价数据程序化生成样本 [4]。样本采用 “大海捞针” 模式:“草堆” 是多只股票 30 天价格表,混杂干扰信息;“针” 是需要检索的投资者交易记录。模型需要检索交易历史,计算开仓头寸达到盈亏阈值的准确日期。

程序化生成可以避免数据污染,同时保留真实股价分布特征。测试集 588 条样本,验证集 16 条,在交易类型、聚合逻辑、目标盈亏百分比上做均衡。

专家手工多智能体系统(Expert‑MAS)

本文按照 Anthropic [2] 的指导,搭建人工专家设计的多智能体系统,作为 SMFR 任务的性能参考上界。采用显式任务分解 + 确定性调度。Expert‑MAS 严格区分上下文处理与逻辑控制。 流程:

  1. 元智能体解析任务结构,输出结构化模式定义;
  2. Python 编写的确定性执行器,驱动专门子智能体做定向信息检索、数值推理;
  3. 对每个投资者的任务链做并发调度;最终对比、判定结果交给确定性代码执行。

把协调、最终判定交给代码,减少上下文膨胀,消除自动多智能体中常见的 “调度噪声”。完整配置见附录 D。

SMFR 数据集实验结果

该任务是对智能体能力的压力测试:GPT‑5 的 CoT‑SC 准确率仅 57.0%;GPT‑4o、GPT‑OSS‑120B 只有 22.1%‑26.1%。即便任务本身处处具备多智能体发挥价值的条件,自动多智能体框架依旧很难超过 CoT‑SC,更做不到成本上占优。

只有 3 组统计显著提升,全部发生在能力较强的基座模型,同时伴随数倍成本上涨:DyLAN 在 GPT‑OSS‑120B(提升 6.6 个百分点,成本 ×5);DyLAN 在 GPT‑5(提升 4.3 个百分点,成本 ×2.5);MAS‑Orchestra 在 GPT‑5(提升 6.0 个百分点,成本 ×1.9)。而 GPT‑4o 上所有自动多智能体框架均没有统计显著增益。

与之对比,Expert‑MAS 在成本和 CoT‑SC 接近的前提下,性能大幅提升:GPT‑OSS‑120B 准确率由 26.1% 提升至 36.1%;GPT‑5 从 57.0% 提升至接近满分 96.5%。唯一例外是 GPT‑4o,受限于基座模型本身检索、计算缺陷,无论怎么调度架构都遇到性能瓶颈。

实验证明:多智能体范式本身是可行的;但目前自动框架无法高效利用任务提供的多智能体机会,实现性价比收益。同时也印证:多智能体想要发挥效果,基座模型推理能力必须达到最低门槛。

4 架构拆解分析

前面实验已经证明单智能体、多智能体之间巨大的效率鸿沟,但还没有回答:多智能体的角色专业化、共识机制这些内部设计,是否带来潜在收益,是否值得承担复杂度。本文拆解自动生成的架构,分析这些组件是否真正对推理过程产生实质贡献。结果发现,绝大多数自动生成的工作流,这些机制要么效果很差,要么只是装饰性设计,并没有产生真正的智能涌现。

功能坍缩与结构冗余

DyLAN [23] 框架设计思想依靠 “智能体多样性” 提升性能,但现实中很难实现。出现功能坍缩现象:在 GPT‑4o 的实验中约 70% 案例、GPT‑5 超过 90% 案例,各个子智能体输出高度一致,直接达成完全共识。系统本质退化成全部投票一致的 CoT‑SC 基线,而不是动态协商交互。

即便发生交互,任务定制化角色也没有带来额外收益。全部使用通用助手角色的配置,准确率(54.4%)反而高于任务定制专家角色(53.4%),详见附录 E.1。

MAS‑Zero [19] 依靠专门验证器汇总多个工作智能体输出,挑选最优结果。跨 4 个基准分析发现系统存在位置偏置,导致共识坍缩:验证器严重偏向上下文窗口靠前的输出。GPT‑4o 超过 45% 概率直接选择第一个推理块;GPT‑5 虽略分散,但依然严重偏好靠前结果;后面搜索轮次输出被选中概率合计不足 15%。

这就造成结构冗余:后续子智能体变成 “昂贵的旁观者”—— 消耗完整推理开销,却几乎不能对最终输出产生任何实质影响。

收敛到启发式搜索带来的伪产物

ADAS [13]、AFlow [42] 这类架构搜索框架本质上只是启发式遍历器,而不是遵循原理的优化器。在 GPQA‑Diamond 数据集上,ADAS 搜索过程验证集准确率非单调:往往早期迭代达到峰值,之后反而下降,说明性能提升来自随机 “运气迭代”,而不是架构的迭代进化。

通过基元模式分析,把生成架构映射为规则词典(自一致性、结果聚合、验证器),发现:带来正向效果的几乎只有自一致性类模式。在 GPQA‑Diamond 上,包含自一致性模式架构平均准确率 82.19%,相比全局平均提升 1.34%;而专门的协同调度模式几乎没有收益。

AFlow 也存在同类问题:并不会生成复杂协同逻辑,搜索出来的多智能体往往退化成简单集成。案例分析显示,“优化后” 工作流常常简化为:同一个提示词重复运行 3 次,再做结果投票,功能等价普通 CoT‑SC。

在 5 个数据集、3 种基座模型生成的 14 套最终工作流中,有 7 套(占比 50%)退化为这种极简结构,其中 4 套效果甚至弱于 CoT‑SC 基线。证明自动搜索经常重新 “发现” CoT‑SC 式采样,只是套上更复杂的外壳,并没有发明真正全新的多智能体策略。

动态调度中的激励错位

MaAS [40]、MAS‑Orchestra [18] 这类自适应协调系统,优化目标无法产出有实际意义的调度逻辑。

对于 MaAS:使用 GPT‑5 这类强基座模型时,准确率梯度被压平,控制器失去信号,出现两种失效模式:

  1. 成本最小化坍缩(BrowseComp‑Plus 任务)
    74.2% 算子激活为最简单直接输出 I/O 调用;控制器优先追求省钱,放弃复杂推理链路。
  2. 随机停滞(GPQA‑Diamond)
    不同算子之间成本差异很小,控制器困在近乎均匀的初始分布,不会学到任务适配策略。

MAS‑Orchestra 表现为无视任务难度的固定策略:在全部基准上,几乎不去调用多样化智能体池,只会高频调用开销巨大的辩论(Debate)、自我反思(Reflexion)智能体。不会根据任务难度调整智能体复杂度:GPQA‑Diamond 推理上限比 HLE‑Math 更低,但 MAS‑Orchestra 在 GPQA‑Diamond 使用辩论智能体的占比(84.9%)反而高于 HLE‑Math(79.2%)。

证明自动协调器并没有学习到适配任务的策略,而是收敛到静态、贪心的局部最优解。

5 讨论

评测揭示:多智能体框架理论层面的复杂度,和实际运行效果之间存在系统性偏差。设计初衷希望实现智能体之间协同涌现,但当前自动范式经常让系统机制退化成简单机械流程。

集成陷阱

造成功能坍缩的一大根源:很多多智能体以 CoT、CoT‑SC 作为基础构建块。虽然用这些基础组件保证泛化性,可以获得集成采样收益,但架构层面却无法做到高效协同。像 AFlow、ADAS 这类框架,最后经常退化,在复杂图结构外壳下实现的只是基础集成。付出约 10 倍成本,换来的只是一套路由很差、存在大量冗余的 CoT‑SC。

多智能体的可解释性研究方向

随着基座模型能力变强,多智能体的收益会进一步被削弱,两个关键因素:

  1. 信号饱和
    GPT‑5 等高能力模型准确率梯度变得平缓,MaAS 这类控制器失去信号,无法做精细调度,要么走廉价捷径,要么策略固化不动。
  2. 位置与首因偏置
    MAS‑Zero、DyLAN 的验证器、控制器总是优先采信靠前推理步骤,多智能体交互还没发挥作用就已经结束。

SMFR 上 Expert‑MAS 的成功印证 Anthropic [2] 与文献 [20] 的结论:多智能体协同只有在架构专门针对可并行子问题、上下文隔离做工程设计时,才能发挥价值。

未来研究应当远离黑盒自动图搜索(这种搜索容易落到冗余集成的陷阱),转向智能体交互的机理可解释性研究。想要摆脱 “昂贵旁观者” 困境,评估多智能体必须看架构保真度:分配给智能体的角色,是否对最终决策产生可测量的因果影响。脱离这一点,单纯堆砌架构复杂度只会掩盖计算低效。

结论

本文系统化评测揭示现代多智能体设计中严重的效率鸿沟:架构复杂度往往掩盖系统发生功能坍缩,实际退化成简单随机采样基线。借助 SMFR 基准集,拆解 6 套主流框架的机理失效模式,为更合理、高性价比的智能体设计指明路径。架构拆解表明:现有自动工作流经常退化为和 CoT‑SC 功能等价的冗余集成循环。

总而言之:想要跳出 “昂贵旁观者” 的困局,多智能体研究应当从黑盒图搜索,转向可验证任务分解、角色与输出因果对齐的架构设计。

附录 A‑G(实验配置、数据集细节、补充实验、局限性、社会影响)翻译略

【声明】内容源于网络
0
0
苏哲管理咨询
为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
内容 2490
粉丝 0
苏哲管理咨询 为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
总阅读87.6k
粉丝0
内容2.5k