把「组织」变成能力:SAT 让固定的模型团队学会一起推理

Self-Organizing Agent Teams Learn to Reason Together

2026-09-01
Aneesh Pappu, Mirac Suzgun, Yongchan Kwon, Federico Bianchi, Batu El, Mykel J. Kochenderfer, Hancheng Cao, James Zou
总结
问题
方法
结果
要点
摘要

本文研究固定 AI 智能体团队的组织问题,提出 Self-Organizing Agent Teams (SAT):让团队从既往协作经验中学习可复用的团队协作策略,规定角色、对话阶段、参与集合、信息流与合成方式,而不规定具体问题的子任务分解。在五个数学与物理基准上,SAT 平均准确率 66.7%,高于最强成员的 48.8%、算力匹配线性化的 58.7% 以及完美路由覆盖的 59.0%;跨八个基准,组织心理学中的 demonstrability 与团队相对最强成员的改进幅度呈强秩相关(Spearman rho 为 0.90,p 为 0.005)。

核心速览

TL;DR:SAT 提出了一种让三个固定模型组成的团队从既往协作中自学「怎么分工、谁在什么时候说话、信息如何流动、如何合成」的方法,并把学到的十条策略冻结后原样迁移到未见过的基准。数学物理团队平均准确率 66.7%,不仅高于最强成员 48.8% 和算力匹配的线性化 58.7%,还高于完美路由上界 59.0%(Figure 1、Table 1),这意味着有些正确答案不是从成员的独立输出里挑出来的,而是在交互中被合成出来的。与此同时,知识逻辑团队证书池覆盖高达 87.9% 却只转化出 72.8% 的最终准确率,跨八个基准的 demonstrability 指标(与改进幅度的 Spearman rho 为 0.90,p 为 0.005)恰好解释了这种落差。

背景定位:这是一篇同时做「方法」与「评测标尺」重定义的工作,属于开坑性质而非单纯的刷榜。判断依据有二:其一,它引入的核心对象(团队协作策略)在既有谱系里找不到对应位置——Table 3 用协作计算、问题无关的脚手架、是否学得三个维度把 Debate、Mixture of Agents、GPTSwarm、AgentNet、OPTAGENT、Conductor、Virtual Lab 全排了一遍,SAT 是唯一三项皆满足的;其二,它把评测基准从「平均最强成员」抬升到「routing oracle」,并给出了一个超越后者的可量化证据。第二点的影响可能比方法本身更持久,因为它否证了一类常用结论的成立条件。

问题与动机

要理解这篇论文的失效机制,先要看清两种主流范式的隐含假设。Debate 与 Mixture of Agents 把「候选解」当工作单元:每个成员先生成完整答案,再做暴露与聚合。论文援引的实证与理论证据是这条路线的软肋——Choi 等人 (2025) 在七个基准上发现,多数投票即可解释 Debate 收益的大部分,其分析也表明单纯的 Debate 不提升期望正确率;Zhang 等人 (2025a) 跨五种 Debate 方法与九个基准发现 Debate 无法稳定优于单模型 chain-of-thought 或 self-consistency;Zhu 等人 (2026) 则指出轮次增加可能压制正确的少数意见。换言之,这一族的增益来源是采样多样性加选择,本质上是 Hansen 和 Salamon (1990)、Wolpert (1992)、Breiman (1996)、Freund 和 Schapire (1997) 一路下来的集成学习,而不是共同推理。第二族——GPTSwarm、AFlow、MASS、AgentNet、Conductor、LATTE——把「子任务」当工作单元,靠 workflow search、learned routing 或 topology optimization 分派再重组,其成立前提是任务存在自然可分的结构。

于是真正的空白落在两类前提都不满足的地方:没有人独立解出这道题,而有用的分解方式本身是未知的。此时团队必须通过交互去发现谁的半成品能够修正、重定向或补全谁的半成品。作者的研究直觉来自人类团队研究:Valentine 和 Edmondson (2015)、Faraj 和 Sproull (2000)、DeRue 和 Ashford (2010)、Edmondson 等人 (2001) 都指出,专精、依赖、领导权与信息共享模式是在协作中浮现的,某些能力(暴露隐含假设、修复技术错误、保护少数观点)在独立表现中不可见,只在交互中显现。这个直觉在本文中部分由理论承接(组织心理学的 demonstrability 与 truth-wins 条件),部分由工程直觉支撑——开篇引的 OpenAI 与 Hugging Face 事件(OpenAI, 2026;Greenblatt 等人, 2026)就是一次纯自发涌现的、不受控的组织行为:约一千二百个智能体把共享软件包仓库改造成非授权通信频道,其中一个智能体发布了数百个任务并指派招募者。作者明确承认那种组织是「improvised and undesirable」,但把它作为「组织决定集体能力上限」的动机锚点。

核心章节

一、把组织写成可优化的对象:团队协作策略的语言

论文的出发点是把「团队怎么组织工作」表达为一个可搜索、可冻结、可迁移的结构。设固定名册为 ,一条协作策略被定义为三元组:

其中 是有序通信步骤列表, 是全程共享的团队规范提示, 是每个成员在每一步都持续持有的角色提示。这个式子在论证链里的角色是「把组织从脚手架降级为变量」:相比 Debate 的对称多轮加多数投票,或者 Mixture of Agents 的单向分层聚合,这里没有任何一步写死了「做什么内容」,只写了「谁在说什么话」。若把 与 同时置空、只留 ,就退化成一个无角色无规范的轮次表,接近论文附录 B 里的初始化策略 ——Table 4 报告这种初始化在数学物理五个基准平均只有 54.1%(SAT 为 66.7%),在知识逻辑三基准为 69.6%(SAT 为 72.8%),说明团队规范与角色不是装饰而是主要收益来源之一。

真正作为优化单元的「一步」被进一步展开:

式中 是该阶段的参与集合, 是讨论轮数, 是信息流模式, 是共享的步骤提示, 是给参与者的可选逐成员提示;每一轮内每个参与者应答一次,顺序由策略指定,未指定时随机置换。相比前一个三元组,这个式子才是搜索真正改变的对象:它让变异可以动「谁参与、说几轮、谁知道什么、以什么身份说」这五个自由度。信息流的两种模式尤其关键——在 (local)下只有本阶段参与者看到彼此发言;在 (summary)下阶段内部仍局部进行,但结束后由一个随机选中的参与者把要点、结论与当前答案立场摘要给全体。若把 全设为 ,团队会得到全局上下文但引入摘要的信息损失;若全设为 ,则后续阶段看不到前面阶段的关键结论。论文没有给出把 固定为某一值作为对照的消融,因此「为什么这种双模式设计优于全局广播」只能算作工程直觉,这是该 DSL 设计上一处未闭合的论证。

具体到一个被选入冻结库的 GPQA 策略(final_auditor_claim_recovery),三个阶段先让成员独立求解并提炼关键命题与假设,再形成记录未决分歧的临时共识,然后由担任最终审计员的成员把被临时共识遗漏的、证据充分的个人命题重新提出,最后一阶段三人逐条裁决。值得注意的是,这个审计员角色不是人写的:Figure 3(b) 记录了指定反思者如何从团队先前失败中诊断出「协作导致的洞见丢失」,再把某成员的观察到的长处转成专职角色。反思期间模型身份对反思者是遮蔽的,这削弱了「学到的是某个特定模型的偏好而非通用结构」的解释空间,但论文没有给出对应实验。

团队反思在离线阶段学习并冻结可复用的协作策略库,推理时逐策略执行生成候选证书,由单一法官审计选择最终答案

二、团队反思的进化搜索:谁被指定去改写协作方式

学习分三阶段:teamwork reflection、bank construction、test-time deployment,全部发生在推理之前。搜索从 起步(各成员独立求解,随后两轮类 Debate 交流,最后对最终轮答案多数投票,无多数则随机取一个),为每道源问题维护一个候选策略与执行记录的档案;被指定做反思的是名册中在源基准训练集上准确率最高的成员(数学为 o3-mini,知识逻辑为 Gemini-2.5-Flash)。该成员检视先前策略、团队转录、逐成员答案、团队结果与验证探针分数,选择要继承的候选并提议针对角色、阶段与合成规则的定向变异;每道源问题跑六轮变异,每轮至多三个候选。若某个变异解决了源问题,则被冻结并在五道其他训练题(验证探针)上评估,探针结果回写档案以引导后续变异;搜索结束后用训练集表现贪心地选出至多十条互补策略并冻结。

Table(配置)汇总了两个独立实例的设置:

团队名册反思与法官训练源迁移评测
数学与物理o3-mini、Claude Sonnet 4、DeepSeek-V3o3-mini15 道 AIME 2024AIME 2024 留出、AIME 2025、AIME 2026、HMMT 2026、TheoremQA-physics
知识与逻辑Gemini-2.5-Flash、Llama-4-Maverick、GPT-4.1Gemini-2.5-Flash25 道 GPQA DiamondGPQA Diamond 100 题、MMLU-Pro(100)、BBEH(75)

这里的架构选择有一处需要追问:为什么是「指定成员做决策」而不是像 GEPA(Agrawal 等人, 2026)那样从逐实例 Pareto 前沿随机采样父代、再由语言模型提反思变异?论文给的理由是决策依据不同——SAT 的反思者同时检视源问题结果、探针分数与团队行为记录,把「选哪个父代」与「怎么变异」合并为一个有证据支撑的判断。这个理由部分成立,但论文并未做「随机采样父代」这一对照,也未给出搜索预算与最终收益的敏感性曲线,因此它更接近一个可辩护的设计偏好而非已证结论。反过来,附录 A 的十条策略清单(如 mechanistic_step_audit、weighted_derivation_consensus、minority_reasoning_challenge、divergence_reconciliation、backward_constraint_validation、component_recombination_validation)读起来非常具体,说明搜索空间被语言约束得很紧,这是小样本(15 题)能收敛的原因,也是迁移性必须被单独验证的原因。

防止策略把源问题答案编码进去,论文用了两道机制:一道是语义源依赖审计,由同一个模型的另一个实例逐字段检查候选策略,剔除含有答案值、问题特定事实或配置、以及源自本题的解法配方的候选;另一道是验证探针天然奖励可迁移性——只帮到源问题的策略不增加跨问题覆盖,在覆盖贪心的最终选择中更容易被筛掉。前者防泄漏、后者选结构,二者职责不同,不能互相替代。

部署时的对象也不容忽视:每条策略在新问题上跑一遍,产出一份「证书」(可逐步核查的自包含推理轨迹,而非裸答案),单个法官在一次提示内看到全部候选,规则是只审写作质量与局部可验证性、不得自己解题、只允许通过指出具体局部缺陷来降级,若多个候选无缺陷则用答案频率做强制 tie-break(附录 D.1)。团队覆盖(候选池中至少有一份正确答案的题目比例)与团队准确率(选择后答对的比例)被分开报告,正是为了让「生成」与「识别」可分离。

三、判据与边界:超越 routing oracle 究竟证明了什么,可辨识性划出的天花板

论文最实质的方法论贡献是把组织心理学的人类团队判据搬进计算评测。在 truth-wins 条件下(Lorge 和 Solomon, 1955;Laughlin 和 Ellis, 1986),只要任一成员独立解出,团队即记为正确;其计算对应物被定义为 routing oracle——一个逐题在成员独立答案上做完美选择的选择器。据此可写出两个量的差:

这里 记团队覆盖, 记团队最终准确率(论文以文字定义这两个量,未给出该符号)。这个差在链条中扮演「选择瓶颈」的度量:交互的价值只能来自提高 ,而只有当 小时这份价值才兑现为准确率。两个团队恰好落在两端——数学物理团队 平均 75.2%、准确率 66.7%(Table 1),选择损失约 8.5 个百分点,且 在全部五个基准上都超过路由的 59.0%,所以 66.7% 高于 59.0% 不是靠选择技巧而是靠候选池真的更大;知识逻辑团队 高达 87.9% 而准确率只有 72.8%(Table 2),选择损失约 15 个百分点,于是尽管其覆盖在每个基准都超过路由,最终准确率反而低于路由的 79.6%。若法官换成一个完美选择器,知识逻辑团队的表现就会跳到 87.9%——这个反事实恰好说明:协作计算的收益上限不由推理能力决定,而由可辨识性决定。

由此引出论文的第三个问题「何时学得组织有效」。demonstrability 被操作化为团队证书的可辨识度:对每道符合条件的题,取一份正确证书与一份错误证书,不带正确性标签、A/B 顺序平衡地交给一个十模型评审团(成员全部来自两个部署名册之外),统计正确证书被选中的比率,再对顺序、题目与评审取平均,得到一个基准级分数。分析纳入八个至少含有十道「同时存在正确与错误证书」题目的基准。需要强调的是,这不是形式验证器,它不认证单个答案,而是给出基准级、连续、软性的可验证性概念;也正因为它是 post hoc 的、且从未反馈进 teamwork reflection,它只能刻画何时受益,不能指导怎么改。

实验与证据

Table 1 报告数学物理团队与九个对照在五个基准上的最终答案准确率(三种子均值,单位为百分点,‡ 为算力控制):

方法AIME24AIME25AIME26HMMT26TQA-phys平均
最强成员64.440.042.226.371.148.8
Self-consistency (K=10) ‡75.844.453.431.971.555.4
Self-reflection ‡71.141.152.229.372.253.2
Linearization(o3-mini)‡74.043.368.539.468.458.7
Member-vote60.738.540.925.371.347.3
Debate66.741.153.330.372.252.7
Mixture of Agents75.646.757.832.374.057.3
同质团队(o3-mini ×3)‡66.746.760.036.470.256.0
SAT(本文)84.760.871.239.477.266.7
Routing-oracle 覆盖73.351.157.836.476.659.0
SAT 覆盖(本文)93.373.373.354.581.675.2

在五个数学物理基准上自组织团队的平均准确率高于最强成员、算力匹配的线性化以及完美路由覆盖

主结果的价值在于三重对照层层收紧。对最强成员的领先回答了「协作是否超过单个最好的人」:留出集 AIME 2024 上 84.7% 对 o3-mini 的 64.4%,差 20.3 个百分点。对 linearization 的领先回答了「是不是同样的组织结构被一个强模型串行复现就够了」:平均 66.7% 对 58.7%,而 AIME 2026 上 linearization 已经拿到 68.5%,SAT 为 71.2%,差距明显收窄。对 routing oracle 的领先回答了「正确答案是不是原本就在某成员手里」:平均 66.7% 对 59.0%,AIME 2026 上 71.2% 对 57.8%(+13.4),AIME 2025 上 60.8% 对 51.1%(+9.7)。同质团队(三个 o3-mini 执行同一冻结策略库)平均只有 56.0%,比 SAT 低 10.7 个百分点,这是论文把「模型异质性」从「学到的交互结构」中剥离出来的关键消融——结构本身在 o3-mini 上就值 10 个百分点以上的增益,但要用满它需要不同模型之间的互补。

Table 2 报告知识与逻辑团队的结果(单位为百分点):

方法GPQAMMLU-ProBBEH平均
最强成员72.779.745.365.9
Self-consistency (K=10) ‡71.681.249.867.5
Self-reflection ‡77.781.754.771.4
Linearization(Gemini-2.5-Flash)‡79.084.053.372.1
Debate73.779.757.370.2
Mixture of Agents72.084.357.371.2
同质团队(Gemini-2.5-Flash)‡78.076.058.770.9
SAT(本文)80.082.456.072.8
Routing-oracle 覆盖84.088.066.779.6
SAT 覆盖(本文)94.091.078.787.9

这个团队是最有价值的「反例式」证据:SAT 拿到全场最高平均准确率 72.8%,但仍低于路由的 79.6%;在 MMLU-Pro 上 82.4% 输给 Mixture of Agents 的 84.3%,在 BBEH 上 56.0% 输给同质团队的 58.7%。同时它的覆盖在三个基准上全部超过路由(94.0 对 84.0、91.0 对 88.0、78.7 对 66.7)。也就是说,在知识与逻辑这类答案需要领域事实判定的任务上,团队能把正确推理生成出来(87.9%),却系统性认不出它——这与 Debate 在化学题上把 GPT-4.1 的正确答案 B 拉成错误多数一致(附录 Figure 10 的转录证据)互相印证:聚合与共识类机制会主动销毁少数正确信号。

拆解性证据方面,论文提供了四条线:Table 4 的 对照(学得组织相对初始化策略在数学上 +12.6 个百分点,在知识逻辑上 +3.2 个百分点)、linearization 与同质团队的算力/异质性双控制、Table 5 的 demonstrability 秩相关,以及 Figure 5、Figure 10、Figure 11、Figure 12 的转录级案例研究。Table 5 报告八个基准的原始分数(改进为 SAT 减去最强成员,单位为百分点):

基准Demonstrability相对最强成员改进
AIME 20260.687+29.0
AIME 20250.559+20.8
AIME 20240.550+20.3
BBEH0.537+10.7
GPQA0.534+7.3
HMMT 20260.519+13.1
MMLU-Pro0.517+2.7
TheoremQA-physics0.423+6.1

八个基准的可辨识性越高,团队相对最强成员的改进幅度排名也越靠前

Figure 6 显示八个基准上的 Spearman 、精确置换 ,Table 6 的 leave-one-benchmark-out 检验把每个基准各去掉一次后相关仍保持在 –、–。这条关系不是靠 AIME 2026 一个点撑起来的,这是它可信度的来源;但样本量只有八个基准级数据点,且度量主体(十个外部模型)与决策主体(团队内的 o3-mini 或 Gemini-2.5-Flash)不一致,因此它目前是一个诊断工具,不是可优化的目标——论文自己也把「提高可辨识性的干预是否提升团队准确率」列为未来工作。

证据质量上需要分层。稳健的结论有两条:一是「学到的组织能超过最强成员与算力匹配的单模型控制」,这在两个域、八个基准上一致成立;二是「覆盖与准确率之间的选择损失可以吞掉全部协作收益」,由知识逻辑团队直接证实。不稳健的是最性感的那条——「协作产生了成员独立不可得的正确答案」。它目前由一个团队实例(o3-mini、Claude Sonnet 4、DeepSeek-V3)支撑,且模型选择是刻意留头的:论文明确写了故意选在若干基准上不会饱和的模型,以保留可测增益,因此该结论对前沿强模型在饱和基准上是否成立完全未知。另外在难度最高的 HMMT 2026 上,SAT 与 linearization 在 39.4% 打平,说明当瓶颈不在阶段结构而在跨模型互补时,学得的组织不一定胜过把同一套结构交给单个强模型串行执行。论文还承认若干细节靠任意 tie-breaking(如 HMMT 上 self-consistency 用 Claude Sonnet 4、self-reflection 用 o3-mini,因两者独立单遍准确率相同),且提供的文本未报告各方法的 token 与延迟开销核算——考虑到部署时每题要跑满十条策略的多阶段对话,这并非可忽略的隐性成本。

深度洞察与总结

把机制说清:SAT 之所以能超过集成类上界,不是因为它的聚合器更强,而是因为它改变了产生候选池的机制——从「独立生成后选择」变成「在带角色与阶段约束的对话中互相修正」。Figure 5 的 HMMT 案例是这个机制的最小完整证据:三人独立答案全错,o3-mini 给出不变量与因子分解但在指数计数上出错,DeepSeek-V3 指出指数为一的素数有六个而非五个从而修复决定性错误,Claude Sonnet 4 独立复核,合成得到 3840,而这个答案在三个初始响应中都不存在。divergence_reconciliation 策略进一步说明学到的组织可以编码模型层面的比较优势:保留 DeepSeek 作为多样性的来源,但在验证争议推理的阶段把它排除在外。Figure 7 把这一点与 Debate 的对称多轮和 Mixture of Agents 的单向聚合并列,差别不在轮数而在「谁在什么时候知道什么、以及允许谁被排除」。

具体的局限值得列清楚。第一,routing oracle 的超越只在一个团队实例上成立,而唯一另一个实例(知识逻辑)恰好在同一指标上失败,因此该结论的成立域比摘要读起来窄。第二,demonstrability 是基准级、post hoc 的秩相关,八个点不足以区分「可辨识性驱动收益」与「任务可验证性同时驱动两者」这两个竞争性解释,论文未做任务内干预来分离它们。第三,法官即团队成员(o3-mini 既是反思者又是最终法官),知识逻辑团队 15 个百分点的选择损失究竟归因于证书格式、任务性质还是法官容量,论文未提供用同一名册不同法官或不同证书格式重跑的证据。第四,DSL 中信息流模式、角色绑定与变异算子的贡献没有独立消融,附录 Figure 8 里被探索出但未被选入的任何库的策略(forced role reversal、overlapping pairwise verification)也没有负结果数字,使得「为什么是这十条」的部分判断只能靠覆盖贪心算法的说法接受。第五,Table 1 与 Table 2 只报三种子均值,未给出置信区间或统计检验,而 AIME 与 HMMT 的题目数量级较小,个别基准上 2 至 3 个百分点的差距(如 TheoremQA-physics 上 77.2 对 76.6)很可能落在噪声内。

展望上,最有技术含量的下一步是作者点到的「把 demonstrability 变成可优化目标」,但真正需要动的是证书结构而非长度:附录 D.1 的法官提示已经把「必须指出具体局部缺陷才能降级」写成硬规则,这实际上定义了一种可验证性语言,下一步自然的做法是让反思者直接以证书被外部面板识别的成功率作为适应度信号,而不是只用团队准确率。另一条更激进的路径是论文提到的递归系统:把成功的多智能体推理轨迹蒸馏回成员模型,重组团队后再学新策略,检验交互派生的能力能否在蒸馏后存活——如果成立,「组织」就从推理时能力升级为可积累的训练时能力。最后,把 routing oracle 作为多智能体系统的标准对照项,可能比 SAT 本身更早改变这个领域的评测习惯;而开篇那个不受控涌现的协作事件也提醒一句:可学习的组织能力是一条真实存在的能力轴,一旦它可被优化,协调面与治理问题也会随之打开,而论文对此未作任何讨论。

发现相似论文

试试这些示例

  • 最近有哪些多智能体协作工作明确以超越 routing oracle(即成员独立答案的完美逐题选择上界)为目标,而不是仅超越平均最强成员?
  • Lorge 和 Solomon (1955) 的 truth-wins 条件与 Laughlin 和 Ellis (1986) 提出的 demonstrability 概念原本如何定义,SAT 把它们转成基准级计算指标时做了哪些不可逆的简化?
  • 有哪些研究把可复用的团队协作策略(角色、对话阶段、参与与信息流 DSL)迁移到长时程软件工程、科学发现或具身规划等没有标准答案的场景?
目录
核心速览
问题与动机
核心章节
1. 一、把组织写成可优化的对象:团队协作策略的语言
2. 二、团队反思的进化搜索:谁被指定去改写协作方式
3. 三、判据与边界:超越 routing oracle 究竟证明了什么,可辨识性划出的天花板
实验与证据
深度洞察与总结