多智能体到底什么时候才有用？一个信息瓶颈视角的答案

笔记日期： 2026-07-25 笔记作者： Zhongzhu Zhou 阅读论文： When Do Multi-Agent Systems Help? An Information Bottleneck Perspective 论文作者： Wendi Yu, Lianhao Zhou, Xiangjue Dong, Sai Sudarshan Barath, Declan Staunton, Byung-Jun Yoon, Xiaoning Qian, James Caverlee, Shuiwang Ji（Texas A&M University；Brookhaven National Laboratory） arXiv： 2607.16133 状态： 预印本，2026 年 7 月 17 日提交

一句话结论

如果你搭过多智能体（Multi-Agent System, MAS）LLM 流水线，却发现它表现还不如一个提示词写得好的单智能体（Single-Agent System, SAS），这篇论文给出了一个正式的机制解释，而不只是经验之谈。作者的核心观察其实很简单：SAS 一路维护一个不断增长的共享上下文；而 MAS 把任务拆给多个隔离的 worker，它们之间只能通过简短的”转发消息”（relay）互相传递信息。作者先证明：如果 relay 消息可以携带无限量的信息，那么 MAS 总能精确模拟出任意一个 SAS 的行为——所以 MAS 相对 SAS 的真实优劣，必然来自 relay 带宽有限、因此必然有损这一事实。接着他们把每一个 relay 建模成一个信息瓶颈（information bottleneck）：一个好的 relay 应该丢弃掉与下游任务无关的上游噪音，同时保留下游 worker 真正需要的信息。由此得到一个”MAS 收益”的干净分解式——上游上下文压缩带来的收益，减去下游信息丢失带来的代价——二者的平衡点由一个随下游模型能力增大的有效参数 β 决定。在覆盖五个智能体基准（ALFWorld、WebShop、WorkBench、WideSearch、TravelPlanner）和三个模型规模（Qwen2.5-7B、GPT-4o-mini、Qwen3.5-27B）的 18 组受控实验中，预测的模式清晰成立：当任务的 relay 可以既短又充分时，MAS 稳定获胜（上下文压缩占优）；而当任务要求更丰富的跨步骤上下文，或者基础模型强到足以自己利用那些上下文时，MAS 的收益会缩小甚至反转为负。这把”这个任务该不该用多智能体”这个问题，从一个纯靠品味的选择，变成了一个在花一分 API 费用之前就可以做结构性推理的问题。

核心要点

• 论文的理论主线结果——命题 3.1——证明在无限 relay 带宽下，MAS 总能精确复现任意 SAS 的输出，这意味着关于”拆分成多智能体到底有没有用”的整个经验之争，本质上是关于有限带宽 relay 压缩的争论，而不是关于任务拆分本身。
• 定理 4.1 把任意一个 relay 接口处的局部”MAS 收益”分解成两个相互竞争、被明确命名的量：上游上下文压缩 $H(M_i \mid m_i)$（收益项）与由能力 β 加权的 relay 信息损失 $\Delta_i(m_i)$（代价项）——MAS 局部获胜当且仅当 $H(M_i \mid m_i) > \beta \Delta_i(m_i)$。
• 随能力增大的 β 是这篇论文最有实用价值的想法：越强的下游模型，越容易因 relay 压缩而受损（因为它本可以用好完整上下文），也越难因去噪而获益（因为它本来就擅长忽略无关上下文）——同一个 MAS 设计能帮到一个 7B 模型，却能拖累一个 27B 模型完成同一个任务。
• 一个精心设计的三方受控对比（SAS vs. SAS-contextflow vs. MAS）把”MAS 为什么有用”这个问题拆解清楚了：SAS-contextflow 使用与 MAS 完全相同的、由规划器诱导的子任务分解，但仍保持一个共享上下文——因此 SAS-contextflow 和 MAS 之间的任何残余差距，都可以完全归因于 relay 造成的上下文隔离，而不是任务分解本身。
• 实验结果沿着论文自己定义的 relay 复杂度轴 $\delta$ 清晰分裂：relay 可以紧凑且充分的基准（ALFWorld、WideSearch、TravelPlanner-CS，均为 $\delta \approx 0$）在所有三个模型上都显示 MAS 稳定优于 SAS-contextflow；而需要详细跨步骤证据的基准（WorkBench，$\delta \gg 0$）则在所有三个模型规模上都显示 MAS 输给了 SAS-contextflow。
• 一项因果消融实验（论文 Table 4）直接操纵 relay 的充分性——故意从 relay 消息中删掉下游需要的具体字段（例如从 WebShop 的 relay 中去掉价格和导航历史）——结果显示，随着人为制造的信息损失增大，性能单调下降。这是论文中最强的一条证据，证明 $\Delta_i(m_i)$ 是一个真实的因果杠杆，而不只是一个事后描述性的数量。

前置知识

这篇论文站在三个领域的交汇处：基于 LLM 的多智能体系统、信息论（特别是信息瓶颈框架），以及智能体基准的实证评测方法学。要不靠死记硬背地读懂推导过程，你需要五块背景知识，我下面依次展开：LLM 智能体的”上下文”到底是什么、单智能体与多智能体架构在信息流层面（而不只是 API 调用数量层面）的真正区别、互信息与条件互信息的含义以及如何读懂 $I(X;Y\mid Z)$ 这类表达式、经典信息瓶颈原理到底在优化什么，以及马尔可夫关系 $X \leftrightarrow Y \leftrightarrow Z$ 在断言什么。

LLM 智能体的”上下文”意味着什么

当 LLM 被用作自主智能体——去解决一个多步骤任务，比如在模拟家庭环境中导航（ALFWorld），或在模拟电商网站上完成一次购买（WebShop）——它并不是一次性看到整个任务的。它以一个循环的方式运作：观察当前世界状态的文本描述，决定一个动作，接收反映该动作后果的新观察，如此往复。任意时刻的上下文，就是智能体迄今为止看到和做过的所有内容的累积记录：之前的观察、它自己的中间推理（“想法”），以及它采取过的动作。这个上下文正是每一步真正被反馈进 LLM 的东西——它实际上就是智能体在这一回合中的全部”记忆”，因为底层 LLM 本身在多次调用之间并没有持久状态。一个值得内化的实用事实是：随着回合变长，这个上下文会不断增长，其中的一切都在争夺 LLM 有限的注意力和上下文窗口容量。这正是整篇论文论证的种子——一个共享、单调增长的上下文，正是单智能体系统所依赖的东西，也正是多智能体系统刻意放弃的东西，以换取隔离性。

单智能体 vs. 多智能体：真正的结构性区别

关于多智能体系统（MAS）最直观的说法是”专业化分工”——一个规划智能体、一个编码智能体、一个批判智能体，各自擅长一件事。但论文认为更深层的结构性区别在于信息流，而不是分工。单智能体系统（SAS）是一个智能体，在整个任务过程中携带一个共享的、单调增长的上下文：每个子任务的结果、每个中间观察，对之后的每一步都保持可见。多智能体系统（MAS）则相反，把任务的不同阶段分配给不同的”worker”，每个 worker 都从一个全新、隔离的上下文开始——它只接收自己的子指令，加上一条简短的转发消息（relay message），总结前一个 worker 认为值得传下去的内容。关键在于，这意味着一个 MAS worker 无法看到产生这条 relay 消息的原始历史——只能看到压缩后的摘要。这正是整篇论文所建立在其上的结构性事实：MAS 不是”SAS 加上专业化分工”，而是”用一个有损、瓶颈化的通信信道，把隔离的 worker 连接起来，取代了共享上下文”。

互信息与条件互信息

论文的形式化机制完全建立在互信息（mutual information）$I(X;Y)$ 之上，它衡量的是（以比特或纳特为单位）知道随机变量 $X$ 的取值，能在多大程度上减少你对随机变量 $Y$ 的不确定性。形式上，$I(X;Y) = H(Y) - H(Y\mid X)$，其中 $H(\cdot)$ 是香农熵（不确定性的度量），$H(Y\mid X)$ 是条件熵——一旦已知 $X$，关于 $Y$ 剩余的不确定性。如果 $X$ 和 $Y$ 完全独立，则 $I(X;Y) = 0$：知道 $X$ 对 $Y$ 没有任何新信息。如果 $Y$ 是 $X$ 的确定性函数，则 $I(X;Y) = H(Y)$：知道 $X$ 就等于完全知道 $Y$。论文还使用了条件互信息 $I(X;Y\mid Z)$，衡量的是在已经给定 $Z$ 的前提下，$X$ 还能告诉你多少关于 $Y$ 的信息。这正是第 4 节通篇使用的量：形如 $I(m_i; Y_{i+1} \mid X_{i+1})$ 的表达式，问的是”在我们已经知道下游子指令 $X_{i+1}$ 的情况下，relay 消息 $m_i$ 还能告诉我们多少关于下游目标 $Y_{i+1}$ 的信息？“——也就是说，relay 在子指令本身已经隐含的信息之外，还提供了多少额外的、非冗余的预测价值。

信息瓶颈原理

**信息瓶颈（information bottleneck, IB）**框架，最初由 Tishby、Pereira 和 Bialek 提出，形式化了一个非常一般的压缩问题：给定一个输入 $X$ 和一个你关心的预测目标 $Y$，找到 $X$ 的一个压缩表示 $T$，使其尽可能多地保留关于 $Y$ 的信息，同时尽可能多地丢弃关于 $X$ 的无关信息。这被写成一个优化问题：

$$\min_{p(T\mid X)} \; I(X;T) - \beta I(T;Y),$$

其中 $I(X;T)$（$X$ 中有多少信息存活进了 $T$）被最小化——你希望 $T$ 小而紧凑——而 $I(T;Y)$（$T$ 对 $Y$ 仍有多少预测力）被最大化，一个拉格朗日乘子 $\beta > 0$ 控制两个相互竞争的目标之间的权衡。当 $\beta$ 较小时，目标函数偏向激进压缩，即便这会牺牲一些预测力；当 $\beta$ 较大时，目标函数偏向保留预测信息，即便代价是表示压缩得不够彻底。这个精确的模板——最小化多少上游信息存活下来，同时最大化其中对下游目标有用的部分——正是论文直接移植到 MAS relay 消息设计上的东西：relay $m_i$ 扮演压缩表示 $T$ 的角色，worker 的完整上下文 $M_i$ 扮演输入 $X$ 的角色，而下一个 worker 的目标 $Y_{i+1}$ 扮演预测目标的角色。

马尔可夫关系：$X \leftrightarrow Y \leftrightarrow Z$ 是什么意思

马尔可夫链（或马尔可夫关系）$X \leftrightarrow Y \leftrightarrow Z$ 断言的是，给定 $Y$ 时 $X$ 和 $Z$ 条件独立：一旦你知道了 $Y$，再去学习 $X$ 就不会给你带来任何关于 $Z$ 的额外信息，反之亦然。形式上，$p(z \mid x, y) = p(z \mid y)$。直观地说，$Y$ 是 $X$ 和 $Z$ 之间一个”充分的中介”——$X$ 对 $Z$ 的一切影响，都必须经过 $Y$。这在论文 4.1 节中变得重要，该节建立了马尔可夫关系 $m_i \leftrightarrow M_i \leftrightarrow Y_{i+1} \mid X_{i+1}$：relay $m_i$ 是从完整上下文 $M_i$ 压缩而来的，它不可能包含 $M_i$ 本身尚未包含的、关于下游目标 $Y_{i+1}$ 的信息。正是这一点，使得把 relay 设计问题当作瓶颈问题来处理成为可能——relay 永远不可能比其源头信息更丰富。

记号速查表

由于第 4 节的推导会在短时间内引入不少带下标的符号，这里提供一张表格，方便在阅读下文推导时随时查阅。

符号	含义
$X$	完整任务实例
$X_1, \ldots, X_n$	由规划器诱导、分配给各 worker 的子实例
$Y_i$	子实例 $X_i$ 对应的 worker 专属目标变量
$M_i$	worker $i$ 的完整累积上下文
$m_i$	worker $i$ 向前传递的 relay 消息，$m_i = \text{Agg}_i(M_i)$
$B_{\text{sys}}$	worker 间的 relay 带宽，$H(m_i) \le B_{\text{sys}}$
$H(\cdot)$	香农熵
$I(\cdot;\cdot)$	互信息
$I(\cdot;\cdot\mid\cdot)$	条件互信息
$\beta$	IB 权衡权重，被解释为下游模型能力
$\Delta_i(m_i)$	接口 $i$ 处的 relay 信息损失（定义 4.1）
$L_i^{\text{MAS}}, L_i^{\text{SAS}}$	MAS/SAS 各自的局部 IB 目标函数值
$G_i^{\text{MAS}}$	局部 MAS 收益，$L_i^{\text{SAS}} - L_i^{\text{MAS}}$
$\delta$	某基准的估计 relay 复杂度（充分 relay 的最小描述长度）

方法：把 MAS 形式化为有限带宽下的 Relay 压缩问题

建立形式化对象

论文首先定义了一个共同的抽象——基本智能体（basic agent）——SAS 和 MAS 都是基于它构建的：一个智能体是一个元组 $\langle \mathcal{T}, \mathcal{M}, \pi^T, \pi^A, \text{Agg}\rangle$，其中 $\mathcal{T}$ 是”想法”空间（中间自然语言推理），$\mathcal{M}$ 是上下文/记忆空间，$\pi^T$ 和 $\pi^A$ 分别是给定当前上下文时产生想法和动作的策略，$\text{Agg}$ 是从终止上下文产生最终输出的聚合函数。给定任务实例 $X$ 和初始观察 $o_0$，智能体的上下文按 $M_{t+1} = M_t \oplus (\tau_t, a_t, o_t)$ 演化——在每一步，当前的想法、动作和产生的观察都被追加到正在运行的上下文中，与前置知识部分”不断增长的记录”这一直觉完全吻合。

**单智能体系统（SAS）**就是一个基本智能体，在整个任务上运行这个循环，产生一个连续的上下文 $M_{\text{SAS}}$ 和最终输出 $y_{\text{SAS}} = \text{Agg}(M_T)$。

多智能体系统（MAS）引入了一个规划器，先把任务实例 $X$ 拆分成一个有序的子实例序列 $X_1, \ldots, X_n$，每个子实例都诱导出一个 worker 专属的目标变量 $Y_i$（worker $i$ 应该推断或产生的、与任务相关的东西）。每个 worker $i$ 都是一个独立的基本智能体，只在 $X_i$ 上运作；当 worker $i$ 结束时，它产生一条 relay 消息 $m_i = \text{Agg}_i(M_i)$——它自身完整上下文 $M_i$ 的压缩摘要——被交给 worker $i+1$。worker $i+1$ 的初始上下文随后是 $M_0^{(i+1)} = (X_{i+1}, o_0^{(i+1)}) \oplus m_i$：它自己的子指令加上前一个 worker 选择传下来的东西，但关键是并不包含 worker $i$ 的完整上下文 $M_i$。系统级聚合器将所有 worker 的终止上下文组合成最终的 MAS 输出。

这些定义中埋藏的最重要的一条结构性事实是：worker $i+1$ 根本看不到 $M_i$。它只能看到 $m_i$。worker $i$ 忘记放进 relay 消息里的任何东西，对所有下游 worker 来说都是永久丢失的——没有办法”回去查一下”原始上下文。这正是有限 relay 会损害性能的具体机制原因，值得作为理解后文一切内容的直觉基础。

逐步拆解：无限带宽下的 MAS-SAS 等价性证明

在给出瓶颈形式化之前，论文先证明了一个基础性的合理性检验结果——命题 3.1：当 relay 带宽 $B_{\text{sys}} \to \infty$ 时，对任意 SAS，都存在一个能产生完全相同输出的 MAS。 这一点很重要，因为它确立了 MAS 的结构性差异（规划 + relay 通信）本身并不天然是限制性的——任何性能差距都必须来自带宽约束，而不是来自”有多个 worker”本身。论文附录 A.1 中以编号证明的形式给出的构造如下，我把它拆解成一个明确的算法：

算法 1：构造一个精确模拟给定 SAS 的 MAS（无限 relay 带宽）

1. 输入： 一个上下文轨迹为 $M_0, M_1, \ldots, M_T$、最终输出为 $y_{\text{SAS}} = \text{Agg}(M_T)$ 的 SAS，以及一个任意的时间划分 $0 = T_0 < T_1 < \cdots < T_n = T$。
2. 规划器分配： 设 $X_1 = X$（整个任务），并对所有 $i \ge 2$ 设 $X_i = \emptyset$（所有后续子实例都为空——这个构造实际上根本没有真正拆分任务，只是把时间区间重新标记为”worker”）。
3. 策略复用： 给每个 worker $i$ 与原始 SAS 相同的想法和动作策略 $(\pi^T, \pi^A)$。worker $i$ 负责精确复现 SAS 从时刻 $T_{i-1}$ 到 $T_i$ 的更新。
4. 恒等 relay： 令聚合器 $\text{Agg}_i$ 为恒等映射，因此向前传递的 relay 是 worker 的全部终止上下文：$m_i = M^{(i)}_{T_i}$（完全不压缩）。
5. 带宽检验： 由于 SAS 上下文在每一步都有有限熵（一个假设条件），每条 relay $m_i$ 也具有有限熵。因此对任意 $B_{\text{sys}} \ge \max_i H(M^{(i)}_{T_i})$，每条 relay 都满足 $H(m_i) \le B_{\text{sys}}$——该构造在 $B_{\text{sys}} \to \infty$ 的极限下总是可行的。
6. 归纳等价性： 对 $i$ 做归纳：worker 1 从与 SAS 相同的初始状态开始（$M_0^{(1)} = (X, o_0) = M_0$），使用相同的策略和相同的任务核，精确复现了 SAS 直到 $T_1$ 的轨迹，因此 $M^{(1)}_{T_1} \equiv M_{T_1}$。对于归纳步骤，worker $i+1$ 接收到完整的 relay $m_i = M^{(i)}_{T_i} \equiv M_{T_i}$（由归纳假设），其初始上下文在信息上等价于 SAS 在这一时间点的上下文，因此它也能精确复现 SAS 直到 $T_{i+1}$ 的轨迹。
7. 结论： 取 $i = n$，得到 $M^{(n)}_{T_n} \equiv M_T$，因此 MAS 最终聚合出的输出精确等于 $y_{\text{SAS}}$。

这个构造给出的结论，在设计上几乎是反高潮式的：如果你被允许把整个上游上下文原封不动地当作”relay 消息”向前传递，那么 MAS 只不过是套了个马甲的 SAS。 没有任何有趣的事情发生——既没有收益，也没有损失——直到你被迫真正把 $m_i$ 压缩成比 $M_i$ 更小的东西。而这恰恰是真实部署系统所处的场景，因为 LLM 上下文窗口和通信预算在实践中永远是有限的，也正是论文接下来所研究的场景。

把 Relay 设计形式化为信息瓶颈

既然有限的 relay 带宽正是一切有趣行为的所在地，第 4 节明确地把 relay 设计问题建立为一个 IB 目标。首先，前置知识部分提到的马尔可夫关系被正式确立（在论文附录 A.2 中通过指出：只要 relay $m_i = \text{Agg}_i(M_i)$ 的随机性——如果有的话——在给定 $M_i$ 和 $X_{i+1}$ 时与 $Y_{i+1}$ 无关，即可证明）：

$$m_i \leftrightarrow M_i \leftrightarrow Y_{i+1} \mid X_{i+1}. \tag{1}$$

这为把 relay 设计目标写成标准 IB 形式提供了正当性：

$$\min_{p(m_i \mid M_i)} \; I(M_i; m_i) - \beta \, I(m_i; Y_{i+1} \mid X_{i+1}), \tag{2}$$

其中第一项衡量上游上下文有多少”存活”进了 relay（应最小化——一个好的 relay 应该简短、不含无关细节），第二项衡量给定下一个子指令 $X_{i+1}$ 的前提下，relay 保留了多少关于 $Y_{i+1}$ 的下游相关信息（应最大化——一个好的 relay 应该仍然能让下一个 worker 完成它的工作）。$\beta$ 和之前一样是权衡权重，但论文在这里给了它一个非常具体的实用解释：$\beta$ 代表下游 LLM 的能力。 较弱的模型更容易被嘈杂、无关的残留上下文搞混，因此隐式地”偏好”较小的 $\beta$（偏向激进压缩）；较强的模型能够高效利用丰富的上下文，因此隐式地”偏好”较大的 $\beta$（偏向保留信息而非压缩）。正是这一个设计选择——把一个抽象的拉格朗日乘子重新表述为”读这条 relay 的模型有多强”——把一个信息论的好奇心变成了一个可测试、可证伪的经验预测，而这正是论文后续实验所要检验的东西。

推导 SAS 作为”零压缩”特例

论文进行了一次优雅的一致性检验：如果把未压缩的 relay $m_i = M_i$ 代入 IB 目标会发生什么？代入公式 (2)：

$$L^{\text{SAS}}_i(\beta) \triangleq L^{\text{MAS}}_i(m_i = M_i; \beta) = H(M_i) - \beta \, I(M_i; Y_{i+1} \mid X_{i+1}). \tag{3}$$

这里 $I(M_i; m_i)$ 坍缩为 $H(M_i)$（一个东西和它自身的完全副本之间的互信息，等于它自己的熵），而第二项变成上下文本可提供的、关于 $Y_{i+1}$ 的最大可能预测信息量，因为什么都没被丢弃。这从代数上展示了从命题 3.1 就已经直观显然的东西：SAS 是所有可能 relay 设计空间中的零压缩点。 而 MAS，根据其构造方式，总是对应于该空间中某个被压缩的点。这一重新表述，让论文能够纯粹沿着一条共享轴——relay 压缩的量——对 SAS 和 MAS 进行严格对等的比较，而不是把它们当成两种毫不相关的架构。

推导 MAS 收益分解（定理 4.1）

这是论文的核心理论贡献，值得完整推导一遍而不只是引用结果。首先，定义relay 信息损失：

定义 4.1（Relay 信息损失）： relay $m_i$ 造成的信息损失为

$$\Delta_i(m_i) \triangleq I(M_i; Y_{i+1} \mid X_{i+1}) - I(m_i; Y_{i+1} \mid X_{i+1}). \tag{4}$$

这简单来说就是”完整上下文 $M_i$ 中原本有多少关于 $Y_{i+1}$ 的下游相关信息，减去实际有多少存活进了压缩后的 relay $m_i$“。根据公式 (1) 的马尔可夫关系，一个被压缩过的 $m_i$ 永远不可能携带超过其压缩源的、与目标相关的信息，因此 $\Delta_i(m_i) \ge 0$ 总是成立。当 $\Delta_i(m_i) = 0$ 时，称该 relay 为充分的（sufficient）——它没有丢失下一个 worker 需要的任何东西。当 $\Delta_i(m_i) > 0$ 时，称为不充分的（insufficient），数值越大，压缩造成的损害就越严重。

把定义 4.1 代回一般 IB 目标（公式 2），重新整理各项之后（把 $I(m_i; Y_{i+1}\mid X_{i+1}) = I(M_i; Y_{i+1}\mid X_{i+1}) - \Delta_i(m_i)$ 展开，并把 $-\beta$ 分配进去）：

$$L^{\text{MAS}}_i(m_i; \beta) = I(M_i; m_i) + \beta \Delta_i(m_i) - \beta \, I(M_i; Y_{i+1}\mid X_{i+1}). \tag{5}$$

最后一项完全不依赖于 relay 的设计——它是任务和分解方式的固定属性——因此在比较同一个 worker 接口的两种不同 relay 选择时，这一项会直接消去。

现在定义相对于 SAS（零压缩）基线的MAS 收益：$G_i^{\text{MAS}} \triangleq L_i^{\text{SAS}} - L_i^{\text{MAS}}$（收益被定义为目标函数值的降低——记住 IB 目标是我们希望它小的东西，所以 $L^{\text{MAS}}$ 比 $L^{\text{SAS}}$ 更小才是真正的改进）。用公式 (3) 减去公式 (5) 并化简（共有的 $-\beta I(M_i;Y_{i+1}\mid X_{i+1})$ 项恰好相消，而 $I(M_i;M_i) = H(M_i)$，$H(M_i) - I(M_i;m_i) = H(M_i\mid m_i)$ 则是条件熵的定义），得到论文的主线结果：

定理 4.1（MAS 收益分解）：

$$G_i^{\text{MAS}} = \underbrace{H(M_i \mid m_i)}_{\text{上游上下文压缩}} \; - \; \underbrace{\beta \, \Delta_i(m_i)}_{\text{模型能力} \times \text{relay 信息损失}}. \tag{6}$$

这里每一个符号都有具体、可检验的含义。$H(M_i \mid m_i)$ 是”只知道压缩后的 relay 时，关于完整上下文的残余不确定性”——直观地说，就是”relay 成功剥离掉了多少嘈杂、无关的杂质？“这是收益项，且总是非负的（你不可能失去你本来就没有的熵）。$\beta \Delta_i(m_i)$ 是随噪音一起被丢弃的下游相关信号所付出的、按能力加权的代价。MAS 在这个接口处局部有利，当且仅当：

$$G_i^{\text{MAS}} > 0 \iff H(M_i \mid m_i) > \beta \, \Delta_i(m_i). \tag{7}$$

这一个不等式，就是这篇论文全部经验主张被压缩成的一行公式：上下文压缩带来的收益，必须超过按能力加权的信息损失。 因为 $\beta$ 随下游模型能力增大，同一个 relay 设计、同一个任务，可以根据读取这条 relay 的模型不同，落在这个不等式的任意一侧——这正是实验部分最终确认的那个”MAS 帮弱模型、拖累强模型”的模式的根源。

为什么某个设计选择要这样做——讨论

为什么把 β 表述为能力而不是直接估计它？ 一个明显的替代方案是尝试对给定模型经验性地估计 β（例如通过拟合观察到的性能数据），把这个框架变成一个预测性、定量化的工具，而不是一个定性的、解释性的工具。论文明确没有这样做，而是把 β 当作一个随能力单调递增的定性参数。这是论文自己承认的一个真实局限（见下文”局限性”）：这意味着定理 4.1 解释了为什么一个模式应该成立，并预测了它的方向，但无法在事前告诉你，对一个全新的任务和模型组合，交叉点具体在哪里。这种定性选择的好处是通用性——你不需要为每一对模型/任务都做一次昂贵的校准程序，就能得到方向性的预测——但代价是这个框架是解释性的，而不是一个可直接部署的、先验的规模估算工具。

为什么用 relay信息损失 $\Delta_i$ 而不是简单的 relay长度（token 数）作为设计杠杆？ relay 更短，未必就更差；relay 更长，也未必就更好——真正重要的是保留下来的具体比特，是不是下游 worker 真正需要的那些。论文 Table 4 的消融实验把这个区分变得具体而因果：他们构造出的”不充分”relay 变体，并不是在某种粗糙意义上更短，而是被专门剥去了已知与下游相关的字段（例如从 ALFWorld 的 relay 中去掉物体位置，或从 WebShop 的 relay 中去掉价格/属性/导航历史），并展示了性能下降作为直接后果——从而证明驱动这个权衡的是内容，而不是长度。使用 token 数作为 relay 质量的廉价代理这一明显替代方案，本可以更容易自动化测量，但论文正确地指出，token 数和信息充分性之间只有松散的相关性，一个基于长度的度量本会错过论文真正想要隔离的那个因果机制。

为什么对 SAS-contextflow 和 MAS 使用完全相同的任务分解方式，而不是直接把 MAS 与一个普通、未分解的 SAS 比较？ 这是论文最重要的实验设计选择，值得花时间说明为什么一个朴素的 MAS-vs-SAS 比较在科学上会更弱。如果只把 MAS 与朴素 SAS 比较，观察到的任何收益都会被混淆：它可能来自任务分解本身（把一个难问题拆成更简单的子问题，与任何上下文隔离无关），也可能来自基于 relay 的上下文隔离——而这正是论文理论真正关心的东西。通过引入SAS-contextflow——一个遵循与 MAS 完全相同的、由规划器诱导的子任务序列，但始终保持一个共享、未压缩上下文的单智能体——论文创造了一个对照条件，它与 MAS 只在一个变量上不同：共享上下文是否被有损 relay 取代。SAS-contextflow 和 MAS 之间任何残余的差距，现在都可以清楚地归因于 relay 压缩，而不是分解本身。这是论文自己的规范消融实验，第 6 节单独进行的”规划结构本身能解释 MAS 收益吗？“实验（论文 Table 3，使用一个相关的 SAS-Plan 变体）直接证实了：不带上下文隔离的分解本身，并不能复现 MAS 的收益——SAS-Plan 在 ALFWorld 上，在所有三个模型上都表现得比朴素 SAS 更差，这凸显出真正起作用的是隔离机制，而不是子任务结构。

这个设计选择在哪里失效？ SAS/SAS-contextflow/MAS 这个受控三方比较，对于把 relay 压缩隔离为一个机制来说是干净的，但它必然把规划器的分解策略固定在 SAS-contextflow 和 MAS 之间保持一致。如果一种不同的分解方式（不同的子任务边界，不同的 worker 责任分配）本可以产生一种对 relay 更友好的结构——比如说，重新设计 WorkBench 的分解方式，让跨领域证据收集和写入操作由同一个 worker 处理，而不是被拆到 relay 边界的两侧——论文的框架并不能告诉我们如何找到那个更好的分解；它只能诊断出一个给定分解方式的 relay 有多好或多坏。论文在其”启示”部分隐含地承认了这个局限的某个版本，把”联合优化 relay 编码器与下游任务”框定为未来工作，而不是一个已经解决的问题。

对收益分解式的一次数值直觉检验

把玩具数字代入定理 4.1 会很有帮助，能让它从纯符号变得具体可感，而不只是抽象的推导。假设对某一个 relay 接口而言，完整上游上下文 $M_i$ 的熵为 $H(M_i) = 10$ 比特，而某个候选 relay $m_i$ 只保留了其中的 $H(m_i) = 3$ 比特（因此 $I(M_i; m_i) \le \min(H(M_i), H(m_i)) = 3$ 比特是最好情况下的取值，即 relay 是 $M_i$ 的确定性函数，这对于压缩摘要而言是典型情形）。那么上游上下文压缩项就是 $H(M_i \mid m_i) = H(M_i) - I(M_i;m_i) = 10 - 3 = 7$ 比特：成功剥离掉了七个比特的上游杂质。现在假设 $M_i$ 中可能存在的最大下游相关信息量为 $I(M_i; Y_{i+1}\mid X_{i+1}) = 2$ 比特，而压缩后的 relay 成功保留了其中的 $I(m_i; Y_{i+1}\mid X_{i+1}) = 1.5$ 比特——那么根据定义 4.1，$\Delta_i(m_i) = 2 - 1.5 = 0.5$ 比特的下游相关信息丢失了。代入公式 (7)：在这个接口处 MAS 有利，当且仅当 $7 > \beta \times 0.5$，即 $\beta < 14$。如果下游模型足够弱，其有效 β 明显低于 14（它反正也用不好丰富的上下文，所以不太在意那丢失的 0.5 比特），MAS 会舒适地获胜。如果下游模型足够强，其有效 β 攀升超过 14（它本可以高效利用那丢失的 0.5 比特），同样的 relay 设计就会翻转为净损失——这正是实验部分报告的 WebShop 和 TravelPlanner-HC 符号翻转背后的确切机制，只不过这里用的是示意性而非实际测量的数字，因为（如下文”局限性”部分所讨论的）论文本身并没有对这些比特量做过经验估计。

把实验数字放到整体视角中看

值得明确对比各个状态下收益和损失的量级大小，因为单看原始数字容易低估这个定性模式究竟有多尖锐。在 $\delta \approx 0$ 状态下，MAS 相对 SAS-contextflow 的优势在所报告的全部 9 个单元格（3 个基准 × 3 个模型：ALFWorld、WideSearch、TravelPlanner-CS）中均为正值，这些单元格的平均收益约为 +0.096——在若干情况下（例如最弱模型上 ALFWorld 的 +0.194）是一个两位数百分点级别的、有实际意义的改进。在 $\delta > 0$ / $\delta \gg 0$ 状态下，图景完全反转：WorkBench 在全部 3 个单元格中均为负；WebShop/TravelPlanner-HC 合计贡献 4 个正值单元格和 2 个负值单元格，而这 2 个负值单元格都恰好出现在最强模型（Qwen3.5-27B）上——正是理论预测中最容易暴露于 relay 信息损失的那个模型 × 基准组合。这种不对称性（在充分-relay 状态下始终为正，而在不充分-relay 状态下恰好在高能力处系统性地翻转为负）是论文中最有力的一条量化证据，也远比孤立地看任何单个基准的数字更有说服力。

一个实用算法：为新任务在 MAS 与 SAS 之间做结构性抉择

虽然论文本身并没有把这个内容呈现为一个编号算法，但定理 4.1 和五基准分类法合在一起，隐含着一个具体、可操作的决策流程，供实践者在为一个新任务投入工程精力搭建多智能体架构之前使用。我把它明确写成伪代码，因为这种”如何实际使用”的推导细节，正是论文理论部分留得隐式、未明言的地方。

算法 2：对新任务在 MAS 与 SAS 之间做结构性抉择

1. 输入： 一个候选任务、一个由规划器诱导的子任务分解 $X_1, \ldots, X_n$，以及一个能力层次非正式已知（弱/中/强）的候选下游模型。
2. 为每个 worker 接口估计 relay 复杂度 $\delta$：问自己——下一个 worker 的目标 $Y_{i+1}$ 是否需要从上游 worker 获得精确、难以摘要的证据（物体 ID、时间戳、累计数字、全局约束），还是可以用一个紧凑的自然语言摘要就能满足？若为前者，设 $\delta \gg 0$；若为后者，设 $\delta \approx 0$；介于两者之间的情况（需要部分证据，例如产品属性但不需要完整导航历史）则设 $\delta > 0$。
3. 如果所有接口都是 $\delta \approx 0$： 优先选择 MAS。上下文隔离会以低风险地剥除无关的上游杂质，因此对任何 $\beta$ 而言，$H(M_i\mid m_i)$ 都会占主导。
4. 如果任何接口为 $\delta \gg 0$且下游模型很强： 优先选择 SAS（或如果因其他原因仍需要子任务结构，例如工具使用范围限定，可选用 SAS-contextflow）。一个强模型很大的有效 $\beta$ 意味着即便很小的 $\Delta_i(m_i)$ 也会被放大成一个巨大的代价项，而强模型恰好最能高效地利用完整共享上下文。
5. 如果 $\delta > 0$（中间状态）且下游模型为弱到中等： MAS 很可能仍然净收益，因为 $\beta$ 足够小，即便存在非平凡的信息损失也不会超过上下文压缩带来的收益——但要把这当作最容易在升级基础模型后发生翻转的状态，并在任何模型替换之后重新运行这个抉择。
6. 在所有情况下，优先设计内容选择型而非单纯缩短型的 relay： 根据 Table 4 的因果消融实验，故意删除特定下游所需字段（而不仅仅是截断长度）才是驱动测量性能代价的实际因素，因此 relay 设计精力最好花在”下一个 worker 到底需要哪些具体事实”上，而不是”如何压缩这段转写稿”上。
7. 输出： 一个按接口给出的结构性建议（MAS / SAS / SAS-contextflow），在投入生产之前仍需经由实验验证，因为上述抉择只是一个定性框架给出的方向性建议，而非保证性预测（参见下文”局限性”）。

这套抉择流程，实质上是对定理 4.1 形式上说的一切的一个压缩的操作总结——而把它明确写出来也同时暴露了理论其定性本质（第 2 步中对 $\delta$ 的非正式分配，以及”弱/中/强”能力分层而非实测 $\beta$）在什么地方使实践者仍然需要依赖判断力而非一个计算出的阈值。

配图

图 1（论文 Fig.1）：论文自己对其核心预测的概念性总结——MAS 收益作为 relay 复杂度和模型能力的函数。绿色区域表示上下文压缩收益占优的地方（MAS 有用）；红色/负值区域表示 relay 信息损失占优的地方（MAS 有害），且随着模型变强，天平向损失一侧倾斜。

图 2（论文 Fig.2）：三种受控原型并排展示——SAS（单一共享上下文）、SAS-contextflow（相同的规划器诱导分解，仍保持单一共享上下文），以及 MAS（相同的分解，但隔离的 worker 上下文只通过压缩后的 relay $m_1, m_2$ 相连）。这正是隔离出 relay 压缩作为因果机制的实验设计，在上文的设计选择讨论中有详细说明。

图 3：一张自绘的示意图，展示单个 MAS relay 接口内部的信息流，对应公式 (1)-(7)：worker $i$ 的完整上下文 $M_i$ 被 $\text{Agg}_i$ 压缩为 relay $m_i$，只有它（而非 $M_i$）对 worker $i+1$ 可见，worker $i+1$ 在目标 $Y_{i+1}$ 上的表现，取决于 $I(M_i;Y_{i+1}\mid X_{i+1})$ 中有多少在压缩过程中存活了下来。

flowchart LR
    subgraph WorkerI["Worker i"]
        Mi["完整上下文 M_i<br/>（所有想法、动作、观察）"]
        Aggi["聚合器 Agg_i<br/>（压缩 / 摘要）"]
        Mi --> Aggi
    end
    Aggi --> mi["Relay 消息 m_i<br/>（有限带宽 B_sys）"]
    subgraph WorkerI1["Worker i+1"]
        Xi1["子指令 X_(i+1)"]
        M0["初始上下文 M_0^(i+1) = (X_(i+1), o_0) ⊕ m_i"]
        Yi1["下游目标 Y_(i+1)"]
        Xi1 --> M0
        mi --> M0
        M0 -.影响.-> Yi1
    end
    Mi -. "Worker i+1 无法看到<br/>（只能看到 m_i）" .-> WorkerI1

图 4（论文 Fig.3）：所有五个基准和三个模型规模（Qwen2.5-7B、GPT-4o-mini、Qwen3.5-27B）的主要实验结果，绿色/红色阴影分别表示 MAS 优于/劣于 SAS-contextflow 的地方。这是论文核心主张的主要证据，下文”实验”部分逐个基准进行了讨论。

图 5（论文 Table 3，以图形式呈现）：SAS-Plan 消融实验，用于隔离规划结构本身（不带上下文隔离）能否解释 MAS 的收益。SAS-Plan 使用与 MAS 相同的分解子指令，但保持单一共享上下文，且它稳定地表现得比朴素 SAS 更差——这是分解本身并非机制所在的直接证据。

图 6（论文 Table 4，以图形式呈现）：ALFWorld 和 WebShop 上的因果 relay 充分性消融实验，在保持分解方式匹配的前提下，比较正常（“充分”）relay 与故意剥去信息的（“不充分”）relay——这是论文中证明 $\Delta_i(m_i)$ 是真实性能代价的最强因果证据。

实验：用五个基准检验理论

实验设置

论文在三个跨越真实能力范围的模型规模上评测三种受控原型——SAS、SAS-contextflow、MAS：Qwen2.5-7B-Instruct（通过 vLLM 在本地以 bfloat16 部署）、GPT-4o-mini（通过 OpenAI API）、以及使用 AWQ 4-bit 量化 checkpoint 的 Qwen3.5-27B（同样通过 vLLM 本地部署）。所有原型都使用贪婪解码（温度 0.0），并在每个基准上匹配相同的总步骤预算，这样 MAS 把任务拆给多个 worker 就不会因为”总计算量更多”而占到不公平的便宜。

五个基准被特意选择来覆盖论文所谓relay 复杂度（$\delta$）的一个范围——非正式地说，就是对下游 worker 而言充分（即 $\Delta_i = 0$）的 relay 消息的最小描述长度。ALFWorld（家庭导航与操作任务）和 WideSearch（结构化的、大多相互独立的信息检索子查询）被分配 $\delta \approx 0$：它们的自然任务结构意味着一条简短的 relay（比如”物体在架子上”）确实能携带下一个 worker 需要的一切。WorkBench（需要在执行写入操作之前先获取精确的先前读取结果，如物体 ID 和时间戳的多领域办公软件任务）被分配 $\delta \gg 0$：一个有限的 relay 基本上无法保留写入操作所需的一切。WebShop（先搜索再购买的电商任务）和 TravelPlanner 的硬约束检查（全局行程一致性，例如跨所有天数的总预算）介于两者之间，为 $\delta > 0$。TravelPlanner 被特别当作一个混合状态的基准处理：它的常识检查（单日计划的局部可行性）是 $\delta \approx 0$，而它的硬约束（全局预算、跨日一致性）是 $\delta > 0$——分别报告为 CS-macro 和 HC-macro 两个指标。

主要结果：预测的分裂模式得到证实

论文的 Table 2（此处不完整复现，只做总结）按各基准的 $\delta$ 分组，报告了 MAS 相对 SAS-contextflow 在三个模型规模上的收益。这个模式清晰得惊人：

对于低复杂度 relay 基准（$\delta \approx 0$）：ALFWorld 显示 MAS 优于 SAS-contextflow +0.194、+0.157、+0.023（分别对应 Qwen2.5-7B、GPT-4o-mini、Qwen3.5-27B）——始终为正，但随能力增大而缩小，正如公式 (7) 所预测的那样（同样的 $H(M_i\mid m_i)$ 收益，被不断增大的 β 越来越多地抵消，即便 $\Delta_i$ 本身保持很小）。WideSearch 显示相同的定性模式：Item F1 上分别为 +0.079、+0.063、+0.028。TravelPlanner-CS：+0.011、+0.183、+0.028。

对于高复杂度 relay 基准（$\delta > 0$ 或 $\delta \gg 0$）：WorkBench 在每一个模型规模上都显示 MAS输给了 SAS-contextflow（-0.005、-0.086、-0.014）——relay 根本无法保留下游写入操作所需的精确物体 ID、时间戳和先前读取结果，因此无论模型能力如何，$\beta \Delta_i(m_i)$ 都占据主导。WebShop 和 TravelPlanner-HC 展现了论文中最尖锐、最有意思的模式：一个随能力反转的符号翻转。WebShop 从（弱模型和中等模型上）+0.080 和 +0.086（MAS 仍然有用）变为 Qwen3.5-27B 上的 -0.003（MAS 开始有害）。TravelPlanner-HC 展现出更戏剧性的翻转：两个较弱模型上分别为 +0.017 和 +0.161，在 Qwen3.5-27B 上崩塌为 -0.233。这正是公式 (7) 所预测的定性特征：随着 β 随能力增大，$H(M_i\mid m_i) = \beta\Delta_i(m_i)$ 的交叉点可以被完全越过，从而翻转收益的符号。

一个具体的案例研究：亲眼看着符号翻转发生

论文包含一个具体案例（TravelPlanner 任务 tp_1：一个 3 天的 Oakland 到 Tucson 行程，硬预算为 $1,400），使得这个抽象的符号翻转变得具体可感。预算约束是一个计划级全局量——它从未被交给任何一个 MAS 子智能体的子指令，只隐式地在完整上下文中被追踪。在 GPT-4o-mini（中等能力，较小的 β）上，SAS-contextflow 的共享上下文变得足够杂乱，以至于三天中有两天的住宿槽位空缺（在预算检查甚至运行之前，就未能通过一项有效性门控），而 MAS 的隔离 worker 们——每个都从一个干净的上下文开始——实际上产出了唯一一个符合预算的行程——这是一个上下文压缩明显获胜的案例。在 Qwen3.5-27B（高能力，较大的 β）上，模式发生反转：SAS-contextflow 能够在其长共享上下文中一直保留并主动使用可见的 $1,400 上限，并保持在预算内，而 MAS 压缩后的 relay 在最后一天丢失了那个明确的预算数字，产出了一个 $1,599 的、未通过硬约束的行程。同一个任务，同一个预算数字，同样名义上的”3 天行程”结构——却因为下游模型的能力把公式 (7) 中的有效 β 移过了交叉点，而得到了相反的结果。

消融实验：隔离因果机制

两项进一步的消融实验使这个因果故事更加尖锐。第一，规划结构消融（上文讨论的 SAS-Plan）显示，不带上下文隔离的分解本身，并不能解释 MAS 的收益——SAS-Plan 在 ALFWorld 上，在所有三个模型上都比朴素 SAS 表现更差（-0.068、-0.059、-0.194），排除了”把问题拆成更简单的部分”作为起作用的机制。第二，relay 充分性消融（Table 4）通过故意删除下游所需字段来构造”不充分”的 relay 变体——ALFWorld 中删去物体位置和状态，WebShop 中删去价格/属性/导航——同时保持 MAS 的分解方式基本不变，结果显示随着 relay 充分性的人为退化，性能在所有模型规模上都持续下降（例如，随着 relay 充分性退化，ALFWorld 的成功率对三个模型分别下降了 0.015、0.015 和 0.052）。这是论文中最好的直接证据，证明 $\Delta_i(m_i)$ 不只是一个数学上方便、恰好与性能相关的量——刻意操纵它，会造成预测中的性能变化。

案例研究表格的细读：两个模型之间到底改变了什么

值得再慢慢重读一遍上文总结的 TravelPlanner tp_1 案例研究，因为很容易跳过到底改变了什么，在 GPT-4o-mini 的运行和 Qwen3.5-27B 的运行之间。交给每个 worker 的子任务规格（交通、住宿、餐饮、景点）在两次模型运行之间是固定不变的——相同的代码定义子规格、相同的分解方式、相同的 relay 边界。唯一不同的两件事是：(a) 哪个基础模型在每个 worker 内部进行推理，以及 (b) 该特定模型的 SAS-contextflow 运行，在到达最终一致性检查时，是否碰巧注意到并保留了 $1,400 这个计划级全局预算数字。在 GPT-4o-mini 上，这个预算数字在共享上下文的某处被埋没、事实上丢失了（论文将其归因于有效性门控的排序问题：is_not_absent 在 valid_cost 甚至被评估之前就先进行门控，因此一个不完整的计划根本没有机会到达预算检查这一步），因此 MAS 那些干净、隔离的按天 worker——它们从未接触过之前几天的住宿决策，因而不会被搞混——实际上表现更好。在 Qwen3.5-27B 上，同样的 $1,400 数字在长共享 SAS-contextflow 上下文中清楚地存活下来（一个更强的模型，只是更擅长在长上下文中保留并使用一个单一的显著数字），而 MAS 基于 relay 的 worker 在最后一天丢失了这个确切数字，超支到了 $1,599。这个例子带来的教训是，论文抽象的 β 并不是什么神秘的潜在特质——它具体地体现为”这个特定模型在一段长共享文本中，保留并使用一个重要数字的能力有多强”，这是一个非常接地气的能力，随着模型规模和后训练质量的提升而可预测地变化。

关于”局部到下游充分性”命题的补充推导

附录 A.3 给出的这一结论值得单独展开，因为它是理论从”单接口”扩展到”多跳链条”时最容易被读者忽略的一环。设 $M_i$ 为 worker $i$ 的完整上下文，$m_i$ 为其 relay。称 $m_i$ 对紧邻目标 $Y_{i+1}$ 局部充分，如果 $I(Y_{i+1}; M_i \mid m_i, X_{i+1}) = 0$——即给定 $m_i$ 和 $X_{i+1}$ 后，完整上下文 $M_i$ 已不再提供关于 $Y_{i+1}$ 的额外信息。论文接着问：这个局部条件何时能推广到更晚的目标 $Y_j$（$j > i+1$）？答案依赖于两个结构性条件同时成立：第一，中介下游依赖，即 $I(Y_j; M_i \mid Y_{i+1}, X_{i+1}, X_j) = 0$，意味着 $M_i$ 对 $Y_j$ 的全部影响都经由相邻目标 $Y_{i+1}$ 传递；第二，下游上下文非干扰，即 $I(Y_{i+1}; M_i \mid m_i, X_{i+1}, X_j) = I(Y_{i+1}; M_i \mid m_i, X_{i+1})$，排除了后续子指令 $X_j$ 反过来改变 $M_i$、$m_i$、$Y_{i+1}$ 三者之间局部充分关系的可能性。当这两个条件同时满足时，局部充分性可以严格地传递到更晚的目标；但如果 $I(Y_j; M_i \mid Y_{i+1}, X_{i+1}, X_j) > 0$，则说明分解方式留下了一条隐藏的长程依赖——$M_i$ 中包含着某些与 $Y_j$ 相关、却没有被相邻目标 $Y_{i+1}$ 捕捉到的信息，此时一个对 $Y_{i+1}$ 局部充分的 relay，仍可能对 $Y_j$ 不充分。这一附加推导的实际意义是：定理 4.1 的干净二分法（收益项 vs. 损失项）严格来说只保证在”相邻一跳”的范围内成立，而现实中的多阶段 MAS 流水线（例如 TravelPlanner 的五阶段分解）需要额外验证这两个结构性条件，才能把单接口的结论安全地推广到整个链条上的最终表现。

局限性

作者们坦率地承认了自己框架的若干边界，这些内容值得仔细阅读，而不是一带而过。首先，β 被定性处理，而没有被定量估计——论文从未对任何一个模型实际测量过一个数值化的 β；它只是断言（并经验性地证实）β 随能力单调增大。这意味着定理 4.1 给出了一个效应的方向，但没有给出一种方法，让你能事先为一个尚未测试过的新任务/模型组合计算出交叉点具体在哪里。第二，relay 复杂度 δ 是通过定性的任务结构分析来分配的，而不是被测量出来的：论文自己的五基准分类法（$\delta \approx 0$、$\delta > 0$、$\delta \gg 0$）来自作者对每个任务下游步骤所需信息的领域推理，而不是来自一个自动化或有原则的定量估计器。第三，论文所陈述的理论本质上是一个局部的、单一 relay 接口的结果（定理 4.1 只关心 worker $i$ 和 worker $i+1$ 之间的一个接口）；论文自己在第 4.2 节”局部到下游充分性”的讨论表明，对紧邻下一个目标的局部充分性，并不会自动蕴含对更晚下游目标的充分性，除非满足额外的结构性条件（中介依赖、非干扰）——这意味着长链条的 worker 可能存在隐藏的长程依赖失败，是这个局部定理本身无法单独捕捉的。第四，模型阵容仅限于三个特定的 checkpoint（Qwen2.5-7B、GPT-4o-mini、Qwen3.5-27B-AWQ-4bit），且都取自各自发布时间线上的单一时间点——能力-β 关系是否能在不同模型家族和不同后训练方案之间平滑泛化，或者某些模型是否会表现出非单调行为，仍是一个开放问题。第五，实验中所有的 relay 和分解方式都由固定的、手工设计的提示词产生（附录 D），而不是学习或优化出来的 relay 编码器——论文明确把”联合优化 relay 与下游任务”框定为未来工作，而不是已经验证过的东西。

再看一次定理 4.1 的两个极端情况

把公式 (7) 中的两个极端情况写开，能帮助把它的适用范围想得更清楚。极端一：当 $\Delta_i(m_i) = 0$（relay 完全充分）时，不等式右侧恒为零，因此只要 $H(M_i\mid m_i) > 0$（即只要 relay 真的比完整上下文短，一丁点也没多余），MAS 无论模型有多强都一定获胜。这对应于 ALFWorld 、WideSearch 类 $\delta \approx 0$ 基准上观察到的“三个模型均为正”现象。极端二：当 $H(M_i\mid m_i) \to 0$（relay 几乎不压缩任何东西，就像命题 3.1 构造中的恒等 relay）时，不等式左侧恒为零，因此只要 $\Delta_i(m_i) > 0$（任何非零的信息损失），无论 β 多小，MAS 都无法获胜——这对应于一个真正“没有任何压缩优势”的 relay 设计（比如一个自身就很紧凑、几乎无法再压缩的上下文）。现实中绝大多数情况都落在这两个极端之间，也正因如此，$\beta$ 的具体取值才真正影响了结果——这也是为什么 WebShop 和 TravelPlanner-HC 会出现随能力变化而翻转符号的现象，而 ALFWorld 类基准则不会。

一个尚未被充分讨论的细节：规划器本身的质量

在整篇论文的形式化推导中，规划器（planner，负责把 $X$ 拆分为 $X_1, \ldots, X_n$）本身的质量始终被当作一个固定、已知的输入。但在真实部署中，规划器自身也是一个 LLM 推理的产物，它可能把任务拆得不好——比如把本应该在同一个 worker 内处理的两个强相关子任务，分配到了两个不同的 worker 上，从而人为地抬高了接口处的 relay 复杂度 $\delta$。定理 4.1 本身对这种情况保持沉默：它只诊断给定分解下的 relay 好不好，并不诊断分解本身好不好。这意味着在实践中，在应用这套理论之前，先进行一轮人工或自动化的任务分解质量审查，往往比直接对一个次优分解应用本框架更有性价比。

批判性分析

这篇论文特有的弱点与缺陷。 最重要的技术缺口在于，整个经验验证都依赖于论文核心定量主张的一个定性代理。定理 4.1 的不等式 $H(M_i\mid m_i) > \beta \Delta_i(m_i)$，是一个关于具体信息论量的精确、可检验的陈述——但论文从未对任何真实实验数值化地估计过 $H(M_i\mid m_i)$、$\Delta_i(m_i)$ 或 β。相反，经验验证用一个粗略的五级 δ 状态分类（由作者自己对任务结构的判断来分配）以及一个隐含的、未经测量的假设——“能力”和”β”是同步移动的——来代替。这是一个真实的风险：这个理论可能是完全正确的，同时对它的经验支持，更接近于”一个能拟合观察模式的、看似合理的定性故事”，而不是”一个经过定量验证的因果模型”。一个更严谨的版本，本应尝试直接估计互信息各项——即便是粗糙的估计器（例如，使用一个较小的代理模型来计算上下文/relay 对的条件熵，或使用像 MINE 或 CLUB 这样的变分互信息估计器）也能让作者检验 $H(M_i\mid m_i)$ 和 $\Delta_i(m_i)$ 的量级是否真的定量地追踪了观察到的性能差距，而不只是方向上的追踪。

作者低估或遗漏的局限性。 论文对 δ 状态分配的讨论，读起来比它经过仔细检验后实际的样子更加”有原则”——例如，TravelPlanner 被明确拆分成”CS”（$\delta \approx 0$）和”HC”（$\delta > 0$）两部分，但这个二元拆分本身就是一个关于什么算”局部”、什么算”全局”信息的判断call，同一个任务一种同样合理的不同分解方式，完全可能被赋予不同的分类。更重要的是，论文没有认真地正视这样一种可能性：它自己受控的三个原型（SAS、SAS-contextflow、MAS）也许并不是设计空间中仅有的三个有趣的点——真实的生产环境多智能体系统经常使用混合设计（例如，可以按需请求额外上下文的 MAS worker，或者某些 worker 共享上下文而其他 worker 不共享的层级化设计），而论文干净的三方分类法，并没有明显地扩展到刻画这些中间设计，即便它们才可能更能代表 MAS 在实践中真实的部署方式。论文第 7 节”启示”部分对”自适应 relay”作为未来工作有所提及，但没有讨论具体是什么机制（学习到的压缩？检索增强的 relay？按需上下文请求？）能够真正以一种可控的方式，把一个设计从不等式的一侧移到另一侧。

具体、可操作的改进建议。 (1) 至少为一个基准/模型组合，添加对定理 4.1 中互信息量的直接、哪怕是近似的估计——例如，使用一个基于掩码语言模型的条件熵估计器，作用于 WorkBench 实验中实际收集到的上下文/relay 文本对，来检验 $H(M_i\mid m_i) - \beta\Delta_i(m_i)$ 的符号和大致量级，是否真的追踪了观察到的 MAS-vs-SAS-contextflow 性能差距，而不是仅仅依赖定性的 δ 状态分类法。(2) 用至少一种自适应/混合 relay 设计来扩展这个三原型比较——例如，一个 MAS 变体，其中的 worker 在检测到自己收到的 relay 不充分时，可以向前一个 worker 发出后续查询——以检验这个框架的预测是否能干净地推广到本文所研究的固定、一次性 relay 设置之外的设计。(3) 为每个基准，在 δ 状态分类法旁边报告一个显式的 relay 消息长度（token 数）估计，这样读者就能区分：MAS 的收益是由真正的内容选择质量驱动的（论文的核心主张），还是可能被”MAS 的 relay 恰好更短，因此更少分散注意力”这一相关但概念上不同的效应所混淆——论文自己的 Table 4 消融实验暗示了这一点，但没有完全把它和长度效应区分开。(4) 至少再测试一个”中间”能力水平的点（例如一个能力介于 GPT-4o-mini 和 Qwen3.5-27B 之间的模型），来检验 WebShop 和 TravelPlanner-HC 上的交叉点是逐渐发生的（如公式 7 平滑的 β 依赖关系所预测的那样），还是更突然地发生的，这会实质性地影响实践者应该如何判断”我的模型是否强到 MAS 会开始拖累我完成这个任务”。

五个基准的逐个对比解读

值得把五个基准并排在一起，逐个看它们各自的任务结构为什么导致了论文预测的不同 $\delta$ 状态。ALFWorld 是一个具体化家庭环境中的导航与操作任务，其子目标天然具有空间局部性：一旦探索 worker 找到了目标物体的位置，执行 worker 只需要知道这个位置就能完成剩余动作序列，之前的导航历史对下一步几乎没有任何额外价值，因此 $\delta \approx 0$。WideSearch 的子查询彼此大致独立，每个子任务只负责表格的一部分，大多数行不依赖其他行的信息就能恢复，因此同样属于充分 relay 状态。WorkBench 则处于完全相反的极端：写入操作（发送邮件、创建日历事件等）必须依赖先前读取操作的精确结果（具体的对象 ID、时间戳、姓名到邮箱的映射关系），这些细节在有限带宽下非常难保留，使得 $\delta \gg 0$。WebShop 的搜索-选购分解允许 relay 摘要候选产品，但最终选购仍依赖细粒度的属性、价格、筛选标准和导航历史，产生中等 $\delta > 0$。TravelPlanner 的独特之处在于它内部就存在两种不同的信息结构：常识性检查（交通、住宿、餐饮、景点的单日可行性）本质上是局部的（$\delta \approx 0$），而硬约束（总预算、房型、菜系覆盖、跨日一致性）需要全局证据（$\delta > 0$）——这一混合结构正是论文选择将其 CS 和 HC 指标分开报告的原因，也为上文的 tp_1 案例提供了肥沃的土壤——同一个任务内部就同时包含了 $\delta \approx 0$ 和 $\delta > 0$ 两种子结构，使得它成为观察同一任务内不同 relay 状态如何影响 MAS 收益的理想实验室。

从信息论角度看：为什么“只报告方向、不估计比特数”仍然有价值

一个合理的质疑是：既然论文从未实际估计定理 4.1 中的任何一个互信息项，它到底还能提供什么比“纯经验观察”更多的价值？答案在于，它把一个原本一维的经验现象（“MAS 有时有用有时没用”），拆解成了两个可以独立推理的维度：任务结构本身的 relay 复杂度，以及下游模型的能力等级。这意味着，即便你无法精确测量 $\beta$ 或 $\Delta_i$，你仍然可以对一个全新的任务做定性推理：先问“这个任务的下游步骤需要多详细的上游证据”，再问“我打算用的模型有多强”，两个答案一合，就能大致判断出自己处在公式 (7) 不等式的哪一侧。这正是信息理论形式化带来的真正价值：它不需要你实际去计算比特数，就能给你一个有结构、可解释、可证伪的思考框架，而不是一堆无法相互迁移的基准特定经验规律。

与已有 MAS-vs-SAS 争论的联系

论文明确把自己定位在一系列不断增长的经验研究文献的对立面，这些文献报告说 MAS 的收益”随着基础模型能力提升而递减”（引用了包括之前一项关于多跳推理的发现在内的多篇文献，该发现显示在相等思考 token 预算下，一个单独的强智能体能匹敌甚至超过一个多智能体流水线）。这篇论文相对于此前经验文献增加的东西，是一个机制性的解释，说明为什么会出现这种递减收益的模式，而不只是观察到它。区别性的关键做法，是把”MAS 收益”这一个经验量，分解成两个被单独命名、符号相反的组成部分（上游上下文压缩和按能力加权的 relay 损失），使得递减的 MAS 收益不再只是一条无法解释的趋势线，而是 β 随能力增大、同时 $H(M_i\mid m_i)$ 和 $\Delta_i(m_i)$ 作为任务 relay 设计的相对固定属性保持不变时，一个可预测的后果。这种重新表述还解释了此前经验工作留下的一个未解决的细节：为什么递减收益的模式并不是普适的——在低复杂度 relay 基准（ALFWorld、WideSearch、TravelPlanner-CS）上，论文自己的结果显示 MAS 收益随能力缩小，但在测试范围内从未真正跨越零点；而在高复杂度基准上，同样的缩小趋势确实跨越了零点。在论文的框架下，这正是你所期望的：公式 (7) 中的交叉点同时取决于 β 和 $\Delta_i(m_i)$，只有当 $\Delta_i(m_i)$ 本身足够大时，一个现实幅度的能力增长，才会真正把 $\beta \Delta_i(m_i)$ 推过 $H(M_i\mid m_i)$。

一个常见误读的澄清

有一种常见的误读值得在这里明确排除：本文并不是在说“多智能体系统本质上比单智能体系统差”，也不是在说“分工不如共享上下文有用”。它真正证明的是：在相同的子任务分解下，把共享上下文换成有限带宽的 relay 通信频道，是一个有得有失的交易——得到的是上游噪声的去除，失去的是部分上下文的完整性。多智能体系统并不天生优于或劣于单智能体系统，两者只是 relay 压缩程度轴上的两个特定点，真正决定胜负的，是这个轴上的哪个位置对当前任务和当前模型而言是最优的。

关于发送终止标准的一个补充说明

还有一点值得在总结之前单独提及：论文在引言中引用了多项先前工作（包括论文 [9]、[13]、[14]、[17] 等）作为“MAS 收益随能力提升而递减”这一现象的经验前例，但值得注意的是，这些先前工作大多在不同的任务集合、不同的模型集合上得出结论，并且往往未控制任务分解方式、未隔离 relay 压缩与子任务分解本身的混淆效应。这篇论文的三方受控对比设计（SAS/SAS-contextflow/MAS 固定分解方式）正好补上了这一缺口，使得“递减”这个经验现象能够第一次在受控条件下被精确定位到一个单一变量上——relay 压缩本身，而不是任务分解、提示词工程或其他混淆因素。

结论

这篇论文回答了一个此前主要靠轶事和直觉来争论的问题——“把一个 LLM 任务拆分到多个智能体上，到底有没有用？“——给出了一个真正机制性的、可检验的答案：这取决于你的 relay 消息压缩掉噪音的速度，是否比它丢弃信号的速度更快，而这个平衡点会随着你的基础模型变强而移动。理论核心（命题 3.1 的等价性结果和定理 4.1 的收益分解）既优雅，更重要的是直接可证伪——论文把它放到 18 组受控实验中检验，预测的模式在各个基准和模型规模上都清晰成立，包括 WebShop 和 TravelPlanner-HC 上引人注目的随能力反转的符号翻转。对当下正在搭建智能体系统的任何人来说，最直接实用的收获是：在选择多智能体架构之前，先问一下任务的自然分解方式，是否允许简短、局部、仍然充分的 relay 消息在 worker 之间传递——如果下游步骤真的需要昂贵到难以摘要的详细上游证据（就像 WorkBench 的精确物体 ID 和时间戳那样），一个拥有完整共享上下文的单智能体，尤其是当它本身已经是一个强模型时，很可能会胜过一支专业化的智能体舰队。这个框架剩余的缺口——没有对理论自身关键项的定量估计，也没有探索自适应或混合 relay 设计——正是能把它从一个引人入胜的解释性视角，转变为一个实用的、先验的设计工具的方向。

术语说明：“收益”（gain）vs.”优势”（advantage）vs.”改进”（improvement）

给来自更广泛多智能体文献的读者的一个小但真正有用的澄清：论文的技术术语”MAS 收益”（$G_i^{\text{MAS}}$）是一个由公式 (6) 精确定义的、局部的、IB 目标空间中的量——它并不等同于”MAS 在基准 X 上相对 SAS 的经验性能改进”，尽管两者密切相关，且论文的实验把经验成功率差值当作理论收益的一个可观测代理。这个区分之所以重要，是因为理论上的 $G_i^{\text{MAS}}$ 是按接口定义的（即，局部于两个连续 worker 之间的一个 relay 边界），而报告的基准数字（Table 2、Figure 3）是端到端任务成功率，聚合了可能有若干个 relay 接口串联在一起的效果（例如，TravelPlanner 的五阶段分解在 Table 5 中就有四个先后相连的 relay 接口）。论文第 4.2 节”局部到下游充分性”的讨论正是关于这个缺口的：一个对紧邻下一个 worker 目标是局部充分的 relay，并不会自动对链条上更晚的 worker 目标充分，除非满足附录 A.3 给出的特定中介依赖和非干扰条件。想把论文这个干净的理论故事，映射到一个拥有两个以上 worker 的真实多跳 MAS 流水线上的读者，应该牢记这个局部 vs. 全局的区分，而不是想当然地认为这个单接口定理无需进一步论证就能直接解释端到端的多 worker 结果。

一个补充思考：能力与“信任上下文”的关系

tp_1 案例揭示的现象，其实还可以从另一个角度重新表述：强模型之所以在共享上下文上表现更好，并不仅仅是因为它“记性好”，而是因为它能够在长文本中识别出哪些信息真正重要（例如硬预算上限）并优先保留它们，即便它们被淹埋在大量无关的中间推理步骤之中。这种“在噪声中找到信号”的能力，正是论文把 $\beta$ 与能力绑定在一起的深层直觉依据：一个真正强大的模型，在面对共享上下文时并不需要上游为它预先过滤好信息，它自己就能胜任这个工作——这也解释了为什么 relay 压缩对强模型而言是纯成本而无收益：它本来就不需要人为地先行过滤。

写在最后：这个框架对日常工程实践的启示

把这篇论文的核心思想浓缩成一句话，就是：下次有人问你”这个任务要不要用多智能体”，你可以把问题拆成两半：第一，下游每一步真正需要的证据能不能被压缩成一段简短、自然语言的摘要；第二，你打算用的模型究竟有多强。如果答案分别是”能，很紧凑”和”相对较弱”，多智能体往往值得一试；如果任何一个答案变为”不，需要详细上下文”或”很强”，那么就得重新思考一下一个共享上下文的单智能体方案。这种结构化的思考方式，比凭直觉或者盲目追随行业流行语（比如”多智能体总是更高级”）要可靠得多，这也正是这篇论文对一线工程实践最实在的贡献。

一个结构化总结表：五个基准的对照

为了方便回顾，这里把上文逐个讨论过的五个基准，按 $\delta$ 状态、典型任务特征、MAS 相对 SAS-contextflow 的定性趋势以及能力依赖性四个维度汇总如下：ALFWorld（$\delta \approx 0$，局部导航信息即可，MAS 稳定领先，但领先幅度随能力增强而缩小）；WideSearch（$\delta \approx 0$，子查询相互独立，同样稳定领先但幅度逐渐缩小）；TravelPlanner-CS（$\delta \approx 0$，常识性检查局部可验证，同样稳定领先）；WebShop（$\delta > 0$，需要细粒度属性/价格/导航历史，在弱、中模型上领先但在最强模型上翻转为负）；以及 WorkBench（$\delta \gg 0$，需要精确的先前读取结果，在所有三个模型上都为负）。把这五行数据排在一起，会看到一个渐变的谱系：随着 $\delta$ 从约为零升到远大于零，“MAS 总是领先但优势逐渐缩小”慢慢变成了“MAS 在弱模型上领先、在强模型上落后”，最终变成 WorkBench 上的“MAS 从不领先”。这个谱系本身，比论文中任何单一基准的数字都更能让人信服定理 4.1 的解释力。

可复现性说明

论文报告了一个公开的 GitHub 仓库（https://github.com/divelab/MAS-SAS），其中包含实验代码。模型访问需要本地 vLLM 部署（对 Qwen2.5-7B-Instruct 和 Qwen3.5-27B-AWQ-4bit checkpoint 而言，根据论文附录 B.2，每个都可以在单张 NVIDIA RTX A6000 GPU 上运行），或者一个 OpenAI API key（对 GPT-4o-mini 而言）。所使用的五个基准（ALFWorld、WebShop、WorkBench、WideSearch、TravelPlanner）本身都是已有的公开基准，带有现成的开源评测框架，这应该能让重现核心比较结果（使用论文自己的提示词，复现于附录 D 中）变得可行，而无需重新实现任何定制化的评测基础设施。对于任何试图精确复现结果的人来说，有一个实用的注意点：全程使用贪婪解码（温度 0.0），减少了运行间的方差，但 WideSearch 具体依赖一个实时的 DuckDuckGo 网页搜索后端，而不是离线环境，这意味着该特定基准上的结果可能会随着底层网页内容的变化而漂移，不同于其他四个基准所使用的离线模拟器/沙盒。