跳到正文
Hacker News· matt_d·· 9 天前AI 评分62

DeLM:用共享上下文与任务队列实现去中心化多智能体系统

DeLM: Decentralized Multi-Agent Systems with Shared Context

AI 导读

斯坦福大学团队提出 DeLM,用共享上下文和任务队列取代主智能体,让多个智能体异步领取任务、即时发布中间结果并互相修正,从而减少等待和重复工作。

正文 · AI 翻译

概述 动机 思路 方法 结果 轨迹分析 BibTeX

DeLM

具有共享上下文的去中心化多智能体系统

并行智能体共享上下文任务队列

斯坦福大学

论文 代码 轨迹 插件

概述

TL;DR

  • 问题。多智能体系统并行运行智能体来处理长时程任务,但现有设计将大量这种并行性浪费在气泡上:智能体等待其他智能体或重做同伴工作所花费的时间。
  • 思路。DeLM 用一个共享上下文和一个任务队列取代主智能体。智能体异步认领任务,一旦发现可用结果就立即发布,并在同伴进展的基础上继续推进或加以纠正,每个同伴的状态对所有智能体可见。
  • 结果。在 Terminal-Bench 4.0 和 DeepSWE v1.1 的长时程任务以及 SWE-bench Verified 上,DeLM 比 Codex、Claude Code、它们原生的子智能体以及 AOrchestra 都更准确、更快速:比最强基线最多准确 17.5 个百分点,比它所基于的框架最多快 2.49 倍。

现有多智能体系统将大量并行性浪费在气泡上:智能体等待其他智能体或重做同伴工作所花费的时间。 DeLM 通过让智能体经由共享上下文和任务队列进行异步协调,消除了其中大部分气泡,且无需主智能体参与。

Accuracy against speedup on 10 selected long-horizon tasks from Terminal-Bench 4.0, headed up to 2.49× faster and 11.7 points more accurate. With Codex and GPT-6-Astra, DeLM with 2 agents is 1.54× faster and with 4 agents 2.05× faster, both above Codex, native subagents, and AOrchestra in accuracy. With Claude Code and Claude Opus 5.5, DeLM with 2 agents is 2.02× faster and with 4 agents 2.49× faster, both above Claude Code, native subagents, and AOrchestra.

Accuracy against speedup on 10 selected long-horizon tasks from DeepSWE v1.1, headed up to 1.57× faster and 17.5 points more accurate. With Codex and GPT-6-Astra, DeLM with 2 agents is 1.25× faster and with 4 agents 1.34× faster. With Claude Code and Claude Opus 5.5, DeLM with 2 agents is 1.50× faster and with 4 agents 1.57× faster, well above Claude Code, AOrchestra, and native subagents in accuracy.

DeLM 比现有多智能体编程系统既更快又更准确。后端模型:GPT-6-Astra(搭配 Codex)和 Claude Opus 5.5(搭配 Claude Code),均以 xhigh 推理强度运行。在两个模型上取平均,DeLM(n = 2)在 Terminal-Bench 4.0 上比 Codex/Claude Code(虚线,1×)快 1.78 倍、准确率高 12.5 个百分点,在 DeepSWE v1.1 上快 1.38 倍、准确率高 13.3 个百分点。每个基准使用 10 个长时程任务,按 Codex 搭配 GPT-6-Astra 完成它们所需的时间选取:在 Terminal-Bench 4.0 上为 15 分钟到 1 小时之间,在 DeepSWE v1.1 上至少 10 分钟。

动机:多智能体系统中的工作流气泡

多智能体系统(MAS)提供了一种在测试时扩展大语言模型推理的自然方式:不是用单条轨迹解决复杂任务,而是将其分解为子任务,并行派发智能体,并汇总它们的进展。借用流水线并行中的一个术语,我们将不推进解决方案的智能体时间称为气泡:智能体等待其他智能体所花费的时间,或重做同伴已完成工作所花费的时间。气泡浪费算力并拉长实际耗时,而三大主流 MAS 家族各自以不同方式产生气泡。

独立智能体

冗余工作

它们的气泡是冗余工作:智能体运行时互不共享,因此每个智能体都会重新发现同伴已经发现的故障、修复方法和死胡同。

同伴通信智能体

屏障等待

它们的空泡是屏障等待:每个同步轮次持续到最慢的智能体完成,因此提前完成的智能体只能空转。

集中式编排

中继等待

它们的空泡是中继等待:主智能体在委派工作运行时空转,而子智能体在主智能体转达之前无法基于彼此的进展继续推进。

Execution timelines for the retro-console-soc task with four agents. Claude Code with native subagents takes 162.7 minutes with 44% of agent time waiting; its main agent's bar is mostly yellow waiting time. DeLM takes 29.3 minutes with 2% of agent time waiting, 5.5 times faster.

集中式编排会产生空泡;DeLM 将它们挤出。在 Terminal-Bench 4.0 的 retro-console-soc 任务上,使用 Claude Opus 5.5 和四个智能体的执行时间线。在 Claude Code 的集中式原生子智能体下,主智能体有 73% 的时间在等待委派的工作(黄色),而所有智能体时间中有 44% 花在等待上。

用共享上下文和任务队列取代主智能体

Left: a centralized system where one main agent reads and writes a global context, hands subtasks and subcontexts to sub-agents, and collects their returned results. Right: DeLM, where parallel agents read and write a shared context and a task queue directly.

集中式与去中心化多智能体系统。集中式 MAS 依赖一个主智能体来分配子上下文、生成子智能体并整合它们的结果,因此进展主要通过主智能体共享,子智能体彼此不知道对方的工作。相比之下,DeLM 通过并行智能体、共享上下文和任务队列将协调去中心化:智能体异步认领就绪任务,将发现增量发布到共享上下文,并在没有主智能体介入的情况下基于彼此的进展继续推进或纠正。

我们提出去中心化语言模型(DeLM),这是一个协调层,通过让智能体经由共享上下文和任务队列异步协调,且没有主智能体介入,从而挤出这些空泡。

  • 没有屏障等待或中继等待。智能体从任务队列异步认领任务,因此没有智能体需要等待一轮结束或等待主智能体分配工作。
  • 不等待未完成的工作。智能体一旦发现可用就将精简的发现发布到共享上下文,因此同伴可以基于中间进展继续推进,而不必等待中继。
  • 没有冗余工作。任务队列和共享上下文显示每个智能体正在做什么以及哪些方法已经失败,因此智能体避免重复同伴的工作。
  • 更新触达所有人。改进和修复作为新条目追加,而不是通过主智能体中继,因此每个智能体都能获取同伴的最新工作,而无需再进行一轮委派。
所比较的多智能体系统中的协作与协调机制。对勾表示系统提供该机制,叉号表示不提供。
通用协作能力显式协调机制
系统 并行子任务执行 跨智能体工作复用 反馈与纠正 中间结果共享 同伴状态感知 有状态共享上下文
隔离智能体✕✕✕✕✕✕
AOrchestra✕✓✓✕✕✕
Codex✓✓✓✓✕✕
Claude Code✓✓✓✓✕✕
DeLM✓✓✓✓✓✓

去中心化语言模型(DeLM)

给定任务 D,DeLM 并发运行 n 个智能体,每个智能体都有自己的持久会话和工作区。智能体通过两个共享结构进行协调:共享上下文 C 和任务队列 T,每个智能体产出自己的完整解决方案。

Overview diagram of DeLM. A task queue holds subtasks T1 to T3. Parallel agents claim subtasks from the queue and read the shared context. Each agent's update is compressed into a gist G and appended to the shared context. Agents add more subtasks to the queue when needed, and otherwise finalize an answer.

DeLM 概览。并行智能体异步认领子任务 {Ti},读取共享上下文,并在本地实现 {Ti}。每个智能体的更新被压缩为要点 Gi 并追加到共享上下文,使可复用的进展对所有智能体可见。
  1. 初始化任务队列
  2. 并行执行子任务
  3. 总结并发布中间结果
  4. 随着工作推进更新任务队列
  5. 最终确定每个智能体的解决方案

这些操作以异步方式推进,而非同步进行:当一个智能体发布结果时,其他智能体继续工作,并可在结果一出现时立即复用。

任务队列

在智能体之间分配工作,没有规划者负责。任何智能体都可以随时添加任务或认领开放任务,先认领者胜。每个任务都会显示它是开放、已认领还是已完成,以及由谁负责,因此每个智能体都知道谁负责什么以及还剩多少。

实验

我们在四个智能体编码基准上评估 DeLM:Terminal-Bench 4.0,智能体在实时终端中共享发现的环境状态和失败尝试;DeepSWE v1.1,智能体在长时程软件工程任务中复用彼此的调试进展;SWE-bench Verified,智能体为真实 GitHub 问题探索替代根因和修复方案;以及 ProgramBench,智能体从零重建整个程序。我们与 Codex 和 Claude Code(有无原生子智能体)、AOrchestra 进行比较,并在 SWE-bench Verified 上与 mini-SWE-agent 比较。

由于 DeLM 面向协调至关重要的长时程任务,我们在 Terminal-Bench 4.0 和 DeepSWE v1.1 的长时运行任务子集上进行评估。我们根据 Codex 搭配 GPT-6-Astra 的挂钟延迟选择任务:对于 Terminal-Bench 4.0,我们选择 10 个延迟在 15 分钟到 1 小时之间的任务;对于 DeepSWE v1.1,我们选择 10 个延迟至少 10 分钟的任务。

展示每个基准中选出的 10 个任务

Terminal-Bench 4.0Codex 延迟
ks-solver-cpp21.00 分钟
telecom-entity-resolution24.23 分钟
vf2-speedup-networkx23.42 分钟
biped-contact-dynamics21.56 分钟
cumulative-layout-shift39.34 分钟
retro-console-soc27.28 分钟
rs-archive-clone21.92 分钟
wdm-design39.27 分钟
lake-temp-glm32.40 分钟
payments-pipeline-fix18.67 分钟
平均26.91 分钟
DeepSWE v1.1Codex 延迟
oxvg-structural-selector-preservation19.71 分钟
wasmi-trap-coredumps14.55 分钟
happy-dom-abort-pending-body-reads12.52 分钟
scriggo-method-declarations17.35 分钟
dynamodb-toolbox-lazy-recursive-schemas22.19 分钟
dynamodb-toolbox-conditional-attribute16.78 分钟
opa-template-string-reconstruction13.99 分钟
boa-hierarchical-evaluation-cancellation13.28 分钟
numba-stencil-boundary-modes15.91 分钟
pebble-durability-wait-apis19.38 分钟
平均16.57 分钟

从 Terminal-Bench 4.0 和 DeepSWE v1.1 中选出的任务。基线延迟是 Codex 基线使用 GPT-6-Astra 在 xhigh 推理努力下的平均执行时间。

Terminal-Bench 4.0

在两个基础模型上对 Terminal-Bench 4.0 的 10 个长时程任务进行比较。每个模型内的最佳均值以粗体显示。
方法平均准确率 (%)平均延迟加速比每任务成本每次提交成本
GPT-6-Astra
Codex71.67 ±11.5526.91 ±0.91 分钟1.00×$9.01 ±0.71$9.01 ±0.71
Codex(子智能体)71.67 ±11.6920.04 ±1.94 分钟1.34×$25.80 ±2.21$25.80 ±2.21
AOrchestra70.00 ±5.0025.78 ±1.15 分钟1.04×$11.94 ±1.02$11.94 ±1.02
DeLM(n = 2)85.00 ±13.2317.47 ±1.82 分钟1.54×$13.65 ±1.49$6.83 ±0.74
DeLM(n = 4)81.67 ±12.3313.16 ±1.43 分钟2.05×$23.90 ±2.27$5.97 ±0.57
Claude Opus 5.5
Claude Code81.67 ±2.89130.75 ±6.27 分钟1.00×$20.31 ±0.23$20.31 ±0.23
Claude Code(子智能体)80.00 ±5.00138.58 ±10.17 分钟0.94×$30.88 ±3.17$30.88 ±3.17
AOrchestra76.67 ±5.77157.21 ±9.03 分钟0.83×$24.22 ±1.05$24.22 ±1.05
DeLM(n = 2)93.33 ±3.3364.77 ±5.03 分钟2.02×$17.91 ±1.17$8.96 ±0.59
DeLM(n = 4)89.17 ±5.2052.51 ±4.43 分钟2.49×$29.98 ±0.91$7.50 ±0.23

DeepSWE v1.1

在两个基础模型上对 DeepSWE v1.1 的 10 个长时程任务进行比较。每个模型内的最佳均值以粗体显示。
方法平均准确率 (%)平均延迟加速比每任务成本每次提交成本
GPT-6-Astra
Codex88.33 ±2.8916.57 ±0.39 分钟1.00×$9.40 ±0.18$9.40 ±0.18
Codex(子智能体)90.00 ±0.0015.76 ±2.05 分钟1.05×$24.97 ±3.15$24.97 ±3.15
AOrchestra83.33 ±7.6418.31 ±1.08 分钟0.91×$10.74 ±0.97$10.74 ±0.97
DeLM(n = 2)98.33 ±2.8913.29 ±0.98 分钟1.25×$16.83 ±1.65$8.42 ±0.82
DeLM(n = 4)90.00 ±10.0012.37 ±0.66 min1.34×$30.87 ±1.09$7.72 ±0.27
Claude Opus 5.5
Claude Code71.67 ±2.8949.58 ±3.11 min1.00×$12.01 ±0.60$12.01 ±0.60
Claude Code(子代理)50.00 ±10.0057.46 ±2.16 min0.86×$19.83 ±0.99$19.83 ±0.99
AOrchestra73.33 ±5.7747.32 ±2.86 min1.05×$12.11 ±0.52$12.11 ±0.52
DeLM(n = 2)88.33 ±2.8932.98 ±2.47 min1.50×$12.15 ±0.57$6.07 ±0.28
DeLM(n = 4)90.83 ±8.7831.61 ±0.96 min1.57×$24.49 ±0.67$6.12 ±0.17

使用 Claude Opus 5.5 时,提升幅度更大:DeLM(n = 4)达到 90.83%,比最强基线 AOrchestra(73.33%)高出 17.5 个百分点,且运行速度比 Claude Code 快 1.57×。

SWE-bench Verified

在 SWE-bench Verified 上使用 Gemini 3 Flash 的对比。每个模型内最佳均值以粗体显示。
方法平均准确率(%)平均延迟加速比每任务成本每次提交成本
Gemini 3 Flash
Claude Code49.32 ±1.98129.13 ±5.12 s1.00×$1.00a ±0.00$1.00a ±0.00
mini-SWE-agent54.73 ±2.3791.78 ±3.53 s1.41×$0.26 ±0.07$0.26 ±0.07
AOrchestra55.26 ±2.0389.94 ±3.07 s1.44×$0.24 ±0.04$0.24 ±0.04
DeLM(n = 2)63.72 ±2.2971.86 ±2.88 s1.80×$0.24 ±0.05$0.12 ±0.03
DeLM(n = 4)66.08 ±1.8661.01 ±2.63 s2.12×$0.47 ±0.07$0.12 ±0.02

a Claude Code CLI 以 Anthropic API 格式发送 cache_control 块,因此缓存复用仅在上游提供商遵循这些块时才有效。对于 Gemini-3-Flash,不使用缓存复用的实际成本因此约为每任务 $1。

当 n = 4 时,DeLM 达到 66.08% 的准确率,比最强基线 AOrchestra(55.26%)高出 10.8 个百分点。

ProgramBench

Hidden-test pass rate over 120 minutes on the ctags and pandoc ProgramBench tasks. On ctags, Claude Code ends at 34.32%, DeLM with two agents at 41.05%, and DeLM with four agents at 53.28%. On pandoc they end at 30.09%, 38.26%, and 50.00%.

DeLM 在相同时间预算内取得更多进展。在 120 分钟预算下,使用 Claude Opus 5.5 在两个 ProgramBench 任务上的测试通过率随时间变化。DeLM 使用 Claude Code 作为其每个代理的 harness。从 60 分钟起,曲线保持有序(n = 4 高于 n = 2 高于 Claude Code),因此 DeLM 更早达到任意给定通过率,并在预算结束时达到更高水平。

轨迹分析:去中心化协调如何发挥作用?

并行子任务执行缩短关键路径

Execution timelines on the retro-console-soc task with GPT-6-Astra. A single agent builds CPU, graphics, and audio in sequence and finishes at 27.01 minutes. Two DeLM agents split graphics and system from CPU and audio and finish around 21 minutes. Four DeLM agents build system, graphics, CPU, and audio concurrently and finish around 7.5 minutes.

更多代理并行构建更多组件。在 Terminal-Bench 4.0 的 retro-console-soc 任务上使用 GPT-6-Astra 的执行时间线。

单个代理按顺序构建 CPU、图形和音频,并在 27.0 分钟内完成。当 n = 2 时,一个代理构建图形和系统组件,而其同伴构建 CPU 然后音频,在 20.9 分钟内完成(1.29×)。当 n = 4 时,不同的代理同时构建系统、图形、CPU 和音频,任务在 7.5 分钟内完成(3.6×)。

对等状态感知避免重复探索

DeLM 通过任务队列和共享上下文暴露每个代理的声明、状态和所述范围,因此代理可以在其搜索仍在运行时注意到重叠并进行重定向。在一次四代理运行中,代理 1 和代理 3 独立开始调整相同的端口宽度和位置。代理 1 随后通过共享上下文看到了代理 3 的声明:

[agent-3/FACT] [...] I will tune only w_in,w_long,w_short,y_long,y_short [...]
[agent-1/FACT] [...] applying the cavity artifact revealed agent-3 had just claimed
    the same five-parameter port tuning. [...]
[agent-1/EXEC] kill -TERM 770
[agent-1/EXEC] python binary_refine.py [...]

代理们自行解决重叠,在任一搜索完成之前,无需主代理检测重复并重新规划。

有状态共享上下文支持复用和纠正

由于更新和更正会作为引用修订文件的新条目追加,而不是覆盖旧条目,智能体可以随时重新导入同伴更新后的工作。在 Terminal-Bench 4.0 和 DeepSWE v1.1 上的 720 条智能体轨迹中,智能体共导入共享文件 5,237 次,且 80.3% 的轨迹随后导入了它们已经导入过的文件的修订版本。由于智能体发布简短摘要并通过引用附加文件,任务完成时共享上下文平均不到 15K token。

最终共享上下文大小(千 token)以及读取它的成本占任务总成本的百分比。
Terminal-Bench 4.0DeepSWE v1.1
模型智能体上下文 (k)成本 (%)上下文 (k)成本 (%)
GPT-6-Astran = 27.31 ±0.429.17 ±0.387.54 ±0.217.71 ±0.18
n = 412.88 ±0.9717.68 ±0.2513.03 ±0.9614.56 ±0.37
Claude Opus 5.5n = 26.62 ±0.341.92 ±0.114.67 ±0.111.69 ±0.06
n = 414.48 ±0.473.66 ±0.2910.43 ±0.533.04 ±0.23

BibTeX

citation.bib

@misc{mao2026delm,
  title         = {Decentralized Multi-Agent Systems with Shared Context},
  author        = {Yuzhen Mao and Jerry Gu and Aadi Chauhan and
                   Qizheng Zhang and Hangoo Kang and Azalia Mirhoseini},
  year          = {2026},
  eprint        = {2606.10662},
  archivePrefix = {arXiv},
  primaryClass  = {cs.MA},
  url           = {https://arxiv.org/abs/2606.10662}
}

来源:Hacker News · yuzhenmao.github.io