arXiv cs.AI· Andreas Zettl, Diego Gosmar·· 13 小时前AI 评分34
多智能体 LLM 流水线的协调税与异构红利:盈亏平衡条件研究
The Coordination Tax and the Heterogeneity Dividend: Break-Even Conditions for Multi-Agent LLM Pipelines
AI 导读
一项基于 Open Floor Protocol(OFP)的研究在 135 个 HumanEval 和 ClassEval 任务、2430 次运行中测量了多智能体 LLM 流水线的成本:协议每次交接仅增加 7.2 ms,占流水线总耗时 0.11%。
正文 · AI 翻译
摘要:基于 Open Floor Protocol(OFP)或 A2A 等互操作协议构建的多智能体 LLM 流水线,通常以能力为由被证明合理,而其运行时成本被视为规模未知的开销。将此类流水线与单次模型调用进行比较是欠明确的,因为流水线可以为每个角色分配不同的模型。我们给出一个闭式模型,将协调税(分解开销加上每次交接的协议成本)与将工作路由到更便宜模型所带来的异构红利进行权衡,并给出盈亏平衡阈值和可行性边界 $\alpha < 1/r$,并以 OFP 作为被测协议,在 135 个 HumanEval 和 ClassEval 任务上、使用 Claude Opus 5.5 和 Haiku 5.5 的六种架构共 2430 次运行中测量每一项。该协议每次交接增加 7.2 ms,占流水线实际耗时的 0.11%。分解在这些任务上并不划算:规划者-编码者-审查者流水线的成本是单次强模型调用的 3.22 倍,耗时是 3.24 倍,且解决的任务并不更多。将规划者和审查者迁移到廉价模型可将流水线成本降至 0.39 倍,但会使 pass@1 变化 -6.7 个百分点,使其比单次调用更贵、更慢且更不准确,而盈亏平衡预测偏差 -19%,因为廉价角色抬高了 token 量。节省在于按任务选择模型:在两次单次调用之间进行 oracle 选择,可在每解决任务成本为强模型调用一半的情况下解决 94.3% 的运行。
| 评论: | 16 页,3 幅图,4 张表 |
| 主题: | 多智能体系统(cs.MA);人工智能(cs.AI) |
| 引用为: | arXiv:2610.37700 [cs.MA] |
| (或 arXiv:2610.37700v1 [cs.MA] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.37700 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Diego Gosmar [查看电子邮件]
[v1]
2026 年 10 月 25 日星期日 11:41:30 UTC(56 KB)
来源:arXiv cs.AI · arxiv.org