arXiv cs.AI· Jie Ren, Jiakang Yuan, Chenyu Huang, Hezeer Ma, Jiayuan Fan, Tao Chen·· 10 天前AI 评分24
DHCG:为基于 LLM 的多智能体推理动态构建分层协作图
DHCG: Dynamic Construction of Hierarchical Collaboration Graphs for LLM-Based Multi-Agent Reasoning
AI 导读
DHCG 通过 Planner、Worker、Generator 三个模块,根据查询和执行反馈从零逐步构建动态分层协作图,并引入动作感知偏好优化训练 Planner。在代码生成、数学推理和领域推理基准上,DHCG 平均性能较单智能体基线提升 13.06 分,优于静态与动态 MAS 基线 2.77-8.02 分,并展现出跨 Planner 主干与未见 Worker 模型的泛化能力。
正文 · AI 翻译
摘要:基于 LLM 的多智能体系统(MAS)在解决跨多个领域的复杂问题方面展现出强大能力。近来,智能体系统的动态编排已成为一个重要研究方向。然而,现有方法存在组合能力有限、依赖关系错位以及规模不灵活的问题,限制了其在执行过程中适应推理需求的能力。为解决这些局限,我们将 MAS 设计重新表述为部分可观测马尔可夫决策过程,其中 MAS 的组合与规模均被动态确定。我们提出 DHCG,一个新颖的框架,协调三个模块(Planner、Worker 和 Generator),基于查询和不断演化的执行反馈,从零开始逐步构建动态分层协作图。在每一步中,Planner 在反馈引导下生成一组针对当前推理需求量身定制的、彼此不同且互补的角色,并有选择地将相关信息路由到每个角色。它还可以提前最终确定分层协作图,或在需要额外推理时逐步扩展该图。我们进一步引入动作感知偏好优化,以训练 Planner 在构建分层协作图时做出更有效的决策。我们在代码生成、数学推理和领域特定推理基准上系统评估了 DHCG。DHCG 在对比方法中取得了最先进的平均性能,相较单智能体基线提升 13.06 分,并优于静态和动态 MAS 基线 2.77-8.02 分。额外实验进一步证明了其在不同 Planner 主干和未见过的 Worker 模型上的泛化能力。
| 评论: | 9 页,4 幅图,4 张表 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.07835 [cs.AI] |
| (或 arXiv:2610.07835v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.07835 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Jie Ren [查看电子邮件]
[v1]
2026 年 10 月 6 日星期二 06:33:40 UTC(684 KB)
来源:arXiv cs.AI · arxiv.org