跳到正文
arXiv cs.CL· Xiaoyuan Li, Moxin Li, Keqin Bao, Yubo Ma, Wenjie Wang, Dayiheng Liu, Fuli Feng·· 9 天前AI 评分30

SkillGraph:通过演化技能图实现技能增强的智能体强化学习

SkillGraph: Skill-Augmented Reinforcement Learning for Agents via Evolving Skill Graphs

AI 导读

SKILLGRAPH 将可复用技能表示为有向图节点,用带类型的边编码前置、增强与共现关系,检索时返回有序技能子图以指导多步决策。该图从智能体轨迹和强化学习反馈中持续更新,使技能库与策略协同改进。在 ALFWorld、WebShop 及七个搜索增强 QA 任务上,SKILLGRAPH 相较记忆增强 RL 方法取得 SOTA,在需组合多项技能的复杂任务上提升尤为显著。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:技能库使大型语言模型智能体能够复用过往交互中的经验,但大多数现有技能库将技能存储为孤立条目,并仅通过语义相似度进行检索。这给组合式任务带来了两个关键挑战。首先,智能体不仅需要识别相关技能,还需要识别它们之间如何相互依赖和构建。其次,这也使技能库维护变得困难,因为系统缺乏用于判断何时应合并、拆分或移除技能的结构性线索。我们提出 SKILLGRAPH,一个将可复用技能表示为有向图中节点、并用带类型的边编码前置、增强和共现关系的框架。给定一个新任务,SKILLGRAPH 不仅检索单个技能,还检索一个有序技能子图,以指导多步决策。该图从智能体轨迹和强化学习反馈中持续更新,使技能库和智能体策略能够共同改进。在 ALFWorld、WebShop 以及七个搜索增强问答任务上的实验表明,SKILLGRAPH 相较于记忆增强的强化学习方法取得了最先进的性能,在需要组合多个技能的复杂任务上提升尤为显著。
评论: 审稿中
主题: 计算与语言(cs.CL)
引用为: arXiv:2605.12039 [cs.CL]
  (或使用 arXiv:2605.12039v2 [cs.CL] 查看此版本)
  https://doi.org/10.48550/arXiv.2605.12039

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Xiaoyuan Li [查看邮箱]
[v1] 2026年5月12日星期二 12:21:49 UTC(365 KB)
[v2] 2026年10月8日星期四 09:01:47 UTC(397 KB)

来源:arXiv cs.CL · arxiv.org