arXiv cs.CL· Xiaoyuan Li, Moxin Li, Keqin Bao, Yubo Ma, Wenjie Wang, Dayiheng Liu, Fuli Feng·· 9 天前AI 评分30
SkillGraph:通过演化技能图实现技能增强的智能体强化学习
SkillGraph: Skill-Augmented Reinforcement Learning for Agents via Evolving Skill Graphs
AI 导读
SKILLGRAPH 将可复用技能表示为有向图节点,用带类型的边编码前置、增强与共现关系,检索时返回有序技能子图以指导多步决策。该图从智能体轨迹和强化学习反馈中持续更新,使技能库与策略协同改进。在 ALFWorld、WebShop 及七个搜索增强 QA 任务上,SKILLGRAPH 相较记忆增强 RL 方法取得 SOTA,在需组合多项技能的复杂任务上提升尤为显著。
正文 · AI 翻译
摘要:技能库使大型语言模型智能体能够复用过往交互中的经验,但大多数现有技能库将技能存储为孤立条目,并仅通过语义相似度进行检索。这给组合式任务带来了两个关键挑战。首先,智能体不仅需要识别相关技能,还需要识别它们之间如何相互依赖和构建。其次,这也使技能库维护变得困难,因为系统缺乏用于判断何时应合并、拆分或移除技能的结构性线索。我们提出 SKILLGRAPH,一个将可复用技能表示为有向图中节点、并用带类型的边编码前置、增强和共现关系的框架。给定一个新任务,SKILLGRAPH 不仅检索单个技能,还检索一个有序技能子图,以指导多步决策。该图从智能体轨迹和强化学习反馈中持续更新,使技能库和智能体策略能够共同改进。在 ALFWorld、WebShop 以及七个搜索增强问答任务上的实验表明,SKILLGRAPH 相较于记忆增强的强化学习方法取得了最先进的性能,在需要组合多个技能的复杂任务上提升尤为显著。
| 评论: | 审稿中 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2605.12039 [cs.CL] |
| (或使用 arXiv:2605.12039v2 [cs.CL] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2605.12039 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Xiaoyuan Li [查看邮箱]
[v1]
2026年5月12日星期二 12:21:49 UTC(365 KB)
[v2]
2026年10月8日星期四 09:01:47 UTC(397 KB)
来源:arXiv cs.CL · arxiv.org