arXiv cs.CL· Yanli Wang, Zichen Bai, Tianyue Jiang, Kunming Shao, Junhao Shi, Xueqin Liu, Jinguo Sun, Muye Li, Tingting Bi, Yanlin Wang, Shaoqiang Zheng, Xuefei Diao, Zhuwei Zeng, Nan Duan, Peng Cao·· 11 小时前AI 评分32
EvoGuard:缓解在线技能演化中的性能退化
EvoGuard: Mitigating Degradation in Online Skill Evolution
AI 导读
EvoGuard 是一种成对技能选择器,可在低延迟低成本下缓解语言智能体在线技能演化中的退化问题。它先用私有测试集为技能池打分并生成效用标签,再通过拒绝采样保留效用差距明显的技能对,训练选择器基于两个标签 token 的 logits 判断优劣,部署时单次前向即可决策。
正文 · AI 翻译
作者:Yanli Wang、Zichen Bai、Tianyue Jiang、Kunming Shao、Junhao Shi、Xueqin Liu、Jinguo Sun、Muye Li、Tingting Bi、Yanlin Wang、Shaoqiang Zheng、Xuefei Diao、Zhuwei Zeng、Nan Duan、Peng Cao
摘要:技能让语言智能体能够以自然语言文档的形式跨任务复用经验。近期工作从交互中演化技能,但现有方法在技能在线演化时存在局限。先前的方法从跨多个任务收集的一批轨迹中离线更新技能。有些方法随后在没有任何检查的情况下采用新技能,这可能导致技能随时间退化。另一些方法仅在技能于留出验证集上提升性能时才保留它,而在每次更新后都运行验证集太慢且成本过高。我们提出 EvoGuard,一种成对技能选择器,以低延迟和低成本缓解技能退化。我们首先迭代运行智能体以构建技能池,并在私有测试集上为每个技能打分以获得效用标签。我们将技能配对,并使用拒绝采样仅保留效用差距明显的配对。选择器基于两个标签 token 的 logits 进行训练,以挑选更优技能。在部署时,它通过单次前向传播做出决策,这比在私有测试集上评估要快得多。与采用每个新技能相比,EvoGuard 在 ALFWorld 上提升成功率 11.0%,在 ScienceWorld 上提升 5.9%,在 LiveCodeBench 上提升 2.7%。
| 评论: | 16 页,6 幅图,7 张表,包括附录 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2611.06444 [cs.CL] |
| (或 arXiv:2611.06444v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.06444 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Yanli Wang [查看邮箱]
[v1]
2026年11月4日星期三 12:47:32 UTC(358 KB)
来源:arXiv cs.CL · arxiv.org