跳到正文
arXiv cs.AI· Siyuan Liu (Fudan University, Meituan Longcat Team), Fan Yu (Fudan University, Meituan Longcat Team), Dongyu Ru (Meituan Longcat Team), Yizhu Liu (Meituan Longcat Team), Yifan Yang (Meituan Longcat Team), Xuezhi Cao (Meituan Longcat Team), Xunliang Cai (Meituan Longcat Team), Yixin Cao (Fudan University)·· 9 天前AI 评分34

DENSE:将智能体轨迹蒸馏为基于证据的捷径树以实现自我改进

DENSE: Distilling Agent Trajectories into Evidence-Grounded Shortcut Trees for Self-Refinement

AI 导读

DENSE 将智能体执行轨迹组织为嵌套捷径树,通过合并冗余尝试、识别已解决子任务,把噪声执行轨迹转化为结构化可复用的任务求解反馈。在 Terminal-Bench 2.1 上,DENSE 在四个智能体模型上取得最高严格通过率,较初始尝试提升 7.12-21.81 个百分点,重试时智能体 token 减少 19.0-43.6%。在困难任务上,DENSE 的累计通过率在多轮反馈迭代中持续优于自我反思。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:在线智能体部署会以极大规模和行为多样性积累执行轨迹,而针对这些轨迹的预定义标注标准几乎不存在。因此,提取有用证据需要昂贵的人工标注或无法扩展的验证器信号,导致有价值的证据被埋没在冗余、不完整和失败的执行中。这引出了一个问题:在没有执行后奖励或正确性标签的情况下,如何从轨迹本身中提炼可复用的经验?为应对这一挑战,我们提出了 DENSE(Distilling Evidence from Nested Subtask Executions,从嵌套子任务执行中提炼证据),它将轨迹衍生的证据组织成嵌套捷径树。通过合并冗余尝试、识别已解决的子任务,并保留有用步骤与未满足需求,DENSE 将嘈杂的执行轨迹转化为结构化且可复用的任务求解反馈。为评估此类反馈是否有助于智能体重试同一任务,我们设计了 REFIT,用于衡量初始尝试与反馈引导的重试之间成功率的变化。在无外部结果监督的反馈方法中,DENSE 在 Terminal-Bench 2.1 上于四个智能体模型中取得了最高的严格通过率,相比初始尝试提升了 7.12-21.81 个百分点,同时重试时智能体 token 用量减少了 19.0-43.6%。此外,在困难任务上,DENSE 在四个模型的多次反馈迭代中,其累计通过率始终优于自我反思,展现出其在智能体持续自我改进方面的强大潜力。
评论: 43 页,含附录
主题: 人工智能(cs.AI)
引用为: arXiv:2609.21423 [cs.AI]
  (或 arXiv:2609.21423v5 [cs.AI] 对应此版本)
  https://doi.org/10.48550/arXiv.2609.21423

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Siyuan Liu [查看邮箱]
[v1] 2026年9月18日星期五 07:36:21 UTC(1,352 KB)
[v2] 2026年9月23日星期三 07:07:00 UTC(3,474 KB)
[v3] 2026年9月24日星期四 11:10:34 UTC(3,474 KB)
[v4] 2026年9月26日星期六 12:03:24 UTC(2,098 KB)
[v5] 2026年10月8日星期四 09:07:47 UTC(4,101 KB)

来源:arXiv cs.AI · arxiv.org