arXiv cs.CL· Guangyuan Wang, Yifan Zhang, Shilong Liu·· 11 小时前AI 评分34
AIR:面向高效长程推理的自适应索引复用方法
When Should an Agent Refresh? Adaptive Index Reuse for Efficient Long-Horizon Reasoning
AI 导读
针对语言智能体长上下文推理中索引器每层重复打分的问题,研究者提出 Adaptive Index Reuse(AIR),按智能体轨迹分段学习刷新层数,由小型控制器依据已完成计算与最新工具事件从嵌套模式库中选择方案。
正文 · AI 翻译
摘要:语言智能体在每一步都会增长的上下文中读取代码、工具输出和对话。动态稀疏注意力让一个小型索引器为每个查询选择其关注的较早 token,但索引器在每一层仍会对整个前缀打分。IndexCache 等跨层复用方法只在部分层重新运行索引器,且对所有输入使用一种固定模式。在智能体中,当回溯信息或测试结果到达时,相关证据可能突然变化,因此新选择在某些步骤比其他步骤更重要。我们提出自适应索引复用(AIR),它保留 IndexCache 的执行方式,并为智能体回合的每个片段学习有多少层刷新其选择。一个小型控制器读取已完成计算的信号和最新工具事件,从嵌套库中选择一种模式,并在预期计算预算下从终端任务奖励中学习。在上下文长度为 128K 的 Qwen3-4B-Instruct-2507 上,AIR 在同等成本下于 SWE-bench Verified(27.0% 到 32.4%)、Terminal-Bench 2.0 和三个 $\tau^2$-bench 领域上相比最强的静态调度提升了成功率,并在全部五个上降低了每个成功任务的时间。在 50 个骨干模型、上下文和基准设置中,它在 44 个设置中达到或超过该调度。
| 学科: | 机器学习(cs.LG);计算与语言(cs.CL) |
| 引用为: | arXiv:2611.01429 [cs.LG] |
| (或 arXiv:2611.01429v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.01429 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Guangyuan Wang [查看电子邮件]
[v1]
2026 年 11 月 1 日星期日 02:11:42 UTC(2,682 KB)
来源:arXiv cs.CL · arxiv.org