跳到正文
arXiv cs.AI· Yiruo Cheng, Shen Huang, Xiaoshuai Song, Jiejun Tan, Guanting Dong, Pengjun Xie, Ji-Rong Wen, Zhicheng Dou·· 9 天前AI 评分25

RACE:让 LLM 智能体通过跨轮估计自适应推理

When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation

AI 导读

研究者提出 RACE(Reasoning Adaptation through Cross-Turn Estimation),一种让 LLM 智能体学会何时推理、何时直接行动的训练方法。其核心 LoGiC 程序通过移除推理后参考动作似然度的下降,判断哪些推理轮次可省略,并将信号融入监督微调与智能体强化学习。在四个智能体基准上,RACE 大幅降低推理成本,同时保持或提升任务表现。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:基于大语言模型(LLM)的智能体已在复杂任务上展现出强大能力。它们通常在整个交互轨迹中的每个动作之前进行推理。然而,并非每一轮都需要推理,因为先前产生的推理可以继续支持后续动作。因此,一个关键挑战是确定现有推理何时仍然充分、何时需要新的推理步骤,同时不依赖代价高昂的基于生成的验证。我们发现,在移除额外推理后,后续参考动作似然度的下降与这些动作在给定先前推理时是否仍可恢复密切相关,从而为估计跨轮动作支持提供了一个有效且轻量的信号。基于这一观察,我们提出了通过跨轮估计进行推理自适应(RACE),一种用于自适应智能体推理的训练方法。RACE 引入了一种似然引导的渐进式推理覆盖检测(LoGiC)流程,该流程逐步识别出移除后对当前及后续参考动作影响有限的推理轮次。由此得到的移除信号被纳入监督微调和智能体强化学习,使策略能够学习何时推理、何时直接行动。在四个代表性智能体基准上的大量实验表明,RACE 在保持或提升任务性能的同时,大幅降低了推理成本。
主题: 人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2610.12061 [cs.AI]
  (或本版本的 arXiv:2610.12061v1 [cs.AI])
  https://doi.org/10.48550/arXiv.2610.12061

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Yiruo Cheng [查看电子邮件]
[v1] 2026年10月8日星期四 14:43:09 UTC(1,047 KB)

来源:arXiv cs.AI · arxiv.org