跳到正文
arXiv cs.AI· Ruoxi Cheng, Haoxuan Ma, Hongyi Zhang, Junming Zhang, Ranjie Duan, Qiaolin Xia, Hao Wang, Yu Lu, Haibo Shi, Xingjun Ma·· 3 天前AI 评分29

Search-G1:面向选择性有据搜索的共演化表征奖励框架

Search-G1: Co-Evolving Representation-Based Rewards for Selective Grounded Search

AI 导读

Search-G1 是一个将检索必要性与证据依赖耦合的奖励框架,通过两个干预校准的隐藏状态读出实现选择性有据搜索:prompt 读出预测闭卷充分性以代理检索必要性,answer-commit 读出预测证据依赖。该框架经校准后打分无需过程标注或 LLM 评判推理,并在四个 QA 基准和两种规模上取得有竞争力的准确率,同时表现出更强的反事实证据依赖和更少的搜索次数。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:搜索增强的语言智能体应仅在必要时检索外部信息,并将其答案建立在检索到的证据之上。然而,终端正确性对来自参数化知识的直接答案、基于证据的答案以及冗余搜索后回忆起的答案给予同等认可。过程监督和 LLM 评判器能提供更丰富的反馈,但可能需要高成本的标注或推理;低成本、非对比性的策略置信度信号无法直接识别检索到的证据是否改变了答案。我们提出 Search-G1,一个奖励框架,通过两个干预校准的隐藏状态读出将检索必要性与证据依赖耦合起来,以实现选择性的有据搜索。一个提示读出预测闭卷充分性,其补集代理策略相对的检索必要性;一个答案提交读出预测证据依赖,即对以已实现推理前缀为条件的证据删除的敏感性。一个正确性优先的奖励以检索必要性为门控来授予证据依赖得分,奖励充分的直接答案,并惩罚重复搜索。校准后,评分既不需要过程标注,也不需要 LLM 评判器推理。由于策略相对目标、轨迹分布和表示可能漂移,Search-G1 会定期重新生成目标并重新拟合其读出。在四个 QA 基准和两个规模上,Search-G1 实现了有竞争力的任务准确率,在主要比较中具有更强的反事实证据依赖性和更少的搜索次数,并辅以对答案支持度的独立人工审计。
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2608.07531 [cs.CL]
  (或 arXiv:2608.07531v4 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2608.07531

arXiv 颁发的 DOI 通过 DataCite

提交历史

来自:Rosy Cheng [查看电子邮件]
[v1] 2026年7月24日星期五 15:22:57 UTC(4,390 KB)
[v2] 2026年8月18日星期二 05:20:56 UTC(4,390 KB)
[v3] 2026年9月4日星期五 09:19:36 UTC(1 KB)(已撤回)
[v4] 2026年10月10日星期六 14:57:44 UTC(4,427 KB)

来源:arXiv cs.AI · arxiv.org