跳到正文
arXiv cs.AI· Zijun Dou, Kun Luo, Chaofan Li, Shuqi Lu, Zheng Liu·· 11 小时前AI 评分34

FALCA:面向长程深度搜索智能体的证伪感知强化学习框架

FALCA: Falsification-Aware Reinforcement Learning with Hierarchical Credit Assignment for Long-Horizon Deep Search Agents

AI 导读

FALCA 提出一种证伪感知框架,将深度搜索建模为“提议-证伪”过程,由 Searcher 提出候选答案、独立 Falsifier 主动寻找反证并生成证伪报告以修正研究状态。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:长程深度搜索要求 LLM 智能体迭代地分解复杂的信息需求、从外部来源收集证据,并在多重约束下维护可靠的研究状态。一个核心挑战在于,早期的错误会沿搜索轨迹被放大:智能体可能锚定于错误的候选答案、收集到部分支持的证据、忽略矛盾,并累积误导后续推理的错误。我们提出 FALCA,一个以证伪为核心的框架,将深度搜索建模为提出—证伪过程。FALCA 采用协作式的 Searcher-Falsifier 架构,其中 Searcher 提出候选答案或子答案,而独立的 Falsifier 主动寻找反证、检查未满足的约束、识别冲突,并生成简洁的证伪报告以修订研究状态。为强化这一循环,我们引入证伪感知训练,将对证伪轨迹的 SFT 预热与基于并行 rollout 及研究阶段、状态转移和动作上分层信用分配的智能体 RL 相结合。在五个搜索基准上的实验表明,FALCA 相比骨干模型和 harness 消融提升了长程深度搜索性能,同时通过更有效的证伪和研究状态修订减少了确认偏差和错误累积。
评论: 19 页,20 幅图,2 张表。项目页面:此 https URL
主题: 人工智能(cs.AI)
引用为: arXiv:2610.28361 [cs.AI]
  (或 arXiv:2610.28361v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.28361

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Zijun Dou [查看邮箱]
[v1] 2026 年 10 月 20 日星期二 15:24:44 UTC(503 KB)

来源:arXiv cs.AI · arxiv.org