arXiv cs.AI· Zijun Dou, Kun Luo, Chaofan Li, Shuqi Lu, Zheng Liu·· 11 小时前AI 评分34
FALCA:面向长程深度搜索智能体的证伪感知强化学习框架
FALCA: Falsification-Aware Reinforcement Learning with Hierarchical Credit Assignment for Long-Horizon Deep Search Agents
AI 导读
FALCA 提出一种证伪感知框架,将深度搜索建模为“提议-证伪”过程,由 Searcher 提出候选答案、独立 Falsifier 主动寻找反证并生成证伪报告以修正研究状态。
正文 · AI 翻译
摘要:长程深度搜索要求 LLM 智能体迭代地分解复杂的信息需求、从外部来源收集证据,并在多重约束下维护可靠的研究状态。一个核心挑战在于,早期的错误会沿搜索轨迹被放大:智能体可能锚定于错误的候选答案、收集到部分支持的证据、忽略矛盾,并累积误导后续推理的错误。我们提出 FALCA,一个以证伪为核心的框架,将深度搜索建模为提出—证伪过程。FALCA 采用协作式的 Searcher-Falsifier 架构,其中 Searcher 提出候选答案或子答案,而独立的 Falsifier 主动寻找反证、检查未满足的约束、识别冲突,并生成简洁的证伪报告以修订研究状态。为强化这一循环,我们引入证伪感知训练,将对证伪轨迹的 SFT 预热与基于并行 rollout 及研究阶段、状态转移和动作上分层信用分配的智能体 RL 相结合。在五个搜索基准上的实验表明,FALCA 相比骨干模型和 harness 消融提升了长程深度搜索性能,同时通过更有效的证伪和研究状态修订减少了确认偏差和错误累积。
| 评论: | 19 页,20 幅图,2 张表。项目页面:此 https URL |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.28361 [cs.AI] |
| (或 arXiv:2610.28361v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.28361 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Zijun Dou [查看邮箱]
[v1]
2026 年 10 月 20 日星期二 15:24:44 UTC(503 KB)
来源:arXiv cs.AI · arxiv.org