arXiv cs.CL· Dayoon Ko, Jihyuk Kim, Sohyeon Kim, Haeju Park, Dahyun Lee, Gunhee Kim, Moontae Lee, Kyungjae Lee·· 3 天前AI 评分41
搜索智能体的“幻觉式完成”：正确回答中高达 48% 仍有约束未验证
When Is Enough Not Enough? Illusory Completion in Search Agents
AI 导读
研究提出“幻觉式完成”现象：在多约束问题上，搜索智能体有多达 48% 的正确回答其实仍有约束未经核实。团队用 Epistemic Ledger 追踪 13 个智能体（从 7B RL 模型到前沿 LLM）的逐轮验证状态，发现训练与规模只改变验证失败的模式而非消除它。借助 4B 的 LiveLedger 展示各约束状态后，智能体正确回答数提升 4.4-16.1 个百分点。
正文 · AI 翻译
摘要：在智能体搜索中，LLM 智能体会搜索网络、阅读找到的页面，并在返回答案前决定下一步要查找什么。但是，仅仅因为智能体返回了答案，我们就能相信它吗？通常不能，甚至一个正确的答案也可能只是侥幸猜中：在包含多个约束条件的问题上，我们发现，在智能体给出的正确答案中，高达 48% 的情况下，智能体在某个约束条件仍未得到验证时就断定任务已完成。我们将此称为虚幻完成。为了探究它是如何产生的，我们引入了认知账本，它逐轮追踪检索到的页面就每个约束条件确立了哪些事实，以及智能体声称了什么。在 13 个智能体中，从 7B 的强化学习训练模型到前沿 LLM，训练和规模提高了准确率，但改变的是验证失败的模式，而非消除这些失败：约束条件可能未被检查、在无支持的情况下被假定，或在有反驳证据的情况下仍被保留。为了衡量智能体在不追踪约束条件时损失了什么，我们向它们展示每个约束条件的状态，该状态由 LiveLedger 这一轻量级 4B 追踪器近似得出。随后，智能体正确回答的问题多出 4.4-16.1 个百分点，这表明它们自身可能无法追踪自己已验证了什么、还有什么尚未验证。
| 学科： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2602.07549 [cs.AI] |
| （或使用 arXiv:2602.07549v3 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2602.07549 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Dayoon Ko [查看邮箱]
[v1]
2026年2月7日星期六 13:50:38 UTC（2,288 KB）
[v2]
2026年10月5日星期一 07:35:12 UTC（1,280 KB）
[v3]
2026年10月13日星期二 22:09:53 UTC（1,220 KB）
来源：arXiv cs.CL · arxiv.org