arXiv cs.CL· Yulin Zhang, Yukun Huang, Sanxing Chen, Tianyi Lin, Ziang Yang, Xunjian Yin, Bhuwan Dhingra·· 3 天前AI 评分36
搜索智能体的 Lazy Grounding 攻击：事实性证据也能误导检索推理
Lazy Grounding: Attacking Search Agents with Factual Evidence
AI 导读
研究者提出"lazy grounding"攻击：将基准问题改写后对应的邻近事实证据注入搜索语料，这些文档虽真实却与原始问题无关，仍会被检索并误导搜索智能体。在 12 个模型-基准组合上，该攻击使回答准确率平均下降 5.9 分、最高下降 17.3 分，且所有设置均出现邻近答案被采纳。证据出现位置越靠后或越像答案时，影响更强。
正文 · AI 翻译
摘要：搜索智能体通过将答案建立在检索到的网页结果上来缓解幻觉。然而，基于检索的方法也引入了攻击面：智能体可能会引用来自被投毒的搜索语料库中的错误信息，这些语料库包含虚假或恶意文档。我们证明，在某些情况下，搜索智能体的推理和回答可能会被完全真实但具有干扰性的信息所引导。我们将这种失败称为惰性接地（lazy grounding）。我们通过将基准问题的答案改变改写所对应的邻近证据注入搜索语料库来暴露惰性接地。每份文档都包含支持邻近改写问题的真实证据，但却是针对原始问题被检索到的。在 12 个模型-基准组合中，该攻击使搜索智能体回答的准确率平均下降 5.9 分，最高下降 17.3 分，同时在每种设置中都诱导了邻近答案的采用。当邻近证据出现得更晚或更像答案时，这种效应更强。我们的结果表明，稳健的搜索智能体不仅必须防御错误信息，还必须防御对真实证据的误用。代码公开于 this https URL。
| Comments: | 已被 EMNLP 2026（主会议）接收。代码：this https URL |
| Subjects: | 计算与语言（cs.CL） |
| 引用为： | arXiv:2608.30303 [cs.CL] |
| （或 arXiv:2608.30303v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.30303 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yulin Zhang [查看邮箱]
[v1]
2026年8月31日星期一 06:19:04 UTC（134 KB）
[v2]
2026年9月1日星期二 05:31:51 UTC（134 KB）
[v3]
2026年10月13日星期二 19:17:11 UTC（135 KB）
来源：arXiv cs.CL · arxiv.org