arXiv cs.CL· Amit Kumar Jaiswal, Sagar Uprety, Prayag Tiwari·· 6 天前AI 评分22
SAFE-QE：用子序列关联过滤与广度感知选择追踪并抑制 LLM 查询扩展中的幻觉词
Tracing and Taming Hallucinated Terms via Subsequence-Association Filtering and Breadth-Aware Selection for LLM Query Expansion
AI 导读
研究者提出 SAFE-QE，一种免训练、与检索器无关的查询扩展方法，通过语料条件下的跨上下文可复现性对候选扩展词打分，将随机查询上下文中反复出现但伪相关集不支持的词判定为幻觉关联产物并降权。
正文 · AI 翻译
摘要：大型语言模型（LLM）现已成为查询扩展词的标准来源，但它们会产生幻觉。它们会注入不存在的实体和偏离主题的词语，从而增加排序噪声，并可能损害强检索器的性能。现有补救措施，如语料库接地、相互验证和偏好对齐，将幻觉词视为无差别的干扰项，通过一致性启发式方法加以过滤，却没有对某个词为何出现给出机制性解释，也没有关于应保留多少词的原则性标准。我们提出子序列关联过滤的、广度感知的查询扩展（SAFE-QE），这是一种无需训练、与检索器无关的方法，借鉴了关于幻觉的子序列关联解释。我们根据每个候选扩展词在语料库条件下的跨上下文可复现性对其进行评分，那些在随机化查询上下文中反复出现但在伪相关集中缺乏支持的词，被标记为主导性幻觉关联的产物并被降权。借鉴将语言生成刻画为一致性（无幻觉）与广度（覆盖度）之间权衡的观点，我们将词项选择建模为在伪相关集上的约束覆盖最大化，保留一个近似广泛但在重采样中保持一致且稳定的集合。我们还引入了幻觉扩展词率，这是一种查询侧忠实度指标，用于统计没有相关文档支持的注入扩展词数量。我们在基准 TREC 和 BEIR 集合上评估我们的方法。我们的 SAFE-QE 在 nDCG@10 上与生成式和语料库引导的扩展在统计上无法区分，同时注入的不受支持词更少：每查询 4.3 个，而 Query2doc 为 27.8 个，HyDE 为 57.5 个；并且在强学习稀疏检索器上，所有扩展方法都会出现性能回退。因此，忠实度可以在排序质量上没有可测量代价的情况下实现。
| 主题： | 信息检索（cs.IR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.13810 [cs.IR] |
| （或 arXiv:2610.13810v1 [cs.IR] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2610.13810 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Sagar Uprety [查看电子邮件]
[v1]
2026年10月9日星期五 16:22:16 UTC（1,365 KB）
来源：arXiv cs.CL · arxiv.org