arXiv cs.CL· Guillaume Brouillette (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada), Faustin Kagabo (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada), Usef Faghihi (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada), Nadia Ghazzali (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada)·· 10 天前AI 评分24
LLM 检索如何平衡相关性与多样性:一项 arXiv 研究
Finding the Right Balance: Relevance and Diversity in LLM Retrieval
AI 导读
一项 arXiv 研究显示,检索多样化对 RAG 的效果主要取决于候选池冗余度:在干净候选池上会损害相关性、证据覆盖与答案质量,但在多证据任务中冗余导致最近邻检索重复选段时反而有益。
正文 · AI 翻译
摘要:检索多样化在检索增强生成(RAG)框架中已广泛可用,但既有研究对其能否提升检索与答案质量存在分歧。我们表明,其有效性主要随候选池冗余度而变化,且这一模式与查询所需的不同证据片段数量相一致。通过受控的近重复注入和生产式重叠分块,我们发现多样化在干净候选池上会损害相关性、证据覆盖率和答案质量,但在多证据任务中,当冗余导致最近邻检索选中重复段落时,多样化则变得有益。因此,我们提出一种查询自适应规则:仅当最近邻 top-$k$ 选择中有效不同文档数量低于该查询的证据需求时,才进行多样化。该规则基于现有嵌入计算,能捕获大部分可实现的增益,可跨数据集和编码器迁移,并对单证据查询自动退化为最近邻检索。我们还提出 RNG-Score,一种带精确最近邻回退的几何重排序器,其间隔可指示重复结构。总体而言,我们得出结论:多样化应基于可观测的冗余度和证据需求进行选择性使用。
| 评论: | 36 页,8 幅图,13 张表。代码与结果:此 https URL |
| 主题: | 信息检索(cs.IR);计算与语言(cs.CL) |
| ACM 分类: | H.3.3;I.2.7 |
| 引用为: | arXiv:2610.09412 [cs.IR] |
| (或 arXiv:2610.09412v1 [cs.IR] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.09412 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
发件人:Guillaume Brouillette [查看电子邮件]
[v1]
2026 年 10 月 7 日星期三 04:14:31 UTC(186 KB)
来源:arXiv cs.CL · arxiv.org