arXiv cs.CL· Korbinian Randl, Guido Rocchietti, Aron Henriksson, Ziawasch Abedjan, Tony Lindgren, John Pavlopoulos·· 9 天前AI 评分23
RAG-E：用局部解释量化 RAG 中检索器与生成器的对齐程度
Quantifying Retriever-Generator Alignment in RAG with Local Explanations
AI 导读
研究者提出 RAG-E 端到端可解释性框架，通过适配 Integrated Gradients 分析检索器、用蒙特卡洛稳定化的 Shapley Value 近似做生成器归因，并引入 WARG 指标衡量生成器文档使用与检索器排序的对齐程度。
正文 · AI 翻译
摘要：检索增强生成（RAG）系统将稠密检索器与语言模型相结合，使输出以外部文档为依据。然而，这些组件之间的交互仍然不透明，给在高风险领域中的部署带来了挑战。我们提出 RAG-E，一个端到端的可解释性框架，通过数学上严谨的归因方法来量化检索器与生成器之间的对齐程度。我们的方法将积分梯度（Integrated Gradients）改造用于检索器分析，提出一种蒙特卡洛稳定化的 Shapley 值近似方法用于生成器归因，并引入检索器与生成器加权对齐（WARG）指标，以衡量生成器对文档的使用与检索器排名之间的吻合程度。在 PopQA、QAMPARI 和 TREC CAST 数据集上的实验揭示了显著的不对齐：根据模型和设置的不同，生成器常常忽略排名靠前的文档，而依赖排名较低的文档。我们表明，WARG 比 Pearson 和 Spearman 相关性更能捕捉检索器与生成器之间的对齐，并可作为 RAG 性能的指标。RAG-E 和 WARG 为审计这一交互提供了一个实用框架，使 RAG 系统更可靠、更透明。
| 评论： | 已被 EMNLP 2026 接收 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2601.21803 [cs.CL] |
| （或 arXiv:2601.21803v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2601.21803 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Korbinian Randl [查看邮箱]
[v1]
2026年1月29日星期四 14:47:00 UTC（1,954 KB）
[v2]
2026年7月7日星期二 09:51:50 UTC（979 KB）
[v3]
2026年10月7日星期三 19:36:30 UTC（1,145 KB）
来源：arXiv cs.CL · arxiv.org