arXiv cs.AI· Vineet Kumar, Meghanadh Pulivarthi, vishwajeet kumar, Jaydeep Sen, Riyaz Ahmad Bhat, Sachindra Joshi·· 3 天前AI 评分31
STAIR:利用文档目录结构增强检索的 LLM 检索器与 SearchTome 基准
STAIR (STructure Aware Information Retriever): A novel dataset and LLM based retriever for document structure augmentation
AI 导读
研究者提出基于 LLM 的检索系统 STAIR,利用语料库的全局结构(如目录 ToC)来存储和检索信息,在自建基准 SearchTome 上取得 82.6% 的 Recall@1,高于 DSI 的 76.9%、BM25 的 59.5%、DPR 的 68.7% 和开箱即用的 Mistral 的 13.8%。
正文 · AI 翻译
摘要:检索增强生成(RAG)是利用大语言模型(LLM)生成准确且无幻觉答案的关键组件。LLM 在处理长上下文方面不断进步,但仍受困于“迷失在中间”问题。因此,精确准确的检索至关重要。当前的检索器将长上下文按长度切分为可管理的块——在此过程中丢弃了语料库中丰富且信息量大的语义全局结构。我们提出了一种新颖的检索系统 STAIR,它使 LLM 能够利用语料库中的全局结构(如目录(ToC))来高效地存储和检索其模型参数中的信息。我们使用微调的可微搜索索引(DSI)系统进行的全面而细致的消融研究表明,ToC 有助于构建低幻觉(低于 0.05%)的生成式信息检索(IR)系统,并且能够泛化到训练样本极少的示例。为了进一步研究这一基于 ToC 的检索新方向,我们发布了 SearchTome——一个由 6 个不同领域的 18 本书创建的多样化基准,以进一步研究这一新方向。STAIR 在 SearchTome 上取得了 82.6% 的高 Recall@1 分数,相比之下 DSI 为 76.9%,且该差异具有统计学显著性。STAIR 轻松击败了其他强基线,如 BM25(59.5%)、DPR(68.7%)和开箱即用的 Mistral(13.8%)。
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2609.03874 [cs.AI] |
| (或 arXiv:2609.03874v2 [cs.AI] 为此版本) | |
| https://doi.org/10.48550/arXiv.2609.03874 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Meghanadh Pulivarthi [查看电子邮件]
[v1]
2026年9月3日星期四 14:02:53 UTC(3,408 KB)
[v2]
2026年10月13日星期二 05:54:31 UTC(3,408 KB)
来源:arXiv cs.AI · arxiv.org