DeFT-RAG：将多跳问题增量分解为带可复用答案的自包含子问题

查看 PDF HTML（实验性）

摘要：检索增强生成（RAG）让大语言模型（LLM）通过从大规模语料库中检索相关段落来回答问题。然而，RAG 在多跳问题上表现不佳，这类问题需要通过问题从未提及的中间实体，将分散在多个文档中的事实串联起来。基于图的 RAG 方法仅从问题提及的实体出发进行一次检索，因此很少能恢复完整的证据链。迭代式 RAG 方法逐步恢复证据链，但其准确性受限于它们要求 LLM 执行的众多任务，例如规划子问题、确定子问题之间的依赖关系、在答案到达时改写子问题，以及跟踪已知信息。我们提出 DeFT-RAG，一个由三个组件构成的 RAG 框架。第一，DeFT-RAG 每次根据原始问题以及目前已回答的子问题及其答案（问答对）生成一个自包含的子问题。每个子问题都明确写出它所询问的每个实体，从而无需规划、跟踪依赖关系或改写，并让 LLM 一次只专注于一项细粒度任务。第二，DeFT-RAG 将 LLM 剩余的工​​作移出 LLM：对记录已知信息的问答表进行基于规则的更新，以及由经过微调的轻量级决策模型做出是/否决策。第三，DeFT-RAG 缓存问答对，当后续问题询问含义相同的子问题时复用已有答案。在 MuSiQue、2WikiMultiHopQA 和 HotpotQA 上，以 gpt-4o-mini 和 Qwen3.6 作为骨干模型时，DeFT-RAG 在十三个基线中取得了最佳准确率，同时向 LLM 提供的输入 token 数少于任何其他迭代方法。在 1,000 个 MuSiQue 问题共享问答缓存的情况下，23.1% 的子问题由缓存作答，这将 LLM 调用次数减少了 12.9%，且未降低准确率。

提交历史

来自：Dingyi Kang [查看邮箱]
[v1] 2026 年 10 月 27 日星期二 18:40:23 UTC（133 KB）