跳到正文
arXiv cs.CL· Xinze Li, Dingwen Zhang, Zhenghao Liu, Yukun Yan, Shuo Wang, Yu Gu, Ge Yu, Maosong Sun·· 12 小时前AI 评分31

MAPS:用宏自适应并行推理调控 RAG 中的搜索动量

MAPS: Macro-Adaptive Parallel Reasoning for Regulating Search Momentum in Retrieval-Augmented Generation

AI 导读

MAPS 是一个宏自适应并行推理框架,通过保留检索知识与精炼推理状态、并将顺序推理扩展为并行推理,来调控搜索动量、缓解查询意图漂移。该框架在每次迭代中识别互补检索方向、并行生成子查询并整合证据更新知识状态。在六个问答基准上,MAPS 在不同骨干模型下均优于代表性 RAG 方法,代码与资源已公开。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:检索增强生成(RAG)通过检索外部知识来提升大语言模型(LLM)的性能。近期,一些 RAG 方法将推理与检索交错进行,使 LLM 能够逐步生成子查询并检索外部知识。然而,这些方法可能受到冗余或无效子查询以及查询探索多样性不足的困扰。此外,由于推理与检索紧密交错,不断演化的推理过程如何影响查询意图仍不清楚。为刻画推理过程中查询意图的演化,我们引入了搜索动量(search momentum),它捕捉了沿推理轨迹生成的子查询的历史变化所累积的检索倾向。通过基于动量的分析,我们发现查询生成过程倾向于沿既有检索轨迹持续演化。基于这一观察,我们提出了 MAPS,一个用于调控搜索动量并缓解查询意图漂移的宏自适应并行推理框架。MAPS 首先保留检索到的知识和精炼后的推理状态,从而降低历史推理轨迹对后续子查询生成的影响。随后,MAPS 将传统的顺序推理过程扩展为并行推理范式。在每次迭代中,MAPS 识别互补的检索方向,生成相应的子查询以进行并行检索,并整合检索到的证据以更新知识和推理状态。在六个问答基准上的实验表明,MAPS 在不同骨干模型上均持续优于代表性的 RAG 方法。所有代码和资源可在 此 https URL 获取。
学科: 计算与语言(cs.CL)
引用为: arXiv:2610.29792 [cs.CL]
  (或 arXiv:2610.29792v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.29792

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Xinze Li [查看邮箱]
[v1] 2026年10月21日 星期三 14:19:17 UTC(941 KB)

来源:arXiv cs.CL · arxiv.org