arXiv cs.CL· Yijia Zheng, Marcel Worring·· 12 小时前AI 评分38
LatentRAG：用隐空间推理与检索实现高效 Agentic RAG
LatentRAG: Latent Reasoning and Retrieval for Efficient Agentic RAG
AI 导读
LatentRAG 将 Agentic RAG 的推理与检索从离散语言空间迁移到连续隐空间，单次前向传播即可从隐藏状态直接生成用于思考与子查询的 latent token，并与稠密检索模型在隐空间对齐、支持端到端联合优化。
正文 · AI 翻译
摘要：单步检索增强生成（RAG）为简单问答任务提供了一种高效整合外部信息的方式，但在处理复杂问题时表现不佳。Agentic RAG 通过将单步检索替换为多步过程来扩展这一范式，其中大语言模型（LLM）充当搜索代理，生成中间思考与子查询，以迭代方式与检索系统交互。由于需要自回归地生成长篇思考与子查询，这一迭代过程会带来可观的延迟。为解决这一局限，我们提出 LatentRAG，这是一个新颖的框架，将推理与检索都从离散语言空间转移到连续潜在空间。与现有逐 token 生成自然语言思考或子查询的显式方法不同，LatentRAG 在单次前向传播中直接从隐藏状态生成用于思考与子查询的潜在 token。我们在潜在空间中将 LLM 与稠密检索模型对齐，从而支持对潜在子查询 token 的检索，并支持端到端联合优化。为提升透明度并鼓励具有语义意义的潜在表示，我们引入了一种并行的潜在解码机制，将潜在 token 转换回自然语言。在七个基准数据集上的大量实验表明，LatentRAG 达到了与显式 agentic RAG 方法相当的性能，同时将推理延迟降低约 90%，大幅缩小了与传统单步 RAG 之间的延迟差距。
| 评论： | 神经信息处理系统大会（NeurIPS），2026 |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2605.06285 [cs.CL] |
| （或本版本的 arXiv:2605.06285v2 [cs.CL]） | |
| https://doi.org/10.48550/arXiv.2605.06285 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yijia Zheng [查看邮箱]
[v1]
2026年5月7日 星期四 13:56:13 UTC（3,867 KB）
[v2]
2026年10月25日 星期日 11:05:26 UTC（3,788 KB）
来源：arXiv cs.CL · arxiv.org