arXiv cs.CL· Jinliang Liu, Jiale Bai, Shaoning Zeng·· 12 小时前AI 评分32
ParallaxRAG：用多视图知识图谱检索增强生成解决多跳问题
Think Parallax: Solving Multi-Hop Problems via Multi-View Knowledge-Graph-Based Retrieval-Augmented Generation
AI 导读
ParallaxRAG 提出对称多视图框架，将查询与知识图谱解耦到对齐的注意力头专属语义空间，解决现有 KG-RAG 将多跳推理压缩为单一表示的问题。该框架在 WebQSP 和 CWQ 上取得 SOTA 检索与问答性能，显著降低模型幻觉，并在生物医学 BioASQ 基准上展现强泛化能力。研究还发现 Transformer 注意力头会按推理阶段专门处理不同语义关系，形成跳对齐的中继模式。
正文 · AI 翻译
摘要：大型语言模型（LLM）在知识图谱（KG）上的多跳推理仍然存在困难，我们发现了导致这一困难的一个此前被忽视的结构性原因：Transformer 注意力头在推理各阶段会自然地专门处理不同的语义关系，形成一种与跳数对齐的中继模式。这一关键发现表明，多跳推理本质上是多视角的，然而现有的基于 KG 的检索增强生成（KG-RAG）系统将所有推理跳数压缩到单一表示、扁平嵌入空间中，抑制了这种隐式结构，导致路径探索出现噪声或漂移。我们提出 ParallaxRAG，一个对称的多视角框架，将查询和 KG 解耦为对齐的、特定于注意力头的语义空间。通过在多个头之间强制关系多样性，同时约束弱相关路径，ParallaxRAG 构建出更准确、更干净的子图，并引导 LLM 进行有依据的逐跳推理。在 WebQSP 和 CWQ 上，它取得了最先进的检索和问答性能，大幅减少了幻觉，并强有力地泛化到生物医学 BioASQ 基准。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2510.15552 [cs.CL] |
| （或 arXiv:2510.15552v5 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2510.15552 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jinliang Liu [查看邮箱]
[v1]
2025年10月17日星期五 11:34:27 UTC（3,364 KB）
[v2]
2025年12月29日星期一 07:32:34 UTC（3,367 KB）
[v3]
2026年4月13日星期一 09:34:10 UTC（3,132 KB）
[v4]
2026年4月14日星期二 01:45:11 UTC（3,132 KB）
[v5]
2026年10月26日星期一 03:16:11 UTC（3,488 KB）
来源：arXiv cs.CL · arxiv.org