跳到正文
arXiv cs.CL· Kaiqiao Han, LuAn Tang, Renliang Sun, Peng Yuan, Wei Cheng, Haoyu Wang, Wei Wang, Yizhou Sun, Haifeng Chen·· 2 天前AI 评分26

SA-RAG:从噪声对话中构建结构化表示以增强 RAG

SA-RAG: Structuring Noisy Conversations for Retrieval-Augmented Generation

AI 导读

SA-RAG 提出一种结构感知的检索增强生成框架,可直接从噪声对话数据中归纳出以表格为载体的可靠中间结构,并联合建模语义与结构一致性。该框架同时探索免训练与基于训练的结构生成策略,在两个真实噪声数据集上显著优于现有 RAG 基线。分析表明高质量结构表示对稳健的 RAG 应用至关重要。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)已在对话式应用中被广泛采用。然而,它们对参数化知识的依赖限制了其在需要动态或领域特定信息的真实场景中的可靠性。检索增强生成(RAG)通过在生成过程中引入外部知识来应对这一局限,但现有的 RAG 方法往往难以处理含噪或无关的上下文,因为它们通常假设高质量的结构已经可用。在本工作中,我们提出结构感知检索增强生成(SA-RAG),这是一个有原则的结构归纳与生成框架,可直接从含噪的对话数据中构建可靠的中间结构。SA-RAG 使用表格作为紧凑且可控的结构化表示。我们引入了一个质量感知的结构归纳框架,联合建模语义一致性与结构一致性。此外,我们探索了免训练和基于训练的结构生成策略,以在保持保真度的同时进一步提升结构质量。在两个含噪的真实世界数据集上的实验表明,SA-RAG 显著优于现有的 RAG 基线。进一步的分析表明,高质量的结构化表示对于稳健的 RAG 应用至关重要。
学科: 计算与语言(cs.CL);机器学习(cs.LG)
引用为: arXiv:2605.24366 [cs.CL]
  (或 arXiv:2605.24366v2 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2605.24366

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Kaiqiao Han [查看邮箱]
[v1] 2026年5月23日星期六 03:07:33 UTC(958 KB)
[v2] 2026年11月13日星期五 03:34:05 UTC(981 KB)

来源:arXiv cs.CL · arxiv.org