arXiv cs.CL· Yiyang Duan, Fan Wu, Tiantong Wu, Che Wang, Zhiren Gong, Wei Guo, Yang Cao, Wei Yang Bryan Lim·· 12 小时前AI 评分31
C²U:在 RAG 中实现组合式概念遗忘
C$^2$U in RAG: Compositional Concept Unlearning in Retrieval-Augmented Generation
AI 导读
研究提出 Compositional Concept Unlearning(C²U),在编码器与文档索引固定的前提下做查询侧概念抑制,通过增强原子库路由出 profile 方向,仅向原始查询加入有界的“编辑减原始”增量。
正文 · AI 翻译
摘要:检索增强生成即使生成器受到审核,也可能通过检索到的证据暴露出不想要的概念。我们研究在编码器和文档索引固定的情况下进行查询侧概念抑制。组合式概念遗忘(C$^2$U)将源自画像的方向通过增强的原子库进行路由,仅向原始查询添加有界的“编辑后减原始”增量。在五个数据集、四个编码器和三个随机种子上,经验证集选出的配置将汇总的二元目标 Hit@5 降低了 4.25 个百分点,且对照退化与目标暴露变化均为非正。在所评估的查询变换下,它抑制了目标密度,且未增加预算内的对照查询暴露。另外,在独立验证门和首次使用测试评估之后,ArXiv 四概念组合优于平均方向对照方法。
| 评论: | 37 页,8 幅图,含附录 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.29223 [cs.CL] |
| (或 arXiv:2610.29223v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.29223 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Yiyang Duan [查看邮箱]
[v1]
2026 年 10 月 21 日星期三 05:30:06 UTC(6,379 KB)
来源:arXiv cs.CL · arxiv.org