arXiv cs.AI· Dixi Yao, Tahseen Rabbani, Tian Li·· 2 天前AI 评分26
通过随机投影实现隐私保护的 RAG
Private Retrieval Augmented Generation via Random Projection
AI 导读
研究者提出一种基于随机投影的 RAG 数据存储隐私保护方法，对数据存储嵌入向量和查询嵌入向量施加相同投影，可证明地保持查询与检索项之间的语义相似性，同时大幅缓解数据提取攻击。在多种 RAG 架构和数据集上，该轻量方法在检索与生成性能上优于此前依赖形式化差分隐私（DP）保证的方法，在强攻击模型下经验隐私性相当。
正文 · AI 翻译
摘要：检索增强生成（RAG）通过查询外部结构化知识来增强大语言模型（LLM）的能力。然而，它也可能通过泄露检索数据存储中的敏感信息而引入隐私风险。我们提出了一种简单的方法，通过随机投影来保护 RAG 系统中的数据存储隐私。通过对数据存储嵌入和查询嵌入应用相同的投影，我们的方法可证明地保持了查询与检索项之间的语义相似性，同时大幅缓解数据提取攻击。在多种 RAG 架构和数据集上，我们表明这种轻量级方法相比利用形式化差分隐私（DP）保证的先前方法，实现了更优的检索和生成性能，同时在强攻击模型下展现出可比的实证隐私性。我们的结果首次表明，随机投影可以作为隐私保护 RAG 系统的一个有竞争力且实用的基线。
| 主题： | 人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.22297 [cs.AI] |
| （或 arXiv:2610.22297v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22297 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Dixi Yao [查看电子邮件]
[v1]
2026年10月15日星期四 17:45:51 UTC（204 KB）
来源：arXiv cs.AI · arxiv.org