arXiv cs.CL· Yining Tang, Junyu Zhang, Haomiao Qiu, Yongchao Liu, Jiajun Zheng, Zhao Wang, Ziyue Qiao, Chao Wu·· 3 天前AI 评分22
GraphRAG-LTM：针对 GraphRAG 攻击的分层威胁建模框架
GraphRAG-LTM: A Layered Threat Modeling Framework for Attacks on Graph Retrieval-Augmented Generation
AI 导读
研究者提出 GraphRAG-LTM 分层威胁建模框架，测试三种嵌套层级的攻击者访问权限：BB Query 利用排序反馈在语义相似度约束下改写查询、降低相关种子块排名，WB Query 使用检索器梯度实现同一目标，Graph-aware WB 则在此基础上删除查询特定证据图中的桥接三元组，破坏多跳证据传播。
正文 · AI 翻译
摘要：图检索增强生成（GraphRAG）使用从文档派生的知识图谱为大语言模型（LLM）的答案整合证据。其安全性既取决于为查询检索到的种子文本块，也取决于由这些文本块整合而成的图证据，然而针对这一证据路径的攻击仍未被充分探索。我们提出 GraphRAG-LTM，一个分层威胁建模框架，用于测试三个嵌套层级的攻击者访问权限。BB Query 利用排序反馈在语义相似度约束下进行查询编辑，并降低相关种子文本块的排名。WB Query 使用检索器梯度实现相同目标。Graph-aware WB 保留白盒对抗查询，并从查询特定的证据图中删除桥接三元组，通过局部图编辑破坏多跳证据传播。在多个数据集、检索器和 LLM 主干上，仅凭排序反馈就会降低答案质量，梯度访问会增强查询攻击，而桥接三元组删除会进一步损害支撑事实的检索。进一步分析表明种子检索和图证据如何共同导致这些失败。
| 评论： | 14 页，7 张图 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.19549 [cs.CL] |
| （或 arXiv:2610.19549v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.19549 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Yining Tang [查看邮箱]
[v1]
2026 年 10 月 14 日星期三 04:04:34 UTC（1,919 KB）
来源：arXiv cs.CL · arxiv.org