arXiv cs.CL· Haoming Li, Dingyi Kang, Xu Hu, Jinxin Yang, Zhu Xu, Chenru Wang, Yi Ge, Miao Yin, Guanpeng Li, Feng Chen, Bingzhe Li·· 11 小时前AI 评分39
SAFE-Mem：带细粒度权限与治理感知检索的安全智能体记忆框架
SAFE-Mem: Secure Agentic Memory with Fine-Grained Authority and Governance-Aware Retrieval
AI 导读
SAFE-Mem 是一个细粒度记忆治理框架，为每条声明标注 kind、authority、scope 三个治理标签，并通过治理感知检索将查询需求与声明权限匹配，阻止未授权影响。在 MPBench 和 LoCoMo 上、四种 LLM 基座下，其攻击成功率比保留合法记忆的最强防御方法至少低 77%，答案准确率最高提升 15%。代码已开源。
正文 · AI 翻译
作者：Haoming Li、Dingyi Kang、Xu Hu、Jinxin Yang、Zhu Xu、Chenru Wang、Yi Ge、Miao Yin、Guanpeng Li、Feng Chen、Bingzhe Li
摘要：大语言模型（LLM）智能体日益依赖持久记忆来支持长期推理和个性化交互。然而，当不可信的声明（即原子陈述）随后被当作已授权的偏好、策略或权限处理时，从外部来源收集的信息可能引入安全风险。现有防御通常依赖基于内容的过滤或粗粒度的来源追踪，前者无法阻止未经授权的记忆使用，后者会阻断合法信息，从而牺牲记忆效用。为解决这些局限，我们提出 SAFE-Mem，一个细粒度的记忆治理框架，在提升安全性的同时保留合法的记忆使用。首先，SAFE-Mem 为每条声明标注三个治理标签（即类型、权威性和范围），以记录其来源和允许的用途。其次，治理感知检索将查询需求与声明权限进行匹配，在阻止未授权影响的同时保留合法信息。第三，治理赋能的记忆图连接源句子、声明和实体，以支持来源追踪和高效检索。在 MPBench 和 LoCoMo 上，基于四个 LLM 骨干模型，SAFE-Mem 在保留合法记忆的防御中取得了最低的攻击成功率，至少比其中最强的方法低 77%，并在所有评估的防御中取得了最高的回答准确率，最高提升 15%。代码可在 this https URL 获取。
| 学科： | 密码学与安全（cs.CR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.22959 [cs.CR] |
| （或 arXiv:2610.22959v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22959 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Haoming Li [查看邮箱]
[v1]
2026年10月16日星期五 05:29:55 UTC（328 KB）
来源：arXiv cs.CL · arxiv.org