arXiv cs.CL· Zehao Lin, Xixuan Hao, Renyu Fu, Shaobo Cui, Kai Chen, Chunyu Li, Zhiyu Li, Feiyu Xiong·· 14 小时前AI 评分34
LLM 智能体长期记忆安全综述：记忆生命周期内的攻击、防御与治理
A Survey on Long-Term Memory Security in LLM Agents: Attacks, Defenses, and Governance Across the Memory Lifecycle
AI 导读
一篇被 EMNLP 2026 接收的综述提出记忆生命周期框架，沿六个生命周期阶段（写入、存储、检索、执行、共享与传播、遗忘与回滚）和四个安全目标（完整性、机密性、可用性、治理）组织 LLM 智能体长期记忆的攻击、防御及跨阶段依赖。该框架进一步引出可验证记忆治理（VMG），包含五项架构原语，用于在声明的系统与威胁模型边界内指定和评估可审计、可恢复的记忆状态控制。
正文 · AI 翻译
摘要：LLM 智能体中可写、跨会话持久记忆的出现，带来了与传统以输入为中心的安全问题性质不同的威胁格局，其特征包括三个属性：持久性、有状态性和传播性。为系统性地刻画这一格局，我们提出了一个记忆生命周期框架，沿两个维度组织攻击、防御及其跨阶段依赖关系：六个生命周期阶段（写入、存储、检索、执行、共享与传播、遗忘与回滚）和四个安全目标（完整性、机密性、可用性、治理）。这一分析进而揭示了在系统层面明确安全需求的必要性，从而促成了可验证记忆治理（VMG）的提出——这是一个由五个架构原语组成的框架，用于在声明的系统和威胁模型边界内，对记忆状态的可审计、可恢复控制进行规范与评估。我们的分析表明，有必要将来源追踪、版本管理和策略感知的保留机制与检索及执行防御相结合，以支持在整个生命周期内实现可审计的预防、遏制与恢复。
| 评论： | 16 页，3 幅图，3 张表。已被 EMNLP 2026 接收。更新了参考文献，修订了 VMG 的定义与关系；修订说明见附录 F |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| ACM 分类： | K.6.5；I.2.0；D.4.6 |
| 引用为： | arXiv:2604.16548 [cs.CR] |
| （或本版本使用 arXiv:2604.16548v4 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2604.16548 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Zehao Lin [查看邮箱]
[v1]
2026 年 4 月 17 日星期五 06:28:22 UTC（24,153 KB）
[v2]
2026 年 6 月 11 日星期四 04:00:49 UTC（517 KB）
[v3]
2026 年 9 月 22 日星期二 07:33:24 UTC（475 KB）
[v4]
2026 年 10 月 24 日星期六 05:30:02 UTC（1,559 KB）
来源：arXiv cs.CL · arxiv.org