arXiv cs.AI· Lei Liu, Yunji Liang, Xiaowen Zhang, Jingqi Liu, Qi Li, Bin Guo, Zhiwen Yu·· 6 天前AI 评分31
DREAM：面向被投毒 LLM 智能体的神经启发式记忆修复机制
Forgetting is Not Always Bad: A Neuro-Inspired Memory Repair Mechanism for Poisoned LLM Agents
AI 导读
受神经科学中弱再激活可致记忆衰减的启发，研究者提出免训练的智能体内生记忆修复框架 DREAM，通过扰动隐式再激活、多维激活异常诊断与动态记忆修复三阶段，实现对被投毒记忆的选择性功能性遗忘。
正文 · AI 翻译
摘要：大型语言模型（LLM）智能体极易受到记忆投毒攻击。现有防御主要依赖外部模块进行静态记忆隔离或持续在线审计，导致记忆效率低、计算开销高。为解决这些局限，受神经科学机制的启发——弱再激活可使记忆失稳，并在缺乏强化的情况下诱导其衰退——我们提出了一种智能体内在的免训练记忆修复框架 DREAM（Dynamic Reactivation for Engram Attenuation in Memory，记忆印迹衰减的动态再激活），能够对中毒记忆进行选择性的功能性遗忘。具体而言，DREAM 实现了三阶段流水线：扰动诱导的隐式再激活以揭示恶意记忆的结构脆弱性，基于多维激活模式的自适应异常诊断以检测拓扑异常，以及一个动态记忆修复模块，选择性地抑制有害记忆并强化良性记忆。在多种攻击者和真实任务上的大量实验表明，DREAM 针对后门投毒将攻击成功率降低超过 95\%，同时保持较强的良性效用。DREAM 对注入攻击也实现了有竞争力的鲁棒性。在运行时间和 token 消耗方面，与 A-MemGuard 相比，DREAM 实现了最高 2.13$\times$ 的加速和 37.7\% 的 token 消耗降低。此外，DREAM 在中毒多智能体系统上还实现了 92.96\% 的任务成功率。
| Subjects: | 人工智能（cs.AI） |
| Cite as: | arXiv:2610.13267 [cs.AI] |
| （或 arXiv:2610.13267v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13267 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Lei Liu [查看邮箱]
[v1]
2026年10月9日星期五 09:17:00 UTC（2,896 KB）
来源：arXiv cs.AI · arxiv.org