arXiv cs.CL· David H. Yang, Blake Bullwinkel, Amanda Minnich, Mohammad Mohammadi Amiri, Giorgio Severi·· 10 小时前AI 评分45
MemoryDojo：基准测试 LLM 智能体记忆投毒
MemoryDojo: Benchmarking Poisoning Through LLM Agent Memory
AI 导读
研究者推出 MemoryDojo 基准，用于追踪投毒信息在 LLM 智能体记忆中的生命周期并测量其对后续行为的影响。该基准包含覆盖四个领域的 155 条多会话长程轨迹，支持五种记忆系统，评测发现所有记忆系统均可被记忆投毒，且下游影响差异显著。团队还提出记忆感知的投毒优化流程，可提升投毒效果并凸显不同记忆架构的差异。
正文 · AI 翻译
摘要：LLM 智能体通过使用记忆系统来提升在长程、多会话任务上的表现。然而，记忆引入了一个关键的攻击面。在某一会话中遇到的恶意指令可能被存储并通过记忆传播，随后在之后的会话中被检索并执行。由于不同记忆系统在处理和检索信息的方式上存在差异，投毒的下游影响可能因系统而异。为了量化投毒对不同记忆架构的影响，我们提出了 MemoryDojo，一个用于追踪被投毒信息在智能体记忆中生命周期并衡量其对后续智能体行为影响的基准。MemoryDojo 易于扩展，包含覆盖四个领域的 155 条多会话长程轨迹，并支持五种不同的记忆系统。通过我们的评估，我们发现所有记忆系统都容易受到记忆投毒的影响，且下游影响差异显著。我们进一步提出了一种记忆感知的投毒优化过程，提高了投毒效果，凸显了记忆架构之间的差异。我们希望 MemoryDojo 能够支持理解和缓解智能体记忆风险的研究。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.09721 [cs.CR] |
| （或 arXiv:2611.09721v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.09721 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：David Hong Yang [查看邮箱]
[v1]
2026年11月6日星期五 17:00:09 UTC（418 KB）
来源：arXiv cs.CL · arxiv.org