arXiv cs.AI· Tommaso Cerruti, Mika Okamoto, Ansel Kaplan Erol·· 14 小时前AI 评分48
研究揭示 LLM 智能体记忆可被用于“内生授权洗白”，提出 EAL-Bench 基准
Agent Memory Is a Surface for Endogenous Authorization Laundering
AI 导读
研究提出“内生授权洗白”概念：LLM 智能体的持久记忆若误记授权状态，会让未授权操作在自身记录中显得合规，无需外部攻击即可引发行为失准。
正文 · AI 翻译
摘要：长时间运行的 LLM 智能体依赖持久记忆，不仅保留任务上下文，还保留约束其行为的权限与限制。当记忆错误地表示这种不断演变的授权状态时，智能体自身的记录可能使未授权操作看起来是被允许的，从而在没有任何外部攻击的情况下导致行为失准。
我们将这种失效称为内生授权洗白，即记忆通过语义误解或更新失败创造或保留虚假权限，而执行器依据该权限行事。随后我们引入 EAL-Bench，以衡量持久记忆保留不断演变的授权状态的准确程度，以及记忆错误是否会传播为未授权操作。
我们在采购、网络安全和金融任务中评估了七个作为记忆写入者的 LLM 和两个作为执行器的 LLM。在增量类型化记忆更新下，写入者为高达 45.4% 的未授权请求创造了虚假权限，而一旦虚假权限存在，执行器在 99.0% 的试验中依据其行事。记忆层面的防护措施减少了洗白，但可能拒绝合法操作，暴露出安全与效用之间的权衡。因此，持久记忆是 LLM 智能体有效授权策略的一部分，而不仅仅是性能组件。
| 评论： | 已被 NeurIPS 2026 PALM Workshop（Personalized, Aligned, Long-Term Memory for AI Systems）接收。修订后的 camera-ready 版本，包含扩展的实验、分析和附录。51 页，10 张图 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.01836 [cs.CR] |
| （或 arXiv:2609.01836v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.01836 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Tommaso Cerruti [查看邮箱]
[v1]
2026 年 9 月 1 日星期二 20:12:08 UTC（2,098 KB）
[v2]
2026 年 10 月 24 日星期六 12:57:58 UTC（2,391 KB）
来源：arXiv cs.AI · arxiv.org