arXiv cs.AI· Chuan Zou, Yang Xiang, Zexin Li, Xiaonan Luo, Simin Chen·· 3 天前AI 评分38
EvolvAttack：对自进化 VLM 智能体的后门攻击
EvolvAttack: Backdooring self Evolving VLM Agents
AI 导读
研究者提出 EvolvAttack，一种针对自进化 VLM 智能体的"自进化后门"攻击：恶意载荷在初始智能体中休眠，随记忆演化逐步激活。该攻击需视觉触发器与足够演化的记忆状态同时满足，静态扫描干净记忆时攻击成功率近乎为零。在三种 VLM 主干、四种智能体流程及三类记忆演化机制下，攻击在演化前成功率仅 0.5%，100 次交互内超过 95%，且保持正常功能。
正文 · AI 翻译
摘要：自进化机制让视觉语言模型（VLM）智能体通过不断演化的记忆持续适应，但这也使得恶意行为可能在部署后才出现。我们引入了一种新的攻击面——自进化后门，其载荷在初始智能体中保持休眠，并随着智能体的进化而逐步激活。与传统的后门不同（传统后门可通过在静态模型上测试触发输入来暴露），我们的攻击需要视觉触发器和充分进化的记忆状态；因此，在干净记忆下进行静态扫描时，攻击成功率几乎为零，并可能判定该智能体为良性。我们通过记忆感知后门训练实现了这一点，该训练将触发器激活与智能体不断演化的记忆耦合，同时除非触发器与载荷相关记忆同时出现，否则保持良性行为。在三个 VLM 主干、四个智能体流水线，以及基于近因、语义和奖励的记忆演化中，该攻击保持了正常功能，并在进化前几乎不活跃（攻击成功率 0.5%），但在 100 次交互内攻击成功率超过 95%，揭示了自进化智能体特有的一种隐蔽威胁。
| 评论： | 21 页，7 幅图，9 张表 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.15244 [cs.LG] |
| （或 arXiv:2610.15244v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15244 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Chuan Zou [查看邮箱]
[v1]
2026年10月11日星期日 00:33:53 UTC（821 KB）
来源：arXiv cs.AI · arxiv.org