arXiv cs.AI· Zhaorun Chen, Xun Liu, Mintong Kang, Jiawei Zhang, Minzhou Pan, Shuang Yang, Bo Li·· 11 小时前AI 评分45
ARMs：面向多模态模型的自适应红队智能体，支持即插即用攻击
ARMs: Adaptive Red-Teaming Agent against Multimodal Models with Plug-and-Play Attacks
AI 导读
研究者提出自适应红队智能体 ARMs，可针对视觉语言模型自动优化多样化攻击策略，在实例与策略基准上取得 SOTA 攻击成功率，平均超出基线 52.1%，在 Claude-4-Sonnet 上超过 90%。
正文 · AI 翻译
摘要：随着视觉语言模型（VLM）日益受到关注，其多模态接口也引入了新的安全漏洞，使得安全评估既充满挑战又至关重要。现有的红队测试工作要么局限于狭窄的对抗模式集合，要么严重依赖人工工程，缺乏对新兴真实世界 VLM 漏洞的可扩展探索。为弥合这一差距，我们提出 ARMs，一种自适应红队测试智能体，可系统性地对 VLM 开展全面风险评估。给定目标有害行为或风险定义，ARMs 通过推理增强的多步编排自动优化多样化的红队测试策略，以有效诱导目标 VLM 产生有害输出。我们提出 11 种新颖的多模态攻击策略，涵盖 VLM 的多样化对抗模式（例如推理劫持、上下文隐蔽），并通过模型上下文协议（MCP）将 17 种红队测试算法集成到 ARMs 中。为平衡攻击的多样性与有效性，我们设计了带有 epsilon-greedy 攻击探索算法的分层记忆。在基于实例和基于策略的基准上的大量实验表明，ARMs 取得了 SOTA 攻击成功率，平均超过基线 52.1%，在 Claude-4-Sonnet 上超过 90%。我们表明，ARMs 生成的红队测试实例多样性显著更高，揭示了 VLM 中新兴的漏洞。借助 ARMs，我们构建了 ARMs-Bench，一个大规模多模态安全数据集，包含超过 30K 个红队测试实例，涵盖 51 个多样化风险类别，立足于真实世界多模态威胁与监管风险。使用 ARMs-Bench 进行安全微调可显著提升 VLM 的鲁棒性，同时保持其通用效用，为改进多模态安全对齐以应对新兴威胁提供了可操作的指导。
| 评论： | 被 ICLR 2026 接收。获 CVPR 2026 AdvML Workshop 杰出论文奖。64 页，16 幅图。项目页面：this https URL |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2510.02677 [cs.AI] |
| （或 arXiv:2510.02677v2 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2510.02677 arXiv 颁发的 DOI 通过 DataCite |
|
| 期刊 参考： | 第十四届国际学习表征会议（ICLR 2026） |
提交历史
来自：Xun Liu [查看邮箱]
[v1]
2025 年 10 月 3 日星期五 02:28:02 UTC（12,674 KB）
[v2]
2026 年 11 月 4 日星期三 22:56:01 UTC（12,674 KB）
来源：arXiv cs.AI · arxiv.org