arXiv cs.CL· Zhitao He, Chi Him Zhang, Chengru Han, Yi R Fung·· 11 小时前AI 评分39
Multimodal-SEA：多模态社会工程攻击下的 AI 智能体安全基准测试
Multimodal-SEA: Benchmarking AI Agent Security under Multimodal Social Engineering Attacks
AI 导读
研究者推出 Multimodal-SEA 交互式基准，含 608 个专家设计任务，覆盖 14 个领域、152 种攻击场景，用于评测个人 AI 智能体在多模态社会工程攻击下的 intrinsic security。
正文 · AI 翻译
摘要：个人 AI 智能体面临由伪造多模态内容支持的社会工程攻击，但现有评估主要集中于基于文本的对话，对其在此类攻击下的内在安全性研究不足。我们推出 Multimodal-SEA，这是一个交互式基准，包含 608 个由专家设计、基于真实欺诈案例的任务，覆盖 14 个领域和 152 个攻击场景，并配有准备好的多模态内容。这些任务跨越四个难度级别，并反映中英文环境不同的社会与文化背景。智能体在模拟应用中检查内容、验证请求并执行操作，攻击结果以可验证的工具执行日志为依据。为实现对个人智能体的受控红队测试，我们设计了一个多模态攻击测试框架，集成任务信息、攻击进程控制与多模态内容构建，以评估其在模拟环境中面对自适应社会工程攻击时的内在安全性。对七个广泛使用的多模态模型从六个维度进行评估后发现，所有模型均存在漏洞，攻击成功率为 7.1% 至 34.5%。添加多模态内容使攻击成功率从 19.9% 升至 29.2%，尽管主动验证覆盖率有所提高。更强的安全指令降低了攻击成功率，但并未提升对欺骗性多模态内容的识别能力，而部分模型较低的攻击成功率伴随着对合法请求的过度拒绝。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.08281 [cs.CL] |
| （或 arXiv:2611.08281v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.08281 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhitao He [查看邮箱]
[v1]
2026年11月5日星期四 16:46:31 UTC（3,113 KB）
来源：arXiv cs.CL · arxiv.org