arXiv cs.AI· Xuelong Dai, Jianyu Ma, Boyang Ma, Biwei Yan, Yijun Yang, Yue Zhang·· 2 天前AI 评分32
MIRAGE：面向 Web 智能体的隐蔽视觉提示注入漏洞检测框架
MIRAGE: Stealthy Visual Prompt Injection for Vulnerability Detection in Web Agents
AI 导读
研究者提出 MIRAGE，一种视觉间接提示注入框架，可在仅控制广告位等受限区域的第三方威胁模型下劫持 Web 智能体的下一步动作。该方法用扩散模型生成感知上自然的对抗图像，并结合曲率感知对抗扩散引导与稀疏暗像素残差扰动优化攻击效果。在 SeeAct 和 OpenClaw 上的评测显示其攻击有效、真实且隐蔽。
正文 · AI 翻译
摘要：基于多模态大语言模型（MLLM）的网页代理为可视化浏览器自动化提供了实用且高精度的解决方案；然而，它们本质上扩大了攻击面，引入了新型的基于视觉的漏洞。针对这些代理的现有对抗性评估往往依赖于宽松的威胁模型和视觉上显眼的伪影。在本文中，我们研究了一种受限的漏洞检测场景：一个可信的网页平台，其中评估者仅作为无特权的第三方（例如商家或广告商）行事，仅控制一个语义上合法、空间上受限的区域，例如广告位、赞助卡片或局部小部件。在这些现实约束下，我们提出了 MIRAGE，一种用于定向下一动作劫持的新型视觉间接提示注入框架。我们的方法利用扩散模型生成感知上良性的对抗图像，严格限制在可信服务提供商允许的攻击者控制边界内。为了在如此受限的场景中最大化攻击效果，我们引入了一种鲁棒优化技术，将曲率感知的对抗扩散引导与稀疏的暗像素残差扰动相结合。针对主流 MLLM 网页代理框架（特别是 SeeAct 和 OpenClaw）的全面评估，从经验上证明了我们提出的 MIRAGE 的有效性、真实性和隐蔽性。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2606.20717 [cs.CV] |
| （或 arXiv:2606.20717v2 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.20717 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Jianyu Ma [查看电子邮件]
[v1]
2026年6月16日星期二 15:31:33 UTC（6,477 KB）
[v2]
2026年10月15日星期四 04:29:19 UTC（6,482 KB）
来源：arXiv cs.AI · arxiv.org