跳到正文
arXiv cs.CL· Ziqi Miao, Yi Ding, Chen Qian, Yongyao Wang, Zaoying Huang, Yuan Xiong, Ken Deng, Lijun Li, Jing Shao·· 9 小时前AI 评分38

VisCo 视觉上下文攻击:用图像驱动上下文注入越狱 MLLM

Visual Contextual Attack: Jailbreaking MLLMs with Image-Driven Context Injection

AI 导读

研究者提出 VisCo(Visual Contextual)攻击,通过四种以视觉为核心的策略构造对话上下文,并按需动态生成辅助图像,对黑盒 MLLM 实施"以视觉为中心的越狱"。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:随着强大视觉语言能力的出现,多模态大语言模型(MLLMs)在现实世界应用中展现出巨大潜力。然而,视觉模态所表现出的安全漏洞,给在开放世界环境中部署此类模型带来了重大挑战。近期研究通过将有害文本语义直接编码到视觉输入中,成功诱导目标 MLLMs 产生有害响应。然而,在这些方法中,视觉模态主要充当不安全行为的触发器,往往表现出语义模糊性,且缺乏现实场景中的依据。在本工作中,我们定义了一种新设定:以视觉为中心的越狱,其中视觉信息是构建完整且真实的越狱语境所必需的组成部分。基于这一设定,我们提出了 VisCo(Visual Contextual)攻击。VisCo 使用四种不同的以视觉为中心的策略来编造语境对话,并在必要时动态生成辅助图像,以构建以视觉为中心的越狱场景。为最大化攻击效果,它结合了自动毒性混淆和语义精炼,以生成最终攻击提示,从而可靠地触发目标黑盒 MLLMs 的有害响应。具体而言,在 MM-SafetyBench 上针对 GPT-4o,VisCo 取得了 4.78 的毒性评分和 85% 的攻击成功率(ASR),显著优于基线,后者的毒性评分为 2.48,ASR 为 22.2%。代码:this https URL。
主题: 计算机视觉与模式识别(cs.CV);计算与语言(cs.CL);密码学与安全(cs.CR)
引用为: arXiv:2507.02844 [cs.CV]
  (或 arXiv:2507.02844v3 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2507.02844

由 DataCite 颁发的 arXiv DOI

期刊 参考: EMNLP 2025

提交历史

来自:Miao Ziqi [查看电子邮件]
[v1] 2025年7月3日星期四 17:53:12 UTC(3,421 KB)
[v2] 2025年9月16日星期二 06:48:12 UTC(7,940 KB)
[v3] 2026年11月17日星期二 13:20:58 UTC(7,936 KB)

来源:arXiv cs.CL · arxiv.org