arXiv cs.AI· Tongxi Wu, Yuyang Cheng, Jiacheng Xian, Menglin Yang, Kai Chen, Jian Zhang, Yang Gao·· 23 小时前AI 评分42
视觉语言模型的场景状态安全漏洞:SceneSafetyBench 与 S3TA 攻击
Reading Scene States: Uncovering Safety Failures in Vision-Language Models
AI 导读
研究识别出视觉语言模型的“场景状态安全漏洞”,并构建 SceneSafetyBench(375 个图文问答对,覆盖 Initial、Medium、Ultimate 三种场景状态与五种视觉呈现),八款 VLM 在场景状态输入下的攻击成功率为 45.6%–72.3%。
正文 · AI 翻译
摘要:视觉语言模型(VLM)能够通过解读视觉事件提供有害协助,即使没有明确要求其实现潜在的有害目标。我们识别出这种\textbf{场景状态安全漏洞},并推出\textbf{SceneSafetyBench},其中包含 375 个图像—问题对,涵盖初始、中间和最终场景状态以及五种视觉呈现方式。在八个 VLM 上,场景状态输入引发有害协助的攻击成功率(ASR)为 45.6–72.3\%。对三个 VLM 的对比分析表明,场景状态输入在其逐层安全相关信号分布上与 QR 相关图像最为相似,同时在生成过程中表现出更低的后期层读出值和独特的信号动态。为了将这一漏洞转化为系统性攻击,我们提出\textbf{S3TA},它将有害目标转化为场景状态,独立查询图像—问题对,并汇总响应。在八个开放权重和商业 VLM 上的七个 MM-SafetyBench 类别中,S3TA 实现了模型平均 ASR 为\textbf{71.2\%,超过最强基线 6.1 个百分点}。文本侧过滤器和视觉审核提供的保护有限。这些发现凸显了有必要保护模型通过基于场景的推理所推断出的协助,而不仅仅是筛查输入内容。
| 评论: | VLM 安全、多模态越狱和场景状态推理 |
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI) |
| 引用为: | arXiv:2611.23206 [cs.CV] |
| (或 arXiv:2611.23206v1 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.23206 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Tongxi Wu [查看电子邮件]
[v1]
2026 年 11 月 17 日星期二 18:48:02 UTC(2,519 KB)
来源:arXiv cs.AI · arxiv.org