arXiv cs.AI· Faezeh Dehghan Tarzjani, Mevan Wijewardena, Alexander Romanus, Sampad Mohanty·· 10 天前AI 评分24
从局部证据到安全判定：视觉语言模型中的因果追踪
From Local Evidence to Safety Verdicts: Causal Tracing in Vision-Language Models
AI 导读
研究者提出 SSU-Bench 数据集，用单项提示词编辑或图像编辑构造配对的安全与不安全图文组合，并在三个视觉语言模型间迁移内部状态以测量安全判定变化。结果显示，对变更输入位置的干预在解码器较早层有效，而对最终输入 token 的干预在较晚层才生效；最终 token 状态的线性读出还能预测模型自身判定（包括错误判定）。
正文 · AI 翻译
摘要：视觉语言模型可能需要将图像与提示词结合起来，才能识别出单独任何一方都无法揭示的安全风险。这种联合安全判断在模型内部何处变得可及？我们提出了 SSU-Bench，这是一个由匹配的安全与不安全图像-文本组合构成的数据集，这些组合通过单项提示词编辑或带有标注目标区域的图像编辑构建。我们使用三个视觉语言模型，在配对输入之间迁移内部状态，并测量由此产生的安全判定变化。跨模型以及两种反事实类型，在较早的解码器层中，对发生变化的输入位置进行干预是有效的，而对最终输入 token 的干预则在较晚层才变得有效。从其他示例估计出的方向会产生类似的晚层效应。对最终 token 状态的线性读出也能预测模型自身的判定，包括错误判断，而跨模型比较揭示了反事实变化模式上的相似性。这些发现识别出干预能够影响联合安全判定的一个反复出现的转变，并将可读的模型决策与正确的安全判断区分开来。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.07514 [cs.AI] |
| （或 arXiv:2610.07514v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07514 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Faezeh Dehghan Tarzjani [查看电子邮件]
[v1]
2026年10月5日星期一 23:27:19 UTC（5,792 KB）
来源：arXiv cs.AI · arxiv.org