arXiv·· 12 天前AI 评分27
从局部证据到安全判定：视觉语言模型中的因果追踪
From Local Evidence to Safety Verdicts: Causal Tracing in Vision-Language Models
AI 导读
研究提出 SSU-Bench 数据集，由通过单项提示词编辑或图像编辑构建的配对安全与不安全图文组合组成，并标注了预期区域。在三个视觉语言模型上，研究者通过在对配对输入之间迁移内部状态，测量安全判定结果的变化，从而定位模型内部联合安全判断的形成位置。
来源：arXiv · arxiv.org