arXiv cs.CL· Hong kyu Lee, Kai Shu, Li Xiong·· 11 小时前AI 评分38
大型视觉语言模型的组合安全审计：Compositional Unalignment 研究
Compositional Unalignment: Auditing Safety in Large Vision-Language Models
AI 导读
研究提出 CMaG，一种免训练的反对齐方法，用于审计大型视觉语言模型的组合安全鲁棒性。该方法通过拒绝与服从的对数概率边际计算梯度，单次反向传播即可在 Qwen2.5-VL-7B 和 LLaVA-1.5-7B 上将组合安全分数最多降低 65 分，同时超过 98% 的输出保持连贯。
正文 · AI 翻译
摘要：大型视觉语言模型（LVLM）容易受到组合性危害的影响：单独来看无害的图像和提示，通过模型的跨模态推理会变得有害。近期的对齐方法在组合性安全基准上报告了很高的分数，但 LLM 评判器只能衡量观察到的行为，无法揭示安全性被稳健地整合进模型的程度。我们认为，去对齐（un-alignment）为对齐鲁棒性提供了一种互补的审计手段。我们首先表明，最小规模的监督微调即可达到与多阶段强化学习流程相当的 LLM 评判分数，因此相似的基准分数本身无法证明鲁棒性。随后我们表明，对组合性危害的识别与拒绝是解耦的：九种标准的方向发现方法检测组合性危害的 AUC 最高可达 0.99，然而消融所恢复的方向要么使拒绝行为保持不变，要么破坏模型的连贯性。因此我们提出 CMaG，一种用于组合性安全的免训练去对齐方法。CMaG 用拒绝与顺从的对数概率差来衡量拒绝意图，对其关于中间层激活求梯度，并将其与部分无害的配对进行对比，以分离出跨模态交互项。对 80 个样本进行一次反向传播即可得到一个方向，沿该方向进行引导可单调地将拒绝转化为顺从。在 Qwen2.5-VL-7B 和 LLaVA-1.5-7B 上，CMaG 将组合性安全分数最多降低 65 分，同时超过 98% 的输出保持连贯，优于基于梯度的基线方法；该方向还可迁移到文本显式危害，并使经过防御性训练加固的模型发生去对齐。因此，组合性安全在行为上可能表现得很强，却仍然对有针对性的内部干预十分脆弱。警告：本文包含不安全的模型输出，包括对自残的提及。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.07216 [cs.LG] |
| （或 arXiv:2611.07216v1 [cs.LG] 为本版本） | |
| https://doi.org/10.48550/arXiv.2611.07216 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hong Kyu Lee [查看邮箱]
[v1]
2026年11月4日星期三 23:09:31 UTC（591 KB）
来源：arXiv cs.CL · arxiv.org