研究提出免训练反对齐方法CMaG审计组合安全

Hong kyu Lee、Kai Shu、Li Xiong 提出一种免训练的反对齐方法 CMaG，用于审计大型视觉语言模型的组合安全鲁棒性。该方法通过拒绝与服从的对数概率边际计算梯度，单次反向传播即可在 Qwen2.5-VL-7B 和 LLaVA-1.5-7B 上把组合安全分数最多降低 65 分，同时超过 98% 的输出保持连贯。 据作者称，CMaG 无需训练即可实施，其效果以这两个模型上的测试为限。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。