研究定位视觉语言模型安全表征并实现双向拒答控制

Muhammad Zeeshan Karamat 等作者发表论文，提出一种无需重训或修改参数的轻量推理时框架，用于在冻结的视觉语言模型中定位并操控安全敏感表征。 在 Qwen3-VL-4B 上，逐层激活差异分析显示安全几何随深度非均匀分布：早期视觉层沿学习到的安全方向做激活引导，可实现强双向拒答控制，不安全拒绝率跨度达 6%-96%；较深层对引导基本不敏感，呈现表征可分性与因果可控性的分离。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。