研究：提示词改写致视觉语言模型安全评分波动

Charles Weng 等作者提交的论文发现，视觉语言模型在零样本二分类安全分类中，单一提示词下首 token 的不安全分数并非可靠概率。在 7 个视觉语言模型和 2 个基准上，同一输入经 15 种保持任务语义的改写后，不安全概率的平均标准差达 0.16–0.30，且波动最大的输入更易被误分类。 作者比较了两种修复方法：均值集成，以及用开发集标签做校准。

AI 根据报道生成 · 40 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。