arXiv cs.CL· Charles Weng, Dingwen Li, Alexander Martin·· 16 小时前AI 评分31
零样本二分类视觉语言安全分类中的提示词诱导分数方差研究
Prompt-Induced Score Variance in Zero-Shot Binary Vision-Language Safety Classification
AI 导读
研究发现，单一提示词下视觉语言模型的首 token 不安全分数并非可靠概率：在 7 个视觉语言模型和 2 个基准上，同一输入经 15 种保持任务语义的改写后，不安全概率平均标准差达 0.16-0.30，且波动最大的输入更易被误分类。
正文 · AI 翻译
摘要：安全流水线通常通过对模型的首个 token 不安全分数进行阈值判定来拦截内容。我们表明，单个提示词的分数并非可靠的概率，并比较了两种修正方法：均值集成与使用开发标签的校准。在七个视觉语言模型和两个基准上，同一输入的不安全概率在 15 种保持任务不变的改写之间变化，平均标准差为 0.16-0.30；变化最大的输入更常被误分类。在 14 个模型-基准对中的 13 个上，15 个提示词的均值比最佳单个提示词（即使是用评估标签选出的）具有更低的负对数似然（NLL）。开发标签改变了这一图景：在开发基准的留出数据上，联合选择并校准单个提示词在全部七个模型上均优于类似校准的均值。然而，在无需重新拟合的跨基准评估下，这一优势发生逆转，校准后的均值在七个模型中的六个上优于单个提示词。我们建议将首个 token 分数作为提示词族来评估，使用均值集成作为无标签基线，当存在开发标签且部署数据匹配时校准单个提示词，而当二者可能不匹配时校准均值。
| 主题： | 计算与语言（cs.CL）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2605.00326 [cs.CL] |
| （或 arXiv:2605.00326v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.00326 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Charles Weng [查看邮箱]
[v1]
2026年5月1日星期五 01:06:30 UTC（152 KB）
[v2]
2026年10月26日星期一 03:37:57 UTC（173 KB）
来源：arXiv cs.CL · arxiv.org