arXiv cs.AI· Christopher M. Stewart, Preston Botter, Natalie Sarabosing, Muye Zhang, Rachel Phinnemore, Shalini Ghosh, Hong Shen, Hoda Heidari·· 9 天前AI 评分24
HELM Safety 基准的心理测量学审计：HarmBench 能否测量“有害拒绝”这一单一属性
Searching for "Harmful Refusal": A Psychometric Audit of an AI Safety Benchmark
AI 导读
研究用心理测量学方法审计 HELM Safety 基准，检验“有害拒绝”是否为可测量的单一属性。HELM Safety 中四个可能针对该属性的数据集有三个已饱和，仅剩的 HarmBench 经多维项目反应理论建模显示其并不测量单一属性，差异项目功能分析还发现不同开发者的模型在相同拒绝能力下得分不同。作者指出，任何对数据集和题目取平均的安全分数都可能掩盖饱和并混淆不同行为。
正文 · AI 翻译
摘要：安全基准测试通常为一组数据集报告一个总体分数，而每个数据集可能针对一个或多个与安全相关的属性，因此总体分数相近的模型可能具有截然不同的属性特征。在单个属性层面比较模型更为可行，但即便单个数据集的分数是否隔离出任何单一属性，往往也并不明确。有害拒绝（harmful refusal）——即模型拒绝危险或违反策略的提示的倾向——是此类属性的一个可能候选。我们考察它在 HELM Safety 中是否构成一个单一、可测量的属性。我们采用构念效度框架，该框架规定属性必须先存在，测试才能测量它。我们从 HELM Safety 中可能针对有害拒绝的四个数据集入手，但发现其中三个已经饱和。我们对剩余的数据集 HarmBench 进行两项心理测量学检验，以确定像有害拒绝这样的单一属性是否可能支撑其分数。首先，多维项目反应理论建模强烈表明，HarmBench 并不测量单一属性。其次，差异项目功能分析发现，来自不同开发者、具有相同拒绝能力的模型在某些项目上得分不同。这些标记在范围特定匹配下基本消失，这一模式与聚合效应一致，但不足以排除领域特定的开发者差异。从更宏观的视角看，HarmBench 将不同的危害行为压缩为一个分数，而 HELM 安全总体聚合又进一步将 HarmBench 和其他数据集的分数压缩为一个单一的首要数字。任何对数据集和项目取平均的安全分数都可能以这种方式掩盖饱和并混淆行为。我们认为，在模型被用于比较之前，一个分数应当先获得其单属性解读的资格。
| 评论： | COLM 2026，AI for Measurement Science (AIMS) Workshop |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.12409 [cs.AI] |
| （或 arXiv:2610.12409v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12409 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Natalie Sarabosing [查看电子邮件]
[v1]
2026年10月8日星期四 17:46:43 UTC（123 KB）
来源：arXiv cs.AI · arxiv.org