arXiv cs.AI· Wonseok Shin, Songkuk Kim·· 14 小时前AI 评分31
CANARY：捕捉图像分类器高置信度静默失败的免训练检测器
A Canary in the Neural Mine: Catching an Image Classifier's Silent, Confident Failures
AI 导读
研究者提出免训练检测器 CANARY，在倒数第二层特征的 PCA 残差上计算逐类 kNN 距离，经百分位校准后与 MSP 以单一验证集调优权重融合。
正文 · AI 翻译
摘要：已部署的视觉模型会自动接受高置信度预测，因此高置信度错误会悄无声息地传播。最大 Softmax 概率（MSP）作为标准的失败预测器，存在结构性盲区：作为从分类器头部读取的标量，它对与自身置信度梯度正交的特征变化是一阶盲的。通过对特征空间检测器进行析因分析，我们识别出一条条件冗余原则，解释了它们为何无法补充 MSP：它们所度量的类可分性几何已编码在 MSP 中，并在融合时坍缩。得以保留的信号是离流形残差上的类条件典型性——而由于该残差的分布随骨干网络不同而变化，从近高斯到重尾，因此必须以非参数方式估计。我们将这些发现实例化为 CANARY，一种免训练检测器，它在倒数第二层特征的 PCA 残差上计算每类 kNN 距离，在验证数据上进行百分位校准，并通过一个经验证调优的单一权重将其与 MSP 融合。CANARY 的收益遵循余量定律：基线 MSP 质量越低，增益越大，因此单个干净的验证数字即可预测改进幅度。所有参数仅基于分布内数据选择，CANARY 在五个骨干网络上匹配或改善了 385 个偏移单元中的 382 个（e-AURC；AUROC 上为 379 个），最坏情况回归在种子噪声范围内（$-0.0002$ AUROC），且在自然分布偏移（ImageNet-A/R、ObjectNet）上增益最大——这正是已部署模型暴露最多的场景。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.33063 [cs.CV] |
| （或 arXiv:2610.33063v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.33063 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Wonseok Shin [查看电子邮件]
[v1]
2026年10月19日星期一 14:41:03 UTC（233 KB）
来源：arXiv cs.AI · arxiv.org