arXiv cs.AI· Donghwan Kim, Youngwoong Jin, Hyunsoo Yoon·· 11 小时前AI 评分31
反一致性正则化绝对缩放：面向分布外检测的 SCALE 改进方法
Anti-coherence Regularized Absolute Scaling for Out-of-Distribution Detection
AI 导读
针对 SCALE 在负激活存在时幅度比定义失效、在 ViT 等骨干网络上退化的问题，研究者提出 Absolute Fix，改用绝对值激活计算该比例，并在此基础上引入 Anti-coherence 正则化，按样本对最大 logit 贡献中符号不匹配的比例惩罚缩放因子。
正文 · AI 翻译
摘要：分布外（OOD）检测被认为是 AI 安全中的一个关键问题。SCALE 是激活塑形（activation-shaping）家族中一种有效的后处理 OOD 检测方法，它不需要训练数据，并使用基于百分位数的幅度比对倒数第二层激活进行重新缩放。然而，当存在负激活时，该比值定义不明确，因为正负贡献在底层求和中相互抵消，导致 SCALE 在 ViT 等骨干网络上退化。我们通过一种绝对修正（Absolute Fix）来解决这个问题，该修正基于绝对值化的激活计算比值，而不是通过 ReLU 丢弃负激活。在此修正后的尺度基础上，我们提出了反相干正则化（Anti-coherence regularization），它根据样本对最大 logit 的贡献中符号不匹配的比例来惩罚缩放因子，从而抑制对预测类别不可靠的证据。尽管不需要访问训练数据或训练标签，我们的方法在 OpenOOD v1.5 协议下，在 CIFAR-10 和 ImageNet 上的 AUROC 和 FPR@95 指标上，与依赖训练数据的激活塑形方法持平或更优。
| 评论： | 29 页，6 张图 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.32255 [cs.LG] |
| （或 arXiv:2610.32255v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32255 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Donghwan Kim [查看电子邮件]
[v1]
2026 年 10 月 23 日星期五 07:09:51 UTC（4,220 KB）
来源：arXiv cs.AI · arxiv.org