arXiv cs.AI· Akito Shinohara, Hiroaki Aizawa·· 12 小时前AI 评分16
基于秩一权重校正的可训练权重平均方法用于 OOD 检测
Rank-1 Weight-Corrected Trainable Weight Averaging for Out-of-Distribution Detection
AI 导读
研究将奇异值分解提取的首个秩一权重分量作为校正方向,扩展可训练权重平均(TWA),其贡献通过分布内分类目标学习。在 ResNet50 上,该方法在 MSP 与 RankWeight 评测下优于微调和标准 TWA,且在有/无 Outlier Exposure 时均成立;Mahalanobis 评测结果不一,说明收益依赖 OOD 评分协议。
正文 · AI 翻译
摘要:分布外(OOD)检测旨在识别训练分布之外的输入。RankFeat 和 RankWeight 等基于秩的分析表明,OOD 过度自信与特征空间和权重空间中的主导低秩分量密切相关。由于权重平均直接在参数空间中进行并提升模型泛化能力,我们从主导分量的角度考虑将其用于 OOD 检测。可训练权重平均(TWA)为每个检查点分配单一系数,限制了对主导权重分量的独立控制。我们扩展了 TWA,将通过奇异值分解提取的前导秩一分量作为校正方向,其贡献通过分布内分类目标学习得到。在 ResNet50 上,我们的方法在评估数据集上使用 MSP 和 RankWeight,在有和没有离群样本暴露的情况下均优于微调和标准 TWA。基于 Mahalanobis 的评估结果不一,表明收益取决于 OOD 评分协议。使用 MSP 和 Energy 的目标层分析倾向于在分类器附近进行校正。
| 评论: | 被 ACCV2026 基础模型时代子空间研讨会接收 |
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2610.33909 [cs.CV] |
| (或 arXiv:2610.33909v1 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.33909 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Hiroaki Aizawa [查看邮箱]
[v1]
2026年10月24日星期六 20:45:04 UTC(336 KB)
来源:arXiv cs.AI · arxiv.org