跳到正文
arXiv cs.AI· Hyeontaek Hwang, Cheonghwan Hur, Daeyoung Kim·· 2 天前AI 评分22

完全坍缩并非最优:面向长尾识别的受控部分神经坍缩方法

Full Collapse Is Suboptimal: Controlled Partial Neural Collapse for Long-Tailed Recognition

AI 导读

研究提出受控部分神经坍缩方法,通过 Class-Adaptive Sparse Activation(CASA)分类器与 ETF-constrained adaptive margin(ETF-AM)损失两项协同控制,让头部类沿 ETF 坍缩、尾部类保留类内多样性,避免尾部被强制完全坍缩。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:近期的长尾识别(LTR)方法引入神经坍缩(NC),并将特征对齐到固定的等角紧框架(ETF),作为所有类别的统一目标。然而,强制尾部类别完全坍缩会过度收缩其样本并削弱泛化能力。为此,我们提出一种受控的部分神经坍缩,通过在主干网络上施加两个协同控制来实现:类别自适应稀疏激活(CASA)分类器和 ETF 约束的自适应间隔(ETF-AM)损失。该机制不再强制统一的全坍缩,而是允许头部类别沿 ETF 坍缩,同时尾部类别保留类内多样性。这避免了尾部被强制进入全坍缩,因为在不平衡条件下全坍缩并非最优。为设定坍缩的维度,CASA 通过特征条件门控诱导与类别相关的节点专门化,使尾部类别占据自身的特征方向。在间隔轴上,ETF-AM 施加频率自适应间隔,头部类别间隔较小,尾部类别间隔较大。在 CIFAR100-LT、ImageNet-LT、Places-LT 和 iNaturalist-2018 上,我们的方法取得了优于先前方法的总体准确率。在实证分析中,类内散布从头部到尾部类别单调增加,这与尾部类别保留变异性而非完全坍缩相一致。
评论: 已被 WACV 2027 接收
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2610.36460 [cs.CV]
  (或 arXiv:2610.36460v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.36460

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Hyeontaek Hwang [查看邮箱]
[v1] 2026年10月27日星期二 01:09:29 UTC(1,628 KB)

来源:arXiv cs.AI · arxiv.org