跳到正文
arXiv cs.AI· Ebenezer Tarubinga·· 10 小时前AI 评分22

PixCon:面向基础模型半监督分割的干净正样本对比学习

PixCon: Clean-Positive Contrastive Learning for Foundation-Model Semi-Supervised Segmentation

AI 导读

PixCon 在 DINOv2-Base 版 UniMatch V2 上加入类级记忆库,仅存储学生预测与标签一致的标注像素特征,用多正样本对比损失训练共享编码器-解码器,推理时丢弃头和记忆库。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:一个简单的带标签像素对比分支能否在强预训练编码器下改进半监督分割?我们通过 PixCon 研究这一问题,它在 UniMatch V2 的 DINOv2-Base 实现中加入了一个类别级记忆库。该记忆库仅存储学生预测与标签一致的、带真实标签的特征。多正样本对比损失利用这些特征训练共享的编码器-解码器;推理时丢弃头部和记忆库。这通过移除置信度阈值和学习排序,简化了此前的带标签像素记忆库。在仅有 183 个标签的 Pascal VOC 上,PixCon 使三组配对种子分别提升 0.20、0.64 和 1.83 个 mIoU 点,将均值从 87.01 提升至 87.90。在 92 个标签下,平均增益为 0.40 点;在 Cityscapes 和 ADE20K 上的单种子差异范围为 -0.08 至 +0.14 点。一个预测标签对比对照组达到了几乎相同的 Pascal 精度,因此这些结果支持的是新增分支本身,而非其正确性过滤器带来的精度收益。精确的梯度分解将误标正样本数量与其相似度加权影响区分开来。单独的教师诊断发现,Pascal 上的保留像素错误率为 1.8%,ADE20K 上为 10.6%。这些诊断不测量训练记忆库,也不预测最终精度。在实测运行中,PixCon 增加了 15.3-19.7% 的迭代时间,且不增加推理计算。我们报告了配对种子、训练成本和证据的局限性。
评论: 17 页,7 幅图,7 张表;正文附补充材料
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);机器学习(cs.LG);图像与视频处理(eess.IV)
MSC 分类号: 68T45, 68T07
ACM 分类号: I.4.6; I.2.10
引用为: arXiv:2607.03068 [cs.CV]
  (或本版本的 arXiv:2607.03068v2 [cs.CV])
  https://doi.org/10.48550/arXiv.2607.03068

arXiv 颁发的 DOI(通过 DataCite)

提交历史

来自:Ebenezer Tarubinga [查看邮箱]
[v1] 2026 年 7 月 3 日星期五 08:01:37 UTC(16,882 KB)
[v2] 2026 年 11 月 4 日星期三 05:32:51 UTC(13,539 KB)

来源:arXiv cs.AI · arxiv.org