arXiv cs.AI· Boyu Han, Qianqian Xu, Shilong Bao, Zhiyong Yang, Qingming Huang·· 4 小时前AI 评分26
AUC 遇上生成式重建:面向平衡视觉表征学习的统一原则
When AUC Meets Generative Reconstruction: A Unified Principle for Balanced Visual Representation Learning
AI 导读
研究提出 AUC Generative Reconstruction(AUCGR)与 Partial AUC Generative Reconstruction(pAUCGR),将生成式重建重构为生成输出流形内的判别排序问题,通过让匹配样本对的得分高于不匹配样本对来优化 AUC,避免复合损失函数带来的梯度干扰与优化冲突。
正文 · AI 翻译
摘要:多模态大语言模型(MLLMs)需要视觉编码器在提取细粒度视觉特征的同时,构建语义解耦且具有判别性的表示。传统方法面临一个根本性的权衡:对比学习通过抑制类内差异来增强类间判别能力,而生成式重建强调感知保真度但缺乏显式的对比监督。通过复合损失函数对这些目标进行简单聚合,往往会因共享潜在空间内的梯度干扰而引发优化冲突和不稳定。为解决这一问题,我们引入了一种统一的表示学习范式,将生成式重建重新表述为生成输出流形内的判别式排序问题。我们的方法将感知重建作为监督信号,并通过系统地对匹配和不匹配的重建输出进行排序,整合了基于排序的判别约束。这一表述将判别信息无缝嵌入生成过程,降低了损失竞争的风险。具体而言,我们提出了 AUC 生成式重建(AUCGR),通过确保匹配对的得分高于不匹配对来优化 ROC 曲线下面积(AUC),以及部分 AUC 生成式重建(pAUCGR),通过聚焦于可靠特征子空间内的不匹配比较来解决监督偏差问题。所提出的目标被设计为即插即用,无需对现有生成式重建框架进行架构修改。理论分析建立了与 AUC/pAUC 优化的严格联系,并提供了泛化保证。大量实验验证了我们的方法在判别准确性和细粒度感知表示方面均有所提升。
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2611.22094 [cs.CV] |
| (或 arXiv:2611.22094v1 [cs.CV] 为此版本) | |
| https://doi.org/10.48550/arXiv.2611.22094 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Boyu Han [查看邮箱]
[v1]
2026年11月17日星期二 02:24:09 UTC(9,775 KB)
来源:arXiv cs.AI · arxiv.org