arXiv cs.AI· Jos\'e Afonso, M\'ario Figueiredo·· 11 小时前AI 评分29
复合子空间流匹配(CSFM):兼顾判别性与生成能力的表征学习新方法
Representation Learning via Composite Subspace Flow Matching
AI 导读
研究者提出复合子空间流匹配(CSFM),将表征学习建模为对光谱、颜色、光照子空间确定性退化课程的最小方差反转,并用硬时间风格截断约束轨迹方差。在 CIFAR-10、CIFAR-100 和 STL-10 上,CSFM 在卷积与视觉 Transformer 架构上均取得有竞争力的判别迁移能力,同时保留生成合成能力。其线性探测与少样本分类表现优于标准最优传输流,并支持连贯合成与轨迹插值。
正文 · AI 翻译
摘要:从原始图像数据中提炼语义信息仍然是机器学习中的一项挑战。当前的自监督范式面临一种权衡:联合嵌入架构通过激进地丢弃类内方差来生成相关特征,但空间与重建信息不可逆地丢失。相反,生成模型保留空间细节,却难以分离语义,因为其优化被像素变化所主导。为弥合这一分歧,我们提出复合子空间流匹配(CSFM)。CSFM 不采用无结构各向同性噪声破坏数据,而是将表示学习表述为跨频谱、颜色和光照子空间的确定性退化课程的最小化方差反转。通过硬时间风格截断来约束轨迹方差,容量受限的编码器被驱动去忽略瞬态风格伪影并编码持久内容。在 CIFAR-10、CIFAR-100 和 STL-10 上的实证评估表明,CSFM 在卷积和视觉 Transformer 架构上均能保持生成式合成的同时,产生具有竞争力的判别式可迁移性。通过避免非生成方法的崩溃病理,CSFM 形成平滑的潜在空间,在线性探测和少样本分类上优于标准最优传输流,同时实现连贯合成和轨迹插值。这些结果证实,引导生成流的物理动力学为学习同时具有线性可分性和生成可逆性的表示提供了一种可扩展的范式。
| 评论: | 27 页,4 幅图 |
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI) |
| MSC 分类号: | 68T07, 68T05 |
| ACM 分类号: | I.2.6; I.4.10 |
| 引用为: | arXiv:2610.32256 [cs.CV] |
| (或 arXiv:2610.32256v1 [cs.CV] 获取此版本) | |
| https://doi.org/10.48550/arXiv.2610.32256 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:José Filipe Afonso [查看电子邮件]
[v1]
2026 年 10 月 23 日星期五 07:11:07 UTC(2,843 KB)
来源:arXiv cs.AI · arxiv.org