arXiv cs.AI· Haoming Liu, Junhao Zhu, Shaoyi Zheng, Yuanhe Guo, Jinnuo Liu, Shenji Wan, Hongyi Wen·· 11 小时前AI 评分31
让潜空间学会被引导：面向无分类器引导的类几何塑造
Learning to Be Guided: Shaping Latent Geometry for Classifier-Free Guidance
AI 导读
研究提出 Prototype Regularization（PR），一种轻量正则项，通过对空间池化后的潜变量施加余弦原型分类器，近似难以直接优化的含噪后验目标，使潜空间类几何更适配 CFG。
正文 · AI 翻译
摘要：无分类器引导（CFG）是条件扩散模型的标准组件，引导生成性能已成为衡量最先进模型的事实标准。近期关于潜在扩散模型的工作试图学习更易于用扩散建模的潜在空间。然而，在 CFG 下，生成还取决于条件在潜在空间中的排列方式。我们在离散类别条件下研究这种排列，称之为类别几何，并探究何种类别几何能使潜在空间与 CFG 良好配合。在高斯类别模型下，我们证明在总方差固定时，将方差从类内转移到类间会使类别在噪声下更易区分，并推导出一个含噪后验目标，其逐样本下降方向与 oracle CFG 校正成正比。基于该分析，我们提出原型正则化（PR），这是对难以处理的含噪后验目标的一种轻量替代，它对空间池化后的潜在表示应用余弦原型分类器。在受控训练预算下（VAE 训练 20 个 epoch，DiT 训练 80 个 epoch），将 PR 加入 LDM 基线可将 ImageNet 上的引导 gFID 从 3.31 降至 2.28，以可忽略的开销超越了 DINOv3 对齐的 VA-VAE（2.44）。我们进一步证明 PR 可推广到由聚类导出的伪标签、连续文本嵌入条件以及视频潜在表示。总之，我们的发现凸显了类别几何是引导生成中的关键因素，并朝着 CFG 兼容的表示学习迈出了第一步。我们的项目页面见：this https URL。
| 评论： | 29 页，5 张图；项目页面：this https URL |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.22885 [cs.LG] |
| （或 arXiv:2610.22885v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22885 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Haoming Liu [查看邮箱]
[v1]
2026 年 10 月 16 日星期五 03:39:41 UTC（5,453 KB）
来源：arXiv cs.AI · arxiv.org