跳到正文
arXiv cs.AI· Deyuan Liu, Yansen Han, Kaiwen Zheng, Jun Xie, Jiacheng Liu, Zhenglin Cheng, Peng Sun, Jintao Zhang, Jianguo Li, Tao Lin·· 13 小时前AI 评分34

Intrinsic Distribution Matching(IDM):用矩约束改进一步文生图分布匹配

Intrinsic Distribution Matching

AI 导读

研究者提出 Intrinsic Distribution Matching(IDM),在 DMD 的分数差校正基础上,用生成器 EMA 副本显式匹配特征均值与逐坐标标准差,无需外部特征编码器。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:一步和少步文本到图像生成必须在有限的细化机会下准确呈现提示中指定的细节。分布匹配蒸馏(DMD)利用分数差异使生成分布更接近参考分布。遵循先前工作,我们使用内部速度分支来估计这一差异,从而避免单独的伪分数网络。我们探究显式的矩约束是否能改善这种学习到的分数监督。将反向 KL 场分解为高斯矩分量和非高斯残差,可以识别出能够被显式约束的统计量。我们提出内在分布匹配(IDM),它保留完整的 DMD 校正,并使用生成器的指数移动平均(EMA)副本匹配特征均值和逐坐标标准差,无需外部特征编码器。实验在 Z-Image-Turbo 6B 和 Qwen-Image 20B 上使用全参数和低秩适配(LoRA)调优。在两次网络评估下,IDM 在中文和英文 LongText-Bench 上分别达到 94.25% 和 90.20%,是该预算下所比较方法中的最高分。受控消融实验表明,添加矩损失带来了增益,而生成器 EMA 特征在五项报告指标上与外部 DINOv2 编码器表现相当。代码可在 此 https URL 获取。
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2610.39633 [cs.CV]
  (或 arXiv:2610.39633v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.39633

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Deyuan Liu [查看电子邮件]
[v1] 2026年10月29日星期四 08:57:17 UTC(33,466 KB)

来源:arXiv cs.AI · arxiv.org