arXiv cs.AI· Yuchen Jiao, Na Li, Changxiao Cai, Yuting Wei, Gen Li·· 10 小时前AI 评分31
前向值离散化：无需高阶近似的更快随机扩散采样
Forward-Value Discretization: Faster Stochastic Diffusion Sampling Without High-Order Approximation
AI 导读
研究证明随机扩散采样器即使采用高阶近似仍保持一阶收敛，因此提出免训练的前向值离散化框架，用历史预测构造前瞻估计来评估模型。确定性变体 F-DPMSolver 在低 NFE 预算下提升样本质量，随机变体 F-DDPM 在 CIFAR-10、ImageNet、FFHQ 和 LSUN 上于相同 NFE 预算下取得更低 FID，仅需确定性基线 1.5 倍 NFE 即可达到有竞争力的样本质量。
正文 · AI 翻译
摘要：随机扩散采样器通常需要比确定性采样器多得多的神经函数评估（NFE）才能达到相当的样本质量。尽管高阶离散化能加速确定性采样，但其对随机采样的益处仍不明确。我们建立了相匹配的上界和最坏情况下的下界，表明即使使用精确的得分函数，采用高阶近似的随机采样器仍保持一阶收敛。因此，提高近似阶数通常不会改善收敛阶。受此局限性的启发，我们引入了前向值离散化，这是一个无需训练的框架，它在由先前预测构建的前瞻估计处评估数据/噪声预测模型。对于确定性采样，由此得到的 Forward DPMSolver（F-DPMSolver）通过其基于 DDIM 的变体，在低 NFE 预算下提升了样本质量，尽管它仍保持一阶收敛。对于随机采样，我们开发了 Forward DDPM（F-DDPM），它在针对后续噪声注入进行调整后的更干净的前瞻点处评估模型。该估计复用了先前的模型预测和先前注入的噪声。两种变体均具有一阶收敛保证，且每次迭代仅需一次模型评估。在 CIFAR-10、ImageNet、FFHQ 和 LSUN 上，F-DDPM 在匹配的 NFE 预算下始终比所评估的随机基线取得更低的 FID。在 NFE 数量为确定性基线的 1.5 倍时，它达到了有竞争力的样本质量，缩小了随机采样与确定性采样之间的实际效率差距。代码可在 此 https URL 获取。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；机器学习（stat.ML） |
| 引用为： | arXiv:2611.14328 [cs.LG] |
| （或 arXiv:2611.14328v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.14328 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yuchen Jiao [查看电子邮件]
[v1]
2026年11月10日星期二 16:53:27 UTC（6,402 KB）
来源：arXiv cs.AI · arxiv.org