扩散模型的校正训练（Correction Training）

查看 PDF HTML（实验性）

摘要：扩散模型中的迭代采样会因暴露偏差而导致误差累积。去噪器是在与噪声插值的真实图像上训练的，但在推理时，其输入是由前几步自身不完美的预测构建的，这是它在训练时从未见过的。这可能是扩散模型在没有额外帮助（如 CFG）时常常表现不佳的原因之一。我们为扩散模型引入了一个校正步骤，试图缩小这种训练-推理差距。校正器以基础模型的预测作为输入，并针对相同的地面真值目标进行训练。这使得校正成为一个明确的学习任务，训练输入由基础模型提供。在采样过程中，在每个去噪步骤，我们迭代地细化去噪器的干净样本预测。这使我们能够校正中间去噪步骤的预测，防止早期伪影持续到最终样本中。尽管校正器仅在基础去噪器的预测上训练，但在推理时它可以反复应用于自身的输出以获得更好的结果。这个简单的框架在显著提高样本质量的同时，很大程度上保持了多样性。我们在 DiT、SiT 和 JiT 上评估了我们的方法。我们的方法大幅提升了此前报道的无引导生成以及尤其具有挑战性的无条件生成的 FID 分数，在无引导条件下生成高质量样本一直尤为困难。我们的方法达到了与无分类器引导（CFG）相当的性能，而将校正与 CFG 结合进一步提高了多样性，并减少了 CFG 典型的过饱和现象。最后，我们表明，校正带来的额外推理成本可以通过将细化后的预测蒸馏回基础扩散模型来摊销，从而在不增加推理时开销的情况下保持质量提升。

提交历史

来自：Donghoon Ahn [查看电子邮件]
[v1] 2026年10月9日星期五 13:31:52 UTC（45,356 KB）
[v2] 2026年10月14日星期三 06:12:49 UTC（38,804 KB）