arXiv cs.AI· Kang Liu, Enrique Zuazua·· 9 天前AI 评分22
生成扩散模型的偏微分方程视角
A PDE Perspective on Generative Diffusion Models
AI 导读
研究者为基于 score 的扩散模型建立了偏微分方程框架，针对紧支撑数据测度的热流，在正时间区间上证明了弱适定性，并推导出 score 的尖锐单侧散度界，进而得到生成 Fokker–Planck 方程的尖锐一致 L^p 稳定性估计。通过熵稳定性方法，他们证明生成分布以 √t 速率在 2-Wasserstein 距离下收敛到支撑于数据支撑集上的概率测度，该结论对确定性和随机生成均成立。
正文 · AI 翻译
摘要：基于分数的扩散模型已成为一类强大的生成方法，并在多个领域取得了成功应用。尽管在经验上取得了成功，但其数学基础仍仅被部分理解，尤其是其动力学所依赖的随机和偏微分方程的稳定性与一致性。
在本工作中，我们为与紧支撑数据测度的热流相关的基于分数的扩散过程建立了一个偏微分方程（PDE）框架。在正时间区间上建立弱适定性之后，我们推导出分数的一个尖锐的单侧散度界，并利用它获得生成 Fokker--Planck 方程的尖锐一致 $L^p$-稳定性估计。该界是 Li--Yau 微分不等式在欧几里得空间中的形式。通过熵稳定性方法，我们证明生成律在 $2$-Wasserstein 距离下以速率 $\sqrt t$ 收敛（当 $t\to0^+$ 时）到支撑在数据支撑集上的概率测度。这一结论对确定性和随机生成均成立，适用于具有有限绝对熵和二阶矩的正终端密度。在确定性情形下，几乎所有轨迹都收敛到数据支撑集中的一个点；对于经验数据，我们进一步得到逐轨迹的平方根速率。
这些结果阐明了精确分数动力学如何集中于数据支撑集，而不必恢复数据分布。一个显式可解的情形确定了极限权重及其对高斯初始化的依赖，而相对熵估计量化了分数近似的影响。总之，这些发现将稳定性与集中机制同分数学习和早停联系起来，为模仿保真度与生成多样性之间的平衡提供了数学视角。
| 评论： | 39 页，4 幅图 |
| 学科： | 优化与控制（math.OC）；人工智能（cs.AI）；偏微分方程分析（math.AP） |
| MSC 分类： | 34D05, 35B35, 35Q68, 35Q84, 68T99 |
| 引用为： | arXiv:2511.05940 [math.OC] |
| （或 arXiv:2511.05940v3 [math.OC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2511.05940 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Kang Liu [查看邮箱]
[v1]
2025 年 11 月 8 日星期六 09:19:25 UTC（1,905 KB）
[v2]
2026 年 5 月 12 日星期二 15:40:21 UTC（1,905 KB）
[v3]
2026 年 10 月 7 日星期三 20:12:33 UTC（1,475 KB）
来源：arXiv cs.AI · arxiv.org