arXiv cs.AI· Zander W. Blasingame, Antonio Franca, Raul Minan, Christian Koke, Niklas Rindtorff, Alexander Tong·· 12 小时前AI 评分34
强随机流映射的训练改进：用移位 Legendre 多项式与 Wong-Zakai 目标实现基于导数的损失
Improved Training of Strong Stochastic Flow Maps
AI 导读
研究提出用移位 Legendre 多项式展开表示布朗路径，并配合 Wong-Zakai 风格目标，使随机流映射也能使用基于导数的损失训练。作者还给出将大型预训练流模型微调为强随机流映射的方案，在 ImageNet 上以 4 NFE 取得相对 SSFM 约三倍的 FD-DINOv2 提升。
正文 · AI 翻译
摘要：随机流映射有望通过对随机微分方程（SDE）实现少步采样，其方式是学习沿解路径在时间点之间直接跳跃，然而训练这些模型学习该解映射仍然困难。主要障碍在于布朗路径本身：它是一个无限维对象，需要传递给神经网络，且处处不可微，这使得支撑当前最先进确定性流映射的基于导数的损失难以实现。我们确定了解决这些问题的两条核心设计原则：a) 用携带高阶局部信息的基来表示布朗路径；b) 使用一种目标进行训练，迫使网络使用路径的完整表示，而不仅仅是第一阶。为此，我们利用移位勒让德多项式展开与 Wong-Zakai 风格的目标，从而解锁基于导数的损失。最后，我们提出了一套方法，用于将大型预训练流模型微调为强大的随机流映射。我们在若干玩具问题上对该设计空间进行了消融，并利用我们的发现将大型流模型转化为 ImageNet 上的强大随机流映射，在四步 NFE 下，FD-DINOv2 相比 SSFM 取得约三倍的提升。
| 评论： | 预印本 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；动力系统（math.DS） |
| 引用为： | arXiv:2610.29605 [cs.LG] |
| （或 arXiv:2610.29605v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29605 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zander Blasingame [查看电子邮件]
[v1]
2026年10月21日星期三 11:43:19 UTC（5,648 KB）
来源：arXiv cs.AI · arxiv.org