跳到正文
arXiv cs.AI· Ziqiao Wang, Yang You·· 13 小时前AI 评分26

Wiener 信息解码 WiD:让像素空间流模型训练更简单

Beyond the Estimate: Wiener-Informed Decoding for Easier Training of Pixel-Space Flow Models

AI 导读

研究者提出 Wiener-informed Decoding(WiD),将冻结的 Wiener 估计与可训练 Wiener 预测路径结合,并通过系数接口向原生解码器注入特征,所有新增参数在原始像素空间速度目标下联合训练。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:直接在像素空间中学习速度场既困难又缓慢。我们表明,粗略的二阶图像统计量可以缓解这一任务:冻结的 Wiener 估计能改善速度学习,其收益超出了它们显式提供的线性预测。此外,我们观察到冻结基和像素解码也带来了类似但互补的收益。这些观察促使我们提出 Wiener 信息解码(WiD),它既利用统计知识进行直接预测,也用于组织解码器计算,而不修改原生模块。WiD 将可训练的 Wiener 预测路径与系数接口相结合,后者将特征注入原生解码器并返回其预测的系数修正,这些组件均以数据统计量初始化。所有引入的参数,包括频谱和坐标变换,都在原始像素空间速度目标下联合训练。在不同模型规模和不同解码器架构下,WiD 都能加速训练并提升生成质量,且参数开销适中。它还能产生更平滑的梯度轨迹,并在表示对齐下依然有效。WiD 在不同分辨率下改进了类别条件和文本到图像生成。在 ImageNet 256 x 256 上,采用 WiD 的 PixelDiT-XL 在 500 个 epoch 后达到 FID 1.53,在训练 epoch 减少 37.5% 的情况下取得了与 PixelDiT 相当的质量。统计去噪器的作用不止于估计:其计算结构也能缓解像素空间训练。
评论: 23 页
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2610.36192 [cs.CV]
  (或 arXiv:2610.36192v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.36192

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Ziqiao Wang [查看邮箱]
[v1] 2026 年 10 月 26 日星期一 19:24:42 UTC(9,804 KB)

来源:arXiv cs.AI · arxiv.org