arXiv cs.AI· Haojun Xu, Jie Huang, Chuyang Zhao, Xin Lu, Mingchen Zhong, Zihao Fan, Haoyang Huang, Linjiang Huang, Si Liu·· 14 小时前AI 评分38
Direct Forcing:面向少步自回归视频生成的单阶段表征空间监督训练
Direct Forcing: Single-Stage Training with Representation-Space Supervision for Few-Step Autoregressive Video Generation
AI 导读
Direct Forcing 提出首个单阶段少步自回归视频生成训练框架,将参考视频同时用作配对示例与自生成 rollout 的目标分布,无需单独的 ODE 初始化阶段或在线扩散分数监督。
正文 · AI 翻译
摘要:少步自回归视频生成可实现低延迟流式传输,但主流的训练流程将因果适配与分布匹配分离。近期基于表示的文本到视频方法通过以 ODE 初始化阶段开始来保持这种分离,即使目标分布直接由参考视频定义也是如此。我们提出 \method,这是首个单阶段框架,将参考视频既用作历史如何延续的配对示例,又用作自生成 rollout 的目标总体。具体而言,Direct Forcing 使用两个互补信号进行训练:(1) 因果延续对齐在参考历史下学习配对的时空对应关系;(2) Rollout 分布匹配采用最大均值差异来对齐自生成视频与参考视频的表示分布。为协调这些信号,我们引入动态梯度平衡,在训练过程中自适应调整它们的相对梯度贡献。在 Wan2.1-1.3B 上的实验表明,Direct Forcing 在 250 次更新内学习到一个四步自回归生成器,无需单独的 ODE 初始化阶段或在线扩散分数监督,达到 84.63 的 VBench Total 和 86.01 的 Quality。
| 主题: | 计算机视觉与模式识别 (cs.CV);人工智能 (cs.AI) |
| 引用为: | arXiv:2610.30861 [cs.CV] |
| (或 arXiv:2610.30861v2 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.30861 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Haojun Xu [查看电子邮件]
[v1]
2026年10月22日星期四 07:41:41 UTC (20,786 KB)
[v2]
2026年10月24日星期六 18:24:41 UTC (20,833 KB)
来源:arXiv cs.AI · arxiv.org