arXiv cs.AI· Jinho Chang, Jong Chul Ye·· 11 小时前AI 评分25
ZeNOVA:面向生成模型对齐的流形约束初始噪声优化方法
Manifold-Constrained Initial Noise Optimization for Efficient Generative Model Alignment
AI 导读
ZeNOVA 是一种无梯度初始噪声对齐方法,通过退火软值引导、流形约束超球面 Langevin 动力学和 Metropolis-Hastings 跳跃,解决黑盒奖励场景下现有初始噪声优化依赖一阶梯度导致的不稳定与低效问题。在图像和视频生成模型实验中,ZeNOVA 在更高奖励方向上优于所有评估的零阶基线,且优化过程显著更稳定,并利用了高斯先验的几何结构。
正文 · AI 翻译
摘要:蒸馏与流映射模型的近期进展使得确定性的一步或少步高质量数据生成成为可能,从而催生了一个新的奖励对齐方法分支,即直接优化来自高斯分布的初始噪声。然而,现有的大多数初始噪声优化方法依赖一阶梯度信息,这在黑盒奖励场景中要么不适用,要么存在不稳定和效率低下的问题。在此,我们提出 ZeNOVA,一种无梯度、稳定且高效的初始噪声对齐方法。具体而言,我们通过退火软值引导、流形约束的超球面朗之万动力学以及 Metropolis-Hastings 跳跃,解决了现有算法在黑盒场景中的主要挑战。在图像和视频生成模型上的大量实验表明,ZeNOVA 通过将初始噪声优化至更高奖励,显著更稳定地优于所有评估过的零阶基线,同时利用了高斯先验的几何结构,证明了其对各种黑盒奖励对齐的实际适用性。
| 评论: | 25 页,13 幅图 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);计算机视觉与模式识别(cs.CV) |
| 引用为: | arXiv:2610.00365 [cs.LG] |
| (或 arXiv:2610.00365v2 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.00365 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自:Jong Chul Ye [查看电子邮件]
[v1]
2026 年 9 月 30 日星期三 06:37:54 UTC(49,194 KB)
[v2]
2026 年 11 月 5 日星期四 05:23:11 UTC(49,194 KB)
来源:arXiv cs.AI · arxiv.org