arXiv cs.AI· Xiaoyan Hu, Rohit Sonker, Jalal Butt, Jiayu Chen, Egemen Kolemen, Jeff Schneider·· 23 小时前AI 评分26
BReaD:用扩散模型引导采样实现高维黑盒优化
High-Dimensional Black-Box Optimization via Guidance Sampling of Diffusion Models
AI 导读
研究者提出 BReaD(Black-box Reward-guided Sampling of Diffusion Model),一种无需标注数据集或奖励梯度的扩散模型引导采样框架,用高斯过程作为未知目标的可微代理并主动查询生成样本标签。
正文 · AI 翻译
摘要:许多现实世界的优化问题涉及优化黑盒目标,而这类目标只能进行有限次数的评估。贝叶斯优化(BO)是解决此类问题的强大框架,但其有效性在高维空间中往往会下降。近期工作利用扩散模型进行黑盒优化,通常通过预训练一个以奖励为条件的评分网络,引导生成过程朝向高奖励样本。另一种方法是基于梯度的引导方法,它假设可以访问可微的奖励函数,并从中查询引导梯度。然而,这些方法要么需要大量标注数据进行离线训练,要么需要访问精确的奖励梯度,这限制了它们在黑盒场景中的适用性。我们提出 BReaD(Black-box Reward-guided Sampling of Diffusion Model),这是一个用于优化黑盒奖励的引导采样框架,无需假设可以访问标注数据集或奖励梯度。所提出的方法使用高斯过程(GP)作为未知目标的可微代理,并主动查询生成样本的标签。我们提供了生成分布与目标分布之间全变差距离的理论分析。使用上置信界(UCB)作为引导信号,我们的方法在生成过程中平衡探索与利用,并能够在数据空间中发现高奖励区域。在科学发现和图像生成任务上的数值实验表明,我们的框架可以在低数据场景下有效优化黑盒奖励。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2611.22965 [cs.LG] |
| (或 arXiv:2611.22965v1 [cs.LG] 为此版本) | |
| https://doi.org/10.48550/arXiv.2611.22965 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Xiaoyan Hu [查看邮箱]
[v1]
2026年11月17日星期二 15:51:29 UTC(6,843 KB)
来源:arXiv cs.AI · arxiv.org