arXiv cs.AI· Yonatan Gideoni, Yarin Gal·· 3 天前AI 评分26
分布匹配进化算法(DME):无需更新权重即可从全局目标分布采样
Distribution Matching Evolutionary Algorithms for Rare Event Sampling
AI 导读
研究者提出分布匹配进化算法(DME),将多种进化算法解释为近似马尔可夫链蒙特卡洛,从而在不更新模型权重的情况下从全局目标分布中采样,可用于罕见事件采样与发现。在需要大量采样才能找到解的问题上,DME 的样本效率高于现有方法。
正文 · AI 翻译
摘要:一项新颖的发现既是有用的,也是令人惊讶的:如果生成模型的输出被生成的概率很低(令人惊讶),并且奖励很高(有用),那么它就是一个有用的发现。全局优化可以直接提高采样到高奖励的概率,但通常需要更新模型权重。这种基于梯度的优化代价高昂,并且阻碍了使用能力强大的闭源模型。相反,现代用于发现的搜索方法牺牲了全局目标,转而使用带有局部奖励最大化目标的进化算法,使得搜索只能聚焦于高概率样本。在本文中,我们将各种进化算法解释为近似马尔可夫链蒙特卡洛,这是一种无需优化的方法,用于从复杂分布中采样。这种解释使得我们能够开发分布匹配进化算法(DME),这是一类无需更新权重即可从全局目标分布中采样的搜索方法。在经验上,对于需要大量样本才能找到解的问题,DME 比现有方法具有更高的样本效率。
| 主题: | 神经与进化计算(cs.NE);人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2610.03833 [cs.NE] |
| (或使用 arXiv:2610.03833v2 [cs.NE] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2610.03833 arXiv 颁发的 DOI,通过 DataCite |
提交历史
来自:Yonatan Gideoni [查看邮箱]
[v1]
2026年10月2日星期五 12:31:06 UTC(182 KB)
[v2]
2026年10月13日星期二 12:42:15 UTC(182 KB)
来源:arXiv cs.AI · arxiv.org