arXiv cs.AI· Pedro Dall'Antonia, Juan Belieni, Ana Carolina Erthal, Saullo H. G. de Oliveira, Eliezer de Souza da Silva, Diego Mesquita·· 12 小时前AI 评分24
Hierarchical Cooperative GFlowNets:分层协作提升 GFlowNets 探索覆盖
Hierarchical Cooperative GFlowNets
AI 导读
研究者提出 Hierarchical Cooperative GFlowNets(HCG),通过共享分类器动态划分搜索空间,让排名最高的模型探索全空间、低排名模型逐步转向高排名模型未覆盖的区域,避免多个 GFlowNets 塌缩到同一高奖励区。
正文 · AI 翻译
摘要:生成流网络(GFlowNets)经过训练,以与奖励函数成正比的概率从组合空间中采样对象,但无效的探索可能导致学习到的采样器集中在少数高奖励区域。一种直观的补救方法是并行独立训练多个 GFlowNets 并组合它们的样本。然而,这并不能防止多个模型坍缩到相同的高奖励区域,从而使状态空间的大片区域未被探索。鉴于此,我们提出分层协作 GFlowNets(HCG),该方法动态划分搜索空间以协调发现过程,而不依赖手工设计的边界。HCG 施加一种排序:排名最高的模型可以探索整个空间,而排名较低的模型则被逐步推向排名较高模型未覆盖的区域。我们从理论上刻画了特定学习目标如何将概率质量从指定区域转移开,并在我们的架构中实例化了这一机制。一个共享分类器通过划分搜索空间来协调层级结构,使各 GFlowNets 保持独立参数化并支持异步训练。此外,我们为集成推导出一种归一化加权聚合规则,并证明在所述假设下它能恢复目标奖励比例分布。最后,在多模态分布、序列生成、组合优化和生物序列设计上的实验表明,HCG 改善了模式覆盖和目标逼近,将协调采样器数量的增加转化为更广泛、互补的探索。
| 评论: | 21 页 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.33968 [cs.LG] |
| (或 arXiv:2610.33968v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.33968 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Pedro Dall'Antonia [查看电子邮件]
[v1]
2026 年 10 月 25 日星期日 00:46:45 UTC(939 KB)
来源:arXiv cs.AI · arxiv.org