arXiv cs.CL· Seockbean Song, Youngsik Yoon, Sungjae Lee, Siwei Wang, Wei Chen, Jungseul Ok·· 10 小时前AI 评分26
HoliDivEvolve:LLM 引导进化搜索中的整体多样性管理
Holistic Diversity Management in LLM-Guided Evolutionary Search
AI 导读
针对 LLM 引导进化搜索中岛屿模型难以保证搜索方向差异的问题,研究者提出 HoliDivEvolve,从初始化、岛屿轨迹到跨岛迁移全流程管理多样性。该方法引入多样化初始化、按当前得分、近期增长与剩余预算分配算力的轨迹自适应岛屿选择,以及增长自适应迁移机制。多基准实验显示其在多数任务上取得有竞争力的表现。
正文 · AI 翻译
摘要:LLM 引导的进化搜索会迭代地选择已有程序,将 LLM 用作变异算子生成新程序,并对其进行评估以指导后续搜索。为保持多样性并降低过早收敛的风险,它通常采用岛屿模型,即把程序分组为岛屿并分别进化。然而,仅靠这种结构并不能保证搜索方向各不相同,因为岛屿可能从相似的程序出发,或在进化过程中收敛到相似的解。这表明,多样性必须在整个搜索过程中加以考虑,从用不同程序初始化岛屿,到发展岛屿轨迹以及在岛屿之间共享发现。为此,我们提出 HoliDivEvolve,这是一种在整个进化搜索过程中建立并有效利用岛屿多样性的整体方法。具体而言,我们引入多样化初始化以建立不同的初始程序,引入轨迹自适应岛屿选择以根据当前得分、近期增长和剩余搜索预算分配计算资源,并引入增长自适应迁移以在岛屿之间共享替代思路。在多种基准上的实验表明,HoliDivEvolve 在大多数评估任务上取得了有竞争力的性能。我们进一步开展受控分析,以考察我们的设计选择如何影响搜索行为和最终性能。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.38407 [cs.CL] |
| (或 arXiv:2610.38407v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.38407 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Seockbean Song [查看电子邮件]
[v1]
2026年10月28日星期三 07:52:13 UTC(2,152 KB)
[v2]
2026年10月30日星期五 06:18:25 UTC(2,152 KB)
来源:arXiv cs.CL · arxiv.org