arXiv cs.AI· Qile Jiang, George Em Karniadakis·· 11 小时前AI 评分58
SwarmEvolve:在隐空间通信的智能体群体用于进化式发现与优化
SwarmEvolve: Latent Agent Swarms for Evolutionary Discovery and Optimization
AI 导读
SwarmEvolve 提出让每轮数百个低成本智能体组成群体,在隐空间中推理而不解码为文本,并通过传递 KV cache 共享信息。在 21 个数学发现与科学计算问题上,它的平均得分最高,达到其他 SOTA 框架 60 分钟才能取得的最佳分数只需中位数 3 到 8 分钟;在部分问题上,使用 Qwen3 8B 的 SwarmEvolve 改进了 AlphaEvolve 最初用前沿 LLM 找到的解。
正文 · AI 翻译
摘要:LLM 引导的进化搜索利用 AI 智能体,通过迭代改进解并组合高分方法,来改进用于数学和计算问题的程序。然而,这一过程往往很慢,因为 LLM 在每一轮都会生成很长的文本思维链,而且必须多次重复这种生成以维持种群多样性。我们提出 SwarmEvolve,这是一个框架,其中每轮有数百个低成本智能体以群体方式工作,在潜在空间中推理而无需解码为文本,并通过传递 KV 缓存来共享信息。每个群体从不同角度研究问题。新颖性过滤器通过直接测量智能体隐藏状态向量之间的距离,保留最具差异性的智能体想法。想法的交叉在潜在空间中自然发生,因为汇总智能体会接收所有群体成员组合后的 KV 缓存。在数学发现和科学计算领域的 21 个问题上,SwarmEvolve 获得了最高的平均分,并且只需中位数 3 到 8 分钟即可达到其他最先进框架在 60 分钟内达到的最佳分数。在若干问题上,使用 Qwen3 8B 的 SwarmEvolve 改进了 AlphaEvolve 最初使用前沿 LLM 找到的解。我们的工作表明,在潜在空间中通信的智能体群体为科学问题的程序搜索提供了一种快速、低成本的方法。
| 主题: | 人工智能(cs.AI);神经与进化计算(cs.NE) |
| 引用为: | arXiv:2611.08483 [cs.AI] |
| (或 arXiv:2611.08483v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.08483 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Qile Jiang [查看电子邮件]
[v1]
2026年11月5日星期四 18:59:29 UTC(1,952 KB)
来源:arXiv cs.AI · arxiv.org