arXiv cs.AI· Kyoko Ogawa, Naoki Mori·· 2 天前AI 评分22
T-GADE:热力学生成式 AI 驱动的 LLM 产物进化框架
T-GADE: Thermodynamical Generative-AI-Driven Evolution of LLM Artifacts
AI 导读
研究者提出 T-GADE,一个用 LLM 扩展的进化计算框架,将 LLM 生成的结构化产物作为个体,交叉与变异由 LLM 算子实现,并引入可在评估后自我修复个体的 HoxLM。
正文 · AI 翻译
摘要:将大语言模型(LLM)引入进化计算,使候选解能够进行语义生成,但维持种群多样性这一经典问题依然存在。受热力学遗传算法(TDGA)启发,我们提出 T-GADE(Thermodynamical Generative-AI-Driven Evolution of LLM Artifacts),一个通过 LLM 扩展的进化计算框架。T-GADE 保留了种群和遗传算子的概念,将 LLM 生成的结构化产物作为个体,并将交叉和变异实现为 LLM 算子。它进一步引入了 HoxLM,一个在评估之后、生存选择之前尝试对个体进行自我修复的 LLM;两种更新方案,即世代式和稳态式;以及费米型和玻色型占据规则,用于定义解的身份以及是否允许重复。生存选择被统一为自由能 $F_T=\langle E\rangle-TH$ 的最小化,选择温度 $T$ 显式控制质量与多样性之间的平衡。我们在在线装箱任务上测试了一个与启发式进化(EoH)对齐的实现示例,其中超出量是指箱数超过体积下界的部分相对于该下界的比例。配备 HoxLM 的配置以比 EoH 更少的总 LLM 调用次数达到了更低的超出量。在 400 次总调用的预注册比较中,它在 10 次种子配对运行中赢得了 9 次,封存超出量中位数为 0.836%,而 EoH 为 3.912%,并且在均值和最坏情况下也更优。在两种更新方案下,温度控制着保留种群的分布范围,并且在世代式玻色型方案中,较小的正温度相比坍缩的 $T=0$ 点提高了训练质量。进化出的启发式以可读的评分规则形式展示。
| 评论: | v2:12 页,4 幅图,6 张表。将 T-GADE 呈现为一个通用的、多样性感知的、基于 LLM 的进化计算框架,并给出一个与 EoH 对齐的实现示例;报告了一项预注册的种子配对比较,其中配备宿主的配置以比 EoH 更少的总 LLM 调用次数达到低超出量,并将选择温度视为显式的多样性控制 |
| 主题: | 人工智能(cs.AI);神经与进化计算(cs.NE) |
| 引用为: | arXiv:2609.12286 [cs.AI] |
| (或 arXiv:2609.12286v2 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2609.12286 arXiv 颁发的 DOI,通过 DataCite |
提交历史
来自:Kyoko Ogawa [查看邮箱]
[v1]
2026 年 9 月 10 日星期四 23:33:37 UTC(90 KB)
[v2]
2026 年 10 月 14 日星期三 22:40:12 UTC(28 KB)
来源:arXiv cs.AI · arxiv.org