arXiv cs.AI· Taebong Kim, Youngsik Hong, Minsik Kim, Sunyoung Choi, Jaewon Jang, Junghoon Shin, Minseo Kim·· 10 小时前AI 评分17
Darwin Family：无需训练的 MRI-Trust 加权进化合并，提升语言模型推理能力
Darwin Family: MRI-Trust-Weighted Evolutionary Merging for Training-Free Scaling of Language-Model Reasoning
AI 导读
Darwin Family 提出一种无需梯度训练的进化式模型合并框架，通过无梯度权重空间重组复用已有 checkpoint 中的潜在能力。其旗舰模型 Darwin-27B-Opus 在 GPQA Diamond 上达到 86.9%，在 1,252 个受评模型中排名第 6，超过其完全训练的基础模型。
正文 · AI 翻译
本文已被 arXiv 管理员撤回
摘要：我们提出 Darwin Family，一个通过无梯度权重空间重组实现大语言模型免训练进化合并的框架。我们探究是否能在不进行额外训练的情况下，通过重组现有检查点中已编码的潜在能力，提升前沿水平的推理性能。Darwin 引入三个关键思想：(i) 一个 14 维自适应合并基因组，支持细粒度的组件级和块级重组；(ii) MRI-Trust Fusion，通过可学习的信任参数自适应平衡诊断层重要性信号与进化搜索；(iii) 一个架构映射器，支持异构模型家族之间的跨架构繁育。在实证上，旗舰模型 Darwin-27B-Opus 在 GPQA Diamond 上达到 86.9%，在 1,252 个受评估模型中排名第 6，且在没有任何基于梯度的训练的情况下超越了其完全训练的基础模型。在从 4B 到 35B 参数的各种规模上，Darwin 模型始终优于其父代，支持递归多代进化，并实现了一种免训练的进化合并，将基于 Transformer 和 Mamba 的组件结合在一起。总之，Darwin Family 表明，诊断引导的进化合并是面向以推理为核心的语言模型的一种实用且可复现的替代方案，可替代昂贵的后训练流水线。
| 评论： | arXiv 管理员注：本投稿已被撤回，因为它不符合 arXiv 的研究内容质量标准 |
| 主题： | 神经与进化计算 (cs.NE)；人工智能 (cs.AI) |
| 引用为： | arXiv:2605.14386 [cs.NE] |
| (或 arXiv:2605.14386v2 [cs.NE] 为此版本) | |
| https://doi.org/10.48550/arXiv.2605.14386 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：arXiv 管理员 [查看电子邮件]
[v1]
2026年5月14日星期四 05:09:12 UTC (520 KB)
[v2]
2026年11月3日星期二 22:38:53 UTC (1 KB) (已撤回)
来源：arXiv cs.AI · arxiv.org