arXiv cs.MA· Yufa Zhou, Yichen Wang, Jiakun Fan, Ziqi Shu, Zhichao Liu, Anru R. Zhang, Neiwen Ling, Zijun Wei·· 2 天前AI 评分71
Athanor：面向自主后训练研究的智能体原生系统
Athanor: An Agent-Native System for Autonomous Post-Training Research
AI 导读
研究者提出 Athanor，一个在真实 GPU 上运行的智能体原生自主后训练研究系统（AutoPostTrain），让智能体自行读取数据集与评测结果、构建训练数据、修改训练算法并调参。
正文 · AI 翻译
摘要：递归自我改进，即 AI 系统构建更强的 AI 系统，是通往超级智能的一条有前景的路径。我们研究一种今天即可测量的较弱形式：前沿智能体用公开数据对一个小型原始基础模型进行后训练，以此检验其研究潜力。我们构建了 Athanor，一个开放的、面向智能体原生的系统，用于在真实 GPU 上进行自主后训练研究（AutoPostTrain）。我们赋予智能体完全的研究自主权、低摩擦的工程工具和高效的起始代码。智能体自行开展研究：它们阅读数据集和评估结果，构建自己的训练数据，编写并修改训练算法，调整超参数，并分析结果以决定下一步尝试什么。它们在沙箱中工作，不能使用外部教师模型。Athanor 的服务提供冻结评估、托管作业、去污染数据、持久研究记录，以及一套智能体并不知晓的留出测试集。在一场为期 104 小时的实验中，由四个 Claude Opus 5.5 智能体组成的团队，每个智能体位于一个八 GPU 节点上，且未获得任何研究建议，将 Qwen3-4B-Base 在六任务开发集上从 15.9 提升至 67.3，在留出测试集上从 9.2 提升至 48.2，而官方 Qwen3-4B-Instruct-2507 的成绩分别为 66.5 和 47.9。据我们所知，这是首次证明一队前沿智能体能够自主地将一个原始基础模型后训练为一个跨领域通用模型，并在平均表现上达到或超过官方 instruct 版本。该实验的完整记录显示，智能体通过重新组合已知方法和彼此的模型达到这一水平：在公开推理数据上进行 SFT、使用某个智能体引入的 rollout 改动进行 RL、跨智能体权重合并，以及多轮自蒸馏。在执行问题得到解决的情况下，当今的智能体已经具备攻克这一任务的工程与研究能力。我们希望 Athanor 能为扩展自主 AI 研究提供基础。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；机器学习（cs.LG）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.21055 [cs.AI] |
| （或 arXiv:2610.21055v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21055 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yufa Zhou [查看电子邮件]
[v1]
2026年10月15日星期四 00:56:33 UTC（638 KB）
来源：arXiv cs.MA · arxiv.org