NeoHorse-1：通过带路由 Harness 的智能体后训练迈向递归自我改进
NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness
NeoHorse-1 是面向递归自我改进的智能体原生模型系列，通过异构模型池与智能路由，将每轮交互记录转化为保留推理、工具调用与 harness 上下文的训练样本。
作者：NeoHorse Team、Guoliang Cao、Guohao Dai、Tianyu Guo、Kai Han、Hailin Hu、Zihan Jiang、Xiang Kuang、Boxun Li、Yulong Li、Zehua Pei、Yuchuan Tian、Jiamin Wang、Yu Wang、Yunhe Wang、Yihong Wu、Haiyang Xu、Shuo Zhang、Hang Zhou、Siyang Cheng、Jiayu Fan、Wei He、Qingrui Jiao、Hongguang Li、Zhiyuan Li、Runke Liu、Xi Liu、Xinchen Liu、Sinno Jialin Pan、Yi Ren、Liuyang Song、Chenyu Wang、Bei Yu、Quanlu Zhang、Xiangyu Zhang、Mengyu Zheng、Yingjie Zong
摘要：递归自我改进（RSI）需要一种具体机制，使 AI 系统能够观察自身能力并将这些证据转化为下一轮学习。我们提出 NeoHorse-1，这是一个智能体原生模型系列，旨在通过智能体后训练探索这一路径。我们的系统将异构模型池与智能路由相结合，记录每个用户轮次的预测能力需求、所选服务层级以及后续交互。这些记录被转换为训练样本，保留交错推理、工具调用和 harness 上下文，并通过结构验证、六维语义评估和子场景级标注进行准入。路由信号将监督微调组织为三阶段课程，并扩展到路由引导的在线策略蒸馏，其中教师在同一进程下监督学生生成的回复。能力引导分配随后将评估反馈转化为下一轮训练混合，闭合评估—选择—更新循环，使系统学到做什么会影响它接下来从什么中学习。在涵盖基于 harness 的智能体、工具使用、编程和指令遵循的十一个基准上，后训练将 4B 的宏平均从 58.94 提升至 64.87，将 9B 的宏平均从 65.60 提升至 69.04，大幅缩小了后训练 4B 模型与 9B 基础模型之间的总体差距。我们进一步将 NeoHorse-1-4B 适配为 NeoHorse-Jev-4B，这是一个仅预填充模型，可为智能体工作流返回结构化决策和概率。NeoHorse-1 为这一反馈驱动过程提供了初步原型，并指明了跨连续迭代实现 harness 介导的 RSI 的路径。
| 评论： | Huggingface：this https URL ；Github：this https URL |
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2609.08183 [cs.CL] |
| （或此版本的 arXiv:2609.08183v2 [cs.CL]） | |
| https://doi.org/10.48550/arXiv.2609.08183 由 DataCite 颁发的 arXiv DOI |
提交历史
发件人：Zehua Pei [查看邮件]
[v1]
2026年9月8日星期二 03:14:54 UTC (708 KB)
[v2]
2026年10月14日星期三 13:51:20 UTC (711 KB)
来源：arXiv cs.CL · arxiv.org