arXiv cs.AI· Binghang Lu, Yige Sun, Guang Lin·· 11 小时前AI 评分38
RSI-Opt：用于模型训练的可递归自我改进优化器智能体
RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
AI 导读
RSI-Opt 是一个即插即用的递归自我改进优化器智能体，通过元智能体重写提示词、流程手册、优化器代码库和决策节奏，并用存档保留已评估策略以供继续演化。在三个训练任务上历经 5 代演化，演化套件的原始空间汇总 z 分数从 +10.48 提升至 +14.33（Opus 5.5），跨模型策略迁移使 GPT-5.5 在留出任务上从 -0.36 升至 +3.11。
正文 · AI 翻译
摘要：传统的神经网络训练通常遵循预定义的优化配方，这促使人们构建一个 LLM 智能体来监控训练动态，并随着训练进展调整优化器设置，但固定的智能体策略无法在多次运行之间积累经验。我们提出 RSI-Opt，一种即插即用的递归自我改进优化器智能体，它演化指导这一过程的知识：提示词、流程手册、经过测试的优化器代码库以及决策节奏。一个元智能体利用先前运行的证据重写该策略，一个存档保留已评估的策略以供进一步演化。在三个训练任务上历经 5 代演化，元智能体开发出可复用的流程和代码，并自行开展 CPU 代理实验。RSI-Opt 显著提升了优化器智能体的性能，在演化套件上使用 Opus 5.5 时，代表性原始空间汇总 $z$ 分数从 $+10.48$ 提升至 $+14.33$；通过跨模型策略迁移，在留出任务上使用 GPT-5.5 时从 $-0.36$ 提升至 $+3.11$。在 Burgers PDE 上，与固定提示词智能体基线相比，使用 Opus 5.5 时平均相对 $L_2$ 误差降低约 2.7 倍，使用 GPT-6.1 时降低 8.8 倍，不过 PDE 迁移在不同 LLM 和任务之间有所差异。受控比较表明，演化后的策略将可复用的优化知识与对每个任务的适应相结合：初始决策在已见任务上捕获了大部分观测到的增益，而持续适应则改善了未见任务上的结果。这些发现表明，跨训练运行积累的流程和可执行工具能够提升优化器智能体的性能，并支持向科学机器学习的迁移。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.32026 [cs.AI] |
| （或 arXiv:2610.32026v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32026 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Binghang Lu [查看邮箱]
[v1]
2026年10月23日星期五 01:05:11 UTC（224 KB）
来源：arXiv cs.AI · arxiv.org