arXiv cs.AI· Channe Chwa, Xinle Wu, Yao Lu·· 14 小时前AI 评分31
AutoPipe：面向 LLM 后训练流水线的预算感知自动配置框架
Automatic Configuration of LLM Post-Training Pipelines
AI 导读
AutoPipe 是一个预算感知的两阶段框架，用于 LLM 后训练流水线的配置选择。它离线学习以数据集为条件的学习排序代理模型，在线用该引导加速贝叶斯优化并以高斯过程残差建模数据集差异，同时通过早停和学习预测器降低评估成本。在生物医学推理任务上，AutoPipe 以远低于全保真 HPO 基线的在线成本达到相当性能，并优于纯离线方法和早停 HPO 变体。
正文 · AI 翻译
摘要：结合监督微调与强化学习的 LLM 后训练流程在现实算力预算下难以配置：配置空间高维且异构，各阶段强耦合，且每次端到端评估代价高昂。我们提出 AutoPipe，一个面向 LLM 后训练配置选择的预算感知两阶段框架。离线阶段，AutoPipe 从历史运行中学习一个以数据集为条件的学习排序代理模型，捕捉数据集内偏好，并为配置空间中可能有前景的区域提供可迁移的指导。在线阶段，对于新数据集，AutoPipe 利用离线指导来引导贝叶斯优化，并用高斯过程残差代理模型对数据集特定的偏差建模。为降低评估成本，每个试验都会被提前停止，并由一个学习到的预测器打分，该预测器将早期训练信号映射为最终后训练性能的低成本代理指标。在生物医学推理任务上的实验表明，AutoPipe 以仅为完整保真 HPO 基线一小部分的在线成本，达到了与后者相当的性能，同时优于仅离线方法和提前停止的 HPO 变体。
| 主题： | 机器学习 (cs.LG)；人工智能 (cs.AI) |
| 引用为： | arXiv:2603.18773 [cs.LG] |
| （或 arXiv:2603.18773v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2603.18773 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Channe Chwa [查看电子邮件]
[v1]
2026年3月19日星期四 11:26:56 UTC（107 KB）
[v2]
2026年10月25日星期日 06:30:57 UTC（130 KB）
来源：arXiv cs.AI · arxiv.org