跳到正文
Hugging Face Daily Papers· Changdae Oh·· 17 天前AI 评分37

后训练中的"锐化税":预训练 LLM 配轻量推理框架即可胜任智能体任务

Sharpening Tax in Post-Training

AI 导读

一项关于 LLM 强化学习后训练的研究发现,预训练模型配上轻量推理框架就能充当可用的智能体,尽管其 pass@1 准确率远低于后训练模型。该研究质疑了 RL 后训练只是"锐化"基座模型已有行为、以牺牲解法覆盖率为代价提升单次准确率的假说,指出这一权衡在需要多轮工具调用的智能体任务中未必成立。

来源:Hugging Face Daily Papers · huggingface.co