arXiv cs.AI· Yongcan Yu, Kuangpu Guo, Jian Liang, Lingxiao He, Meng Wang, Ran He·· 13 小时前AI 评分24
推理大语言模型监督微调综述：方法设计与分析研究双视角
Supervised Fine-Tuning for Reasoning Large Language Models: A Survey
AI 导读
一篇被 EMNLP 2026 接收的综述系统梳理了推理大语言模型的监督微调（SFT）研究，从方法设计与分析研究双视角组织文献。方法层面按数据中心与算法创新两类归纳 SFT 流程改进，分析层面则沿数据特性、优化动态与机制洞察三个维度重整现有研究，并据此指出当前瓶颈与未来方向。
正文 · AI 翻译
摘要：大型推理模型近期在解决复杂任务方面展现出显著能力，其中对长思维链数据进行监督微调（SFT）是激发并增强其推理能力的关键基础。尽管在改进和分析面向推理的 SFT 方面均取得了快速进展，该领域仍缺乏一篇系统性的综述来梳理其快速增长的文献。为填补这一空白，我们对推理 SFT 的最新进展进行了全面回顾，从方法设计与分析研究两个视角审视相关文献。首先，我们回顾了 SFT 流程中的方法改进，并将其归类为以数据为中心的方法和以算法为中心的创新。其次，我们沿三个维度重新梳理分析性研究：数据特征、优化动态和机制性洞见。最后，通过综合当前研究重点与尚存瓶颈，我们展望了推理 SFT 有前景的未来方向。我们希望本综述能加深对推理 SFT 的理解，并为先进推理模型的发展铺平道路。
| 评论： | 已被 EMNLP 2026 会议接收 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.37681 [cs.CL] |
| （或 arXiv:2610.37681v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.37681 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yongcan Yu [查看邮箱]
[v1]
2026年10月13日 星期二 03:22:55 UTC（81 KB）
来源：arXiv cs.AI · arxiv.org