arXiv cs.CL· Taehoon Kim, Seunggeun Cho, Dongsu Han·· 10 天前AI 评分27
通过交叉反馈与连贯策展的协作推理蒸馏
Collaborative Reasoning Distillation via Cross-Feedback and Coherent Curation
AI 导读
研究提出协作推理蒸馏（CRD）框架，通过教师模型交叉反馈、逐步质量评估和连贯步骤拼接三项创新，将推理能力蒸馏到小模型。CRD-4B 在 MATH-500 上达 97.3%、AIME'25 上达 70.3%，仅用 50K 训练样本，数据集规模比同类模型小最多 12 倍。
正文 · AI 翻译
摘要：推理能力对于推进大语言模型至关重要，然而当前的方法要么需要庞大的计算预算，要么难以有效地将推理能力蒸馏到更小的模型中。标准的蒸馏方法依赖基于结果的奖励，无法区分严谨的推理与侥幸的猜测。我们提出协作推理蒸馏（CRD），一个通过三项创新增强紧凑模型推理能力的框架：（1）交互式交叉反馈，教师模型迭代地相互评判彼此的推理；（2）细粒度的逐步质量评估，捕捉独立于最终答案的逻辑有效性；（3）连贯性感知的步骤拼接，综合互补优势。学生在预算约束下通过推理质量优化（RQO）进行训练。我们的模型 CRD-4B 在 MATH-500 上达到 97.3%，在 AIME'25 上达到 70.3%，超越了基线，同时仅使用 50K 训练样本，比同类模型的数据集小至多 12 倍。
| 评论： | 已被 NeurIPS 2026 接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.09587 [cs.LG] |
| （或 arXiv:2610.09587v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.09587 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Taehoon Kim [查看邮箱]
[v1]
2026年10月7日星期三 07:31:33 UTC（429 KB）
来源：arXiv cs.CL · arxiv.org