arXiv cs.AI· Yuheng Wang, Runde Yang, Zhuohan Bao, Qiran Zhang, Huatao Li, Yiyang Zheng, Lin Wu, Jingru Fan, Shu Yao, Yihan Li, Zhi Li, Chen Qian·· 6 天前AI 评分29
通过模型切片实现协作学习与推理
Collaborative Learning and Reasoning over Model Slices
AI 导读
研究提出"协作学习"方法，通过模型切片将大模型替换为参数量相当的异构小模型，让先前的推理能在不同参数化下被重新评估，并用金字塔监督结合协议蒸馏与步骤级监督优化协作决策。在多跳问答、数学推理、代码生成和开放式约束生成四类任务上，训练后的异构模型性能达到或超过原大模型及多智能体基线，推理效率更高。
正文 · AI 翻译
作者：Yuheng Wang、Runde Yang、Zhuohan Bao、Qiran Zhang、Huatao Li、Yiyang Zheng、Lin Wu、Jingru Fan、Shu Yao、Yihan Li、Zhi Li、Chen Qian
摘要：大型语言模型（LLM）在各类任务中表现出色，这得益于知识先验、上下文推理以及测试时计算。尽管具备这些优势，单模型推理仍然容易受到错误传播的影响，因为后续步骤依赖于模型先前的输出，使得推理盲点难以被独立重新评估。为解决这一局限，我们提出了\textit{协作学习}，涵盖异构协作者的构建以及有效跨模型协作的学习。具体而言，\textit{模型切片}在可比的参数预算下用更小的异构模型替代大型模型，使先前的推理能够在不同的模型参数化下被重新评估。\textit{金字塔监督}将协议蒸馏与步骤级监督相结合，以在整个协作过程中优化推理和交互决策。我们在四类任务上评估了我们的方法：多跳问答、数学推理、代码生成以及开放式约束生成。训练后的异构模型取得了与原始大型模型及现有多智能体基线（包括基于强化学习的方法）相当或更好的任务性能，同时实现了比多智能体基线更高的推理效率，并在不同任务中展现出差异化的协作模式。这些发现表明，学习到的协作将模型异构性转化为互补的推理能力。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.12927 [cs.AI] |
| （或 arXiv:2610.12927v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12927 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yuheng Wang [查看电子邮件]
[v1]
2026年10月9日星期五 03:17:29 UTC（1,830 KB）
来源：arXiv cs.AI · arxiv.org