跳到正文
arXiv cs.CL· Shangbin Feng, Yuyang Bai, Ziyuan Yang, Yike Wang, Zhaoxuan Tan, Jiajie Yan, Zhenyu Lei, Wenxuan Ding, Weijia Shi, Haojin Wang, Zhenting Qi, Yuru Jiang, Heng Wang, Chengsong Huang, Yu Fei, Jihan Yao, Yilun Du, Luke Zettlemoyer, Yejin Choi, Yulia Tsvetkov·· 2 天前AI 评分40

MoCo:一站式模型协作研究 Python 库

MoCo: A One-Stop Shop for Model Collaboration Research

AI 导读

研究者推出 MoCo,一个用于大规模执行、评测和比较模型协作算法的一站式 Python 库,涵盖 26 种模型协作方法与 25 个评测数据集。实验显示,多数协作策略在平均 61.0% 的(模型、数据)设定中优于无协作模型,最优方法提升幅度最高达 25.8%。

正文 · AI 翻译

作者:Shangbin Feng、Yuyang Bai、Ziyuan Yang、Yike Wang、Zhaoxuan Tan、Jiajie Yan、Zhenyu Lei、Wenxuan Ding、Weijia Shi、Haojin Wang、Zhenting Qi、Yuru Jiang、Heng Wang、Chengsong Huang、Yu Fei、Jihan Yao、Yilun Du、Luke Zettlemoyer、Yejin Choi、Yulia Tsvetkov

查看 PDF HTML(实验性)

摘要:超越单一单体语言模型(LM),近期研究日益认识到模型协作的重要性,即多个 LM 相互协作、组合与互补。现有关于该主题的研究大多零散且彼此割裂,来自不同的研究群体,缺乏严格的比较。为整合现有研究并将模型协作确立为一种思想流派,我们提出 MoCo:一个一站式 Python 库,用于大规模执行、基准测试和比较模型协作算法。MoCo 包含 26 种模型协作方法,涵盖路由、文本、logit 和模型参数等不同层次的跨模型信息交换。MoCo 集成了 25 个评估数据集,涵盖推理、问答、代码、安全等,同时用户可灵活使用自己的数据。使用 MoCo 进行的大量实验表明,在平均 61.0% 的(模型,数据)设置中,大多数协作策略优于无协作的模型,其中最高效的方法提升幅度可达 25.8%。我们进一步分析了模型协作策略的扩展性、不同方法的训练/推理效率,强调协作系统能解决单一 LM 难以处理的问题,并讨论了模型协作的未来工作,所有这些都得益于 MoCo。我们将 MoCo 视为一个有价值的工具包,以促进并加速实现开放、模块化、去中心化和协作式 AI 未来的探索。
评论: Moco 可在 此 https URL 获取
主题: 计算与语言(cs.CL)
引用为: arXiv:2601.21257 [cs.CL]
  (或 arXiv:2601.21257v3 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2601.21257

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Shangbin Feng [查看电子邮件]
[v1] 2026年1月29日 星期四 04:36:52 UTC(413 KB)
[v2] 2026年4月19日 星期日 21:04:27 UTC(413 KB)
[v3] 2026年10月14日 星期三 22:11:07 UTC(413 KB)

来源:arXiv cs.CL · arxiv.org