跳到正文
arXiv cs.AI· Yi Chen, Haiquan Wang, JiaHao Zhao, HaoHao Han·· 10 小时前AI 评分29

大语言模型与小语言模型协作机制综述

A Survey on Collaborative Mechanisms Between Large and Small Language Models

AI 导读

一篇综述系统梳理了大语言模型(LLM)与小语言模型(SLM)的协作机制,归纳出流水线、路由、辅助、蒸馏、融合五类交互方式。文章指出这类协作可在资源受限的边缘设备上兼顾性能与效率,满足低延迟、隐私、个性化与离线运行需求。同时讨论了系统开销、模型间一致性、任务分配、评估复杂度与安全隐私等挑战。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)提供强大的 AI 能力,但面临资源成本高和延迟大的部署挑战;而小型语言模型(SLM)以性能降低为代价,提供了高效性和可部署性。LLM 与 SLM 的协作成为协同平衡这些权衡的关键范式,能够支持先进的 AI 应用,尤其是在资源受限的边缘设备上。本综述全面概述了 LLM-SLM 协作,详述了各种交互机制(流水线、路由、辅助、蒸馏、融合)、关键使能技术,以及由低延迟、隐私、个性化和离线运行等端侧需求驱动的多样化应用场景。在强调创建更高效、更自适应和更易获取的 AI 的巨大潜力的同时,我们也讨论了持续存在的挑战,包括系统开销、模型间一致性、稳健的任务分配、评估复杂性以及安全/隐私问题。未来方向指向更智能的自适应框架、更深入的模型融合,以及向多模态和具身 AI 的扩展,将 LLM-SLM 协作定位为下一代实用且普适的人工智能的关键驱动力。
学科: 人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2505.07460 [cs.AI]
  (或此版本的 arXiv:2505.07460v2 [cs.AI])
  https://doi.org/10.48550/arXiv.2505.07460

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Yi Chen [查看电子邮件]
[v1] 2025 年 5 月 12 日星期一 11:48:42 UTC(1,822 KB)
[v2] 2026 年 11 月 18 日星期三 08:16:01 UTC(1,789 KB)

来源:arXiv cs.AI · arxiv.org