跳到正文
arXiv cs.CL· Xiaohan Wang, Haozhen Zhang, Qingyuan Liu, Tao Feng, Wenya Wang·· 3 天前AI 评分26

RouteWeaver:将模式选择与执行编织进统一 LLM 路由

RouteWeaver: Weaving Mode Selection and Execution into Unified LLM Routing

AI 导读

RouteWeaver 是一个统一 LLM 路由框架,用单一策略整合单轮、多轮与智能体等路由模式,联合学习模式选择与模式内模型选择。其配套的 COMET-GRPO 将轨迹级优势拆分为模式选择与模式内执行两个信号,并引入渐进式探索,让路由器先学会执行各模式再决定何时使用。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:LLM 路由动态地在不同任务间选择并协调异构语言模型。然而,现有方法大多围绕预定义的执行范式构建,例如单轮、多轮或智能体路由,这固定了模型调用的组织方式,限制了对不同查询需求的适应能力。我们提出 RouteWeaver,一个统一的路由框架,将上述路由模式集成在单个 LLM 策略中,联合学习使用哪种模式以及在该模式内如何选择模型。为了联合优化模式选择与模式内执行,我们开发了 COMET-GRPO(COordinated Mode-Execution Training,协调模式-执行训练),它将轨迹级优势解耦为模式选择和模式内执行的独立信号,从而能够对每个决策层级进行更有针对性的信用分配。我们进一步引入渐进式探索,它使训练从外部指定的模式逐步过渡到自主选择,使路由器在决定何时使用每种模式之前,先学会如何执行每种模式。我们在数学、编程、知识、逻辑推理和事实回忆方面评估 RouteWeaver。RouteWeaver 实现了 61.4% 的平均准确率,相比最强基线相对提升 11.03%,并在全部五个领域均优于所有对比基线。消融实验表明,COMET-GRPO 和渐进式探索对自适应路由都很重要;如果没有渐进式探索,路由策略会完全坍缩为单轮执行。
评论: 提交至 ICLR 2027
主题: 计算与语言(cs.CL)
引用为: arXiv:2610.19705 [cs.CL]
  (或 arXiv:2610.19705v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.19705

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Xiaohan Wang [查看邮箱]
[v1] 2026年10月14日星期三 07:33:05 UTC(2,987 KB)

来源:arXiv cs.CL · arxiv.org