arXiv cs.MA· Ananth Kalyanasundaram, Ankush Kadu, Athira Gopal, Aswanth Krishnan·· 11 小时前AI 评分31
Agent-Conditioned Routing：让单个冻结模型生成多样推理路径
Agent-Conditioned Routing: Diverse Reasoning Paths Within One Frozen Model
AI 导读
Agent-Conditioned Routing（ACR）通过为多条并行轨迹分配未训练的共享/私有专家可用性掩码，在保持冻结 MoE 模型原有 token 路由的前提下生成多样解法。
正文 · AI 翻译
摘要：生成多个解可以揭示不同的方法，但额外的轨迹往往只是对某一种主导方法进行改写。我们研究冻结的稀疏专家混合（MoE）模型的条件容量能否在仅给出一个问题提示的情况下提供这种多样性，而无需用户指定角色、预设方法、微调或模型副本。Agent-Conditioned Routing（ACR）为 $m$ 条并行轨迹分配持久的、未经训练共享/私有专家资格掩码，同时保留已学习的、依赖输入的 token 路由器。在一个经过筛选的 126 题多模式数学与物理基准上，由模型评判员完整阅读所报告的推导过程，我们统计在四条轨迹中，在软正确解里至少产生两种不同主要方法的问题数量。在输出预算相同的情况下，ACR 达到此类问题数量约为 GLM 5.3 下最强温度设置的两倍（37.3 对 18.7），在 GPT-5.6 Sol 下为 1.67 倍（45.00 对 27.00）。对 30 道题的分层样本进行的四专家盲审也发现，在两种骨干模型上 ACR 都能产生更多多方法解，但正确率较低。匹配资格消融实验显示 ACR 在多方法数量上有适度优势，而 token 重采样掩码获得更高的正确率。一个知情顺序提示仍能引出更多多样性，它利用先前的解并明确要求替代方法。ACR 增加约 160 KiB 的掩码状态。在一个上限为 1,024 个 token 的三题微基准中，其延迟和峰值显存占用与批量温度采样相比保持在 3% 以内。
| 评论： | 17 页，4 幅图，11 张表。论文扩展版，原论文已被 NeurIPS 2026 Resource-Aware Agentic AI 研讨会接收（非存档）。 |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.37375 [cs.AI] |
| （或 arXiv:2610.37375v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.37375 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ankush Kadu [查看邮箱]
[v1]
2026 年 10 月 27 日星期二 15:06:29 UTC（1,550 KB）
来源：arXiv cs.MA · arxiv.org