arXiv cs.AI· Abolfazl Younesi·· 10 天前AI 评分24
STEPGATE：面向小语言模型智能体的不确定性感知步骤级交接框架
Do I Need the Cloud? Uncertainty-Aware Step-Level Handoff for Small Language Model Agents
AI 导读
STEPGATE 是一种不确定性感知的步骤级交接框架，对本地小语言模型的每个动作打分，将困难步骤选择性升级到更强模型。在 52 项 BFCL 单步测试中，Qwen2.5-1.5B/7B 组合以 30.8% 升级率取得 82.7% 任务成功率，高于纯本地的 67.3% 和随机升级的 75.4%。多轮评测中它以 30.0% 云端动作达到 69.0% 轨迹成功率，但评测仅限单一模型族与脚本化任务。
正文 · AI 翻译
摘要：小型语言模型（SLM）作为本地智能体控制器颇具吸引力，因为它们减少了远程推理、延迟和部署占用，但结构化的工具错误可能导致智能体步骤失败。现有路由器通常对每个查询只选择一次模型。然而，智能体会暴露出顺序决策点，其难度会随中间观察结果动态变化。我们提出 STEPGATE，一种不确定性感知的交接框架，它对每个本地 SLM 动作进行评分，并有选择地将具有挑战性的步骤升级到更强的模型。在一个由 BFCL 衍生的 52 任务留出单步测试划分上，Qwen2.5-1.5B/7B 组合以 30.8% 的升级率达到了 82.7% 的任务成功率，而仅本地为 67.3%，随机升级为 75.4%（其升级率为 33.8%）。在另一项多轮评估中，STEPGATE 仅使用 30.0% 的云端动作就实现了 69.0% 的轨迹成功率和 84.0% 的动作成功率，相比之下，仅本地为 48.0%/70.5%，随机升级为 60.0%/78.2%，查询级路由为 57.0%/77.1%（仅强模型在 100% 云端动作下达到 82.0% 的轨迹成功率）。这些结果表明，在匹配的云端动作率下，步骤级升级弥补了与更强 Qwen2.5-7B 后端之间的大部分性能差距，同时远程传输的 token 更少。然而，我们的评估仅限于一个模型家族、一个更强的后端以及脚本化任务。此外，测试集较小，多轮比较依赖于配对区间和统计检验，我们的风险层级仅作为研究标注，而非正式的安全保证。
| 评论： | 已被第 40 届神经信息处理系统大会（NeurIPS 2026）接收。研讨会：面向智能体系统的 SLM，法国巴黎，2026 年 |
| 主题： | 人工智能（cs.AI）；分布式、并行与集群计算（cs.DC）；新兴技术（cs.ET）；机器学习（cs.LG）；多智能体系统（cs.MA） |
| ACM 分类： | I.2；I.2.11 |
| 引用为： | arXiv:2610.07816 [cs.AI] |
| （或本版本使用 arXiv:2610.07816v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2610.07816 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Abolfazl Younesi [查看电子邮件]
[v1]
2026 年 10 月 6 日星期二 06:09:31 UTC（94 KB）
来源：arXiv cs.AI · arxiv.org