跳到正文
arXiv·· 12 天前AI 评分29

STEPGATE:小模型智能体的不确定性感知步骤级云端交接框架

Do I Need the Cloud? Uncertainty-Aware Step-Level Handoff for Small Language Model Agents

AI 导读

STEPGATE 是一个不确定性感知的交接框架,对本地小语言模型(SLM)的每一步动作打分,只把困难步骤升级给更强模型,而非按查询一次性选择模型。在 52 个任务的单步 BFCL 衍生留出测试集上完成验证,目标是降低远程推理、延迟与部署开销,同时避免结构化工具调用错误导致智能体步骤失败。

来源:arXiv · arxiv.org