arXiv cs.AI· Boris Radovi\v{c}, Marco Canini, Veljko Pejovi\'c·· 3 天前AI 评分34
小模型该坐驾驶座吗？云编写智能体程序中本地模型作为解释器的研究
Should SLMs be in the Driver's Seat? A Study of Local Models as Interpreters in Cloud-Written Agent Programs
AI 导读
研究提出一种中间架构：云端模型编写的程序通过普通函数调用，将关于用户数据的有界问题交给本地小模型回答，从而在数据不出设备的前提下完成运行时内容解释。在 AppWorld 上，该方案在全部六种骨干模型与测试分区组合中均提升纯代码智能体的成功率，最高提升 14.9pp，缩小了与云端 ReAct 循环的差距。
正文 · AI 翻译
摘要：执行用户所提供任务的最精确智能体由大型云端托管模型驱动，这些模型通过读取用户的私有数据来完成任务。由小到足以在边缘设备上运行的模型驱动的智能体可将这些数据保留在本地，但结果要差得多。第三种选择是让云端模型编写一个由设备执行的程序：数据留在本地，但由于程序是在看到任何数据之前编写的，一旦某一步骤依赖于解读仅在运行时才出现的内容，程序就会失败。我们探索了一种中间架构，其中云端编写的程序通过普通函数调用，将对用户数据的有界问题交由一个小型本地模型处理。在 AppWorld 上，这在我们评估的所有六种主干模型与测试分区组合中都提升了纯代码智能体的成功率，最高提升 14.9 个百分点，在将用户数据保留在设备上的同时，弥补了与云端托管 ReAct 循环之间差距的很大一部分。
| 评论： | 被 SLM-Agents：第 1 届面向智能体系统的 SLM 研讨会，NeurIPS 2026 接收 |
| 主题： | 人工智能（cs.AI）；分布式、并行与集群计算（cs.DC） |
| 引用为： | arXiv:2610.14209 [cs.AI] |
| （或 arXiv:2610.14209v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.14209 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Boris Radovič [查看邮箱]
[v1]
2026 年 10 月 9 日星期五 18:20:39 UTC（127 KB）
来源：arXiv cs.AI · arxiv.org