arXiv cs.CL· Zeru Shi, Jindong Jiang, Ryo Hachiuma, Yonggan Fu, Byung-Kwan Lee, Peter Belcak, Saurav Muralidharan, Ayush Agarwal, Ruixiang Tang, Ambrish Dantrey, Pavlo Molchanov, Anjul Patney, Subhashree Radhakrishnan·· 11 小时前AI 评分38
EdgeWise：通过选择性云端委派将长程智能体带到边缘端
EdgeWise: Bringing Long-Horizon Agents to the Edge via Selective Cloud Delegation
AI 导读
EdgeWise 是一个边缘-云协作框架，在本地设备部署 SLM 作为主求解器，仅在关键步骤将任务委派给云端 LLM。它采用步级强化学习联合优化任务求解与委派决策，在 SWE-Rebench 和 Terminal-Bench 2.1 上分别降低推理成本最高 62% 和 34%，性能与纯 LLM 执行相当或更优。
正文 · AI 翻译
作者：Zeru Shi、Jindong Jiang、Ryo Hachiuma、Yonggan Fu、Byung-Kwan Lee、Peter Belcak、Saurav Muralidharan、Ayush Agarwal、Ruixiang Tang、Ambrish Dantrey、Pavlo Molchanov、Anjul Patney、Subhashree Radhakrishnan
摘要：复杂且长时程的智能体任务通常依赖部署在云端的前沿模型来获得强劲性能。然而，在长时程轨迹的每一步都使用这些模型会带来可观的推理成本，尽管并非所有步骤都需要相同水平的模型能力。本文发现，仅将 LLM 分配给少量关键步骤，即可达到与全程 LLM 执行相当的性能，同时显著降低推理成本。受此观察启发，我们提出 EdgeWise，一种边云协同框架，将 SLM 部署在本地设备上作为主要求解器，并在需要更强模型能力时选择性地将关键步骤委派给云端 LLM。为在推理时无需额外模型即可实现自主委派，我们提出一种步骤级 RL 方法，联合优化任务求解与委派，并对单个委派决策进行细粒度信用分配。我们还引入一种基于外部评判者的委派策略，并用它系统性地研究边云协同中的关键设计选择，包括何时委派、如何做出委派决策、应共享哪些上下文，以及云端 LLM 应被调用的频率。实验表明，EdgeWise 在 SWE-Rebench 上可将推理成本降低最多 62%，在 Terminal-Bench 2.1 上降低 34%，同时性能与纯 LLM 执行相当或更优。我们进一步将 EdgeWise 部署在本地工作站上，在实际边云环境中展示了相当的成本节省。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.17560 [cs.CL] |
| （或 arXiv:2610.17560v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17560 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Zeru Shi [查看邮箱]
[v1]
2026年10月13日 星期二 01:32:16 UTC（2,825 KB）
[v2]
2026年10月15日 星期四 22:39:12 UTC（2,825 KB）
来源：arXiv cs.CL · arxiv.org