arXiv·· 13 天前AI 评分32
Sibyl：面向长程任务的高效大小模型协作框架
Sibyl: An Efficient Small-large Model Collaboration Framework for Long-horizon Tasks
AI 导读
Sibyl 是一个面向长程任务的高效小大模型协作框架，让小语言模型在端侧低延迟推理的同时，按需调用云端大模型补足推理与规划能力。该框架针对"哪些状态值得调用云端"这一难题，解决云端调用贡献与后续动作纠缠、只能从最终任务结果评估的问题。
来源：arXiv · arxiv.org