arXiv cs.AI· Arjun Sivaraman, Zhaoheng Li, Alan Shi, Sanjay Malisetty, Eugene Wu, Yongjoo Park·· 4 小时前AI 评分34
Readie:面向 AI 智能体的低延迟代码沙箱
Readie: Low-Latency Code Sandboxes for AI Agents
AI 导读
Readie 通过“学习式启动快照”为 AI 智能体降低代码沙箱启动延迟,在同等存储预算下将启动延迟降低 3-22 倍、端到端运行时间缩短 1.3-3.3 倍。该方法从大规模训练负载中学习一组小型快照,每个快照初始化快且覆盖部分智能体生成代码,合起来覆盖大部分工作负载,并在 15K 公开及 LLM 合成脚本上完成规划验证。
正文 · AI 翻译
摘要:从定量研究到个人助理,AI 智能体通过迭代生成并执行代码来行动。为了将智能体框架与代码执行解耦,许多智能体将执行卸载到称为代码沙箱的专用系统。然而,现有代码沙箱存在启动缓慢的问题。无论是依赖自定义快照还是单个大镜像,根本原因都相同:很难构建一个紧凑的、预热好的快照,既能跨多种智能体生成的代码共享,又能覆盖其所需的几乎所有工件(例如软件包、数据集)。
在这项工作中,我们提出了用于低延迟代码沙箱的学习型启动快照。我们的洞见是:虽然单个快照很难既紧凑又覆盖大多数工作负载,但一组快照可以同时实现两者。每个快照都很小、初始化迅速,并覆盖智能体生成代码的一部分;合在一起,这组快照覆盖了其中大部分。我们通过将快照构建表述为一个优化问题,并用近似算法求解,从大规模训练工作负载中学习这组快照。在 15K 个公开及 LLM 合成脚本上进行规划后,我们的系统 Readie 在相同存储预算下,与现有方法相比将启动延迟降低了 3-22$\times$,端到端运行时间降低了 1.3-3.3$\times$。
| 主题: | 人工智能(cs.AI);数据库(cs.DB);软件工程(cs.SE) |
| 引用为: | arXiv:2611.22171 [cs.AI] |
| (或 arXiv:2611.22171v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.22171 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Arjun Sivaraman [查看电子邮件]
[v1]
2026年11月17日星期二 04:04:11 UTC(91 KB)
来源:arXiv cs.AI · arxiv.org