arXiv cs.AI· Le Chen, Lixin Liu, Jan Schneider, Zeju Qiu, Simon Guist, Bernhard Sch\"olkopf, Dieter B\"uchler·· 10 天前AI 评分24
WAMJET:面向世界动作模型加速的智能体框架
WAMJET: A Harness for World Action Model Acceleration
AI 导读
WAMJET 是一个加速世界动作模型(WAM)推理的智能体框架,通过为编码智能体提供可复用的优化指导与测量验证工具,实现最高 9.95 倍无损加速。该框架采用瓶颈驱动流程,由智能体分析推理、修改代码并迭代优化加速栈,实验覆盖六种 WAM、三种编码智能体和两种 GPU 架构。近似与硬件感知优化可进一步降低延迟,且成功率相当。
正文 · AI 翻译
摘要:世界动作模型(WAMs)利用预训练的视频基础模型进行机器人操作,但其庞大的主干网络和视频-动作联合预测代价高昂。尽管现有的加速技术提供了许多降低这一成本的方法,但选择和组合它们需要针对每个模型和硬件平台进行大量工程工作。为解决这一瓶颈,我们提出了 WAMJET,一种智能体式工具框架,通过为编码智能体配备可复用的优化指导以及测量和验证工具来加速 WAM 推理。WAMJET 遵循瓶颈驱动的工作流程,智能体对推理进行性能分析、修改目标代码、验证效果,并在瓶颈转移时迭代优化加速栈,同时保持动作质量。实验涵盖六个 WAM、三个编码智能体和两种 GPU 架构。WAMJET 相比上游实现实现了最高 9.95 倍的无损加速。近似计算和硬件感知优化进一步降低了延迟,且成功率相当。结果表明,WAMJET 能够为 WAM 部署生成有效的加速栈。
| 评论: | 8 页,3 幅图,项目页面:此 https URL |
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);机器人学(cs.RO) |
| 引用为: | arXiv:2610.03797 [cs.CV] |
| (或 arXiv:2610.03797v3 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.03797 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自:Lixin Liu [查看电子邮件]
[v1]
2026 年 10 月 1 日星期四 04:26:18 UTC(251 KB)
[v2]
2026 年 10 月 6 日星期二 08:03:34 UTC(251 KB)
[v3]
2026 年 10 月 7 日星期三 09:58:37 UTC(256 KB)
来源:arXiv cs.AI · arxiv.org