arXiv cs.AI· Yilin Wu, Rutav Shah, Shuaiyi Huang, Sumedh A. Sontakke, Homanga Bharadhwaj, Andrea Bajcsy, Max Simchowitz, Guanya Shi·· 3 天前AI 评分34
IMPRINT:无需筛选的多流潜在记忆,为机器人策略增强 VLA 模型
Memory Without Curation: Learning Multi-Stream Latent Memory for Robot Policies
AI 导读
研究者提出 IMPRINT,一种策略无关的潜在记忆框架,为 VLA 模型加入多流记忆而不显式约束策略该记住什么。它把不同信息流压缩为推理时增量更新的潜在记忆,并采用两阶段训练:先监督记忆重建观测、动作、本体感受等过去信息并估计任务进度,再与策略联合端到端微调。在仿真和真实记忆任务上,IMPRINT 平均成功率比基础 VLA 至少提升 26%,推理延迟在记忆增强 VLA 中最低。
正文 · AI 翻译
摘要:人们普遍认识到,机器人策略需要长期记忆才能执行复杂任务。然而,直接让策略以所有过去的观测为条件,会使策略学习容易学到虚假的捷径,并在策略部署时引入较大的延迟。因此,当今的记忆增强策略会精心筛选要记住的内容,要么只保留最近的帧、选定的关键帧或文本摘要,要么仅学习视觉流的潜在表示。在这项工作中,我们提出了一种替代方法 IMPRINT,这是一种与策略无关的潜在记忆框架,它为视觉-语言-动作(VLA)模型增强多流记忆,而不显式约束策略应该记住什么。IMPRINT 将不同的流压缩为潜在记忆,并在推理时增量更新,从而实现低延迟。为避免捷径学习,IMPRINT 采用两阶段训练流程:首先监督记忆以重建过去信息的多条流(观测、动作、本体感觉),并估计当前任务进度,然后与策略联合进行端到端微调,用于动作预测。在需要记忆的仿真和真实世界任务中,IMPRINT 将基础 VLA 的平均成功率至少提升 26%,优于流行的替代方案,并在记忆增强的 VLA 中保持最低的推理延迟。通过细致的消融实验,我们证明了将多样化的信息流纳入机器人记忆的效用,验证了放弃历史筛选的优势。项目网站:this https URL。
| 学科: | 机器人学(cs.RO);人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2610.14406 [cs.RO] |
| (或 arXiv:2610.14406v1 [cs.RO] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.14406 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Yilin Wu [查看电子邮件]
[v1]
2026年10月9日星期五 23:58:57 UTC(34,563 KB)
来源:arXiv cs.AI · arxiv.org