Sakana AI 与东京大学提出 SAIL:用测试时扩展提升机器人上下文模仿学习
SAIL: Scaling In-Context Imitation Learning
Sakana AI 与东京大学合作提出 SAIL,通过测试时扩展让 VLM 更可靠地生成机器人轨迹:策略 VLM 基于少量成功演示生成轨迹,在模拟器中测试并由评估 VLM 审查视频找出卡点,再用 MCTS 探索并修正候选轨迹,仅将选定轨迹下发实体机器人。在六项模拟操作任务中,搜索候选数从 1 增至 45,平均成功率从 25% 提升至 73%。该工作将在 IROS2026 展示。
介绍“Scaling In-Context Imitation Learning”(SAIL),将在 IROS2026 上展示。这项工作由 Sakana AI 与东京大学合作完成。
机器人在能够应对一项新任务之前,需要什么?
教机器人做一件新事情,通常从收集演示并训练策略开始。但基础模型已经从海量的图像、文本和机器人相关数据中学习过。我们想看看,在不改变模型本身的情况下,我们能为机器人控制提取出多少这类知识。
近期的演示表明,GPT-6 Astra 在具备通用语言和视觉能力的同时,还能操作物理机器人。早期工作也表明,LLM/VLM 可以从少量演示中生成完整的机器人动作序列。
然而,基础模型未必能在单次生成中产生可靠的机器人轨迹。性能取决于所提供的上下文,而动作目标中的一个小错误就可能导致整个任务失败。
我们提出 SAIL,一种通过测试时扩展实现更可靠的基于 VLM 的机器人轨迹生成的方法。
SAIL 使用一个策略 VLM 作为机器人轨迹生成器,以少量成功演示为条件。它在模拟器中测试生成的轨迹,并使用一个评估 VLM 来审查生成的视频并找出进展停滞的位置。随后,策略 VLM 利用这一反馈来修正轨迹,同时蒙特卡洛树搜索(MCTS)探索备选方案并优化有希望的候选方案。只有被选中的轨迹才会发送给物理机器人。
在模拟环境中的六项操作任务中,将搜索预算从一个候选增加到 45 个,使找到成功轨迹的平均成功率从 25% 提升到 73%。我们还在物理机器人上评估了 SAIL。我们的结果表明,机器人轨迹生成可以从测试时扩展中受益,额外的计算使模型能够在模拟中测试并改进其提出的动作。
我们认为,关于现有模型借助这类反馈能做到什么,以及这些改进能在多大程度上迁移到物理机器人上,还有更多值得探索。
来源:Sakana AI Blog · sakana.ai