跳到正文
arXiv cs.AI· Prabin Kumar Rath, Omkar Patil, Nakul Gopalan·· 9 天前AI 评分22

Keyframe Mnemonics:面向无限时域行为克隆的自监督关键帧发现方法

Self-Supervised Keyframe Discovery for Horizon-Invariant Behavior Cloning

AI 导读

研究者提出 Keyframe Mnemonics,一种自监督方法,通过从随机采样的历史观测中学习目标并用作关键帧选择奖励,发现信息关键观测(mnemonics),再训练以这些关键帧为条件的 BC 策略。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:非马尔可夫环境中的行为克隆(BC)是一个具有挑战性的问题,因为策略必须在长时程上对上下文信息进行推理。现有的策略架构依赖循环或基于注意力的机制来捕获长期依赖关系。然而,循环模型在时间反向传播下会遭受隐藏状态崩溃和梯度不稳定的问题,而基于注意力的模型则从根本上受限于上下文长度。为了解决这些问题,我们提出了关键帧助记符(Keyframe Mnemonics),这是一种新颖的自监督方法,它通过从随机采样的过去观测中学习一个目标来$\textit{发现}$一组信息关键的观测($\textit{助记符}$),并将其用作关键帧选择的奖励。然后,我们训练一个以所发现的关键帧为条件的 BC 策略来建模动作分布。在某些任务结构假设下,我们的公式提供了在无限时程上的上下文保持保证,同时在策略的工作记忆中维持一小组与决策相关的关键帧。我们在合成记忆域上评估了我们的方法,其中以助记符为条件的 BC 策略达到了 $100$% 的成功率(SR),并能泛化到比训练时长高出几个数量级的时程而性能不下降。此外,我们在记忆密集型机器人操作基准上进行了评估,在 $23$ 个任务上相比最强基线平均绝对 SR 提升了 $13.9$%,并在真实机器人上于 $20\times$ 更长的时程下保持了 $80$% 的 SR。代码和视频可在 此 https URL 获取。
评论: 已被 NeurIPS 2026 接收
主题: 人工智能(cs.AI);机器人学(cs.RO)
引用为: arXiv:2610.10857 [cs.AI]
  (或 arXiv:2610.10857v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.10857

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Prabin Kumar Rath [查看电子邮件]
[v1] 2026年10月7日星期三 20:01:27 UTC(25,647 KB)

来源:arXiv cs.AI · arxiv.org