arXiv cs.AI· Changchuan Yang, Haoxuan Xu, Wenbo Chen, Shuai Ren, Jianlong Zheng, Huarui Zhang, Tianfu Li, Guanzhong Tian·· 9 天前AI 评分22
PMTRM:面向具身策略学习的伪记忆时间重编码模块
PMTRM: Pseudo-Memory Temporal Re-encoding Module for Embodied Policy Learning
AI 导读
研究者提出伪记忆时间重编码模块 PMTRM,仅 7.61M 参数,可将已执行状态与动作的有界历史编码为隐序列,供现有策略使用,以缓解机器人操作中局部观测相似但阶段动作不同的相位歧义。该模块通过时间异质性目标惩罚序列远距离位置的正相似度,并用锚点与重建损失保留动作预测所需信息,重建解码器仅用于训练。在仿真与真实机器人上搭配多种策略骨干实验,相位歧义任务成功率提升且额外计算开销很小。
正文 · AI 翻译
摘要:机器人操作通常包含重复动作,其局部观测在不同阶段看起来相似。当这些阶段需要不同的动作时,主要依赖当前观测的策略可能会重复已完成的动作或在错误的时机切换阶段。为解决这种阶段歧义,我们提出了伪记忆时间重编码模块(PMTRM),这是一个轻量级即插即用模块,仅有 7.61M 参数,可将已执行状态和动作的有界历史编码为潜在序列,供现有策略使用。为帮助区分阶段,时间异质性目标会惩罚该序列中相距较远位置之间的正相似性,而锚点和重建损失则保留动作预测所需的信息。重建解码器仅在训练时使用,推理时由时间重编码器向策略提供历史信息。我们在合成序列和机器人数据上逐步训练该模块,然后与策略联合训练,并使用时间掩码以适应部分历史。这种集成保留了原始动作头和动作空间,并在原始策略损失上增加了辅助损失。在仿真和真实机器人上使用多种策略骨干进行的实验表明,在具有阶段歧义的任务上任务成功率得到提升,且额外计算量很小。
| 主题: | 机器人学(cs.RO);人工智能(cs.AI) |
| 引用为: | arXiv:2610.11168 [cs.RO] |
| (或使用 arXiv:2610.11168v1 [cs.RO] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2610.11168 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Changchuan Yang [查看邮箱]
[v1]
2026年10月8日星期四 03:25:12 UTC(1,539 KB)
来源:arXiv cs.AI · arxiv.org