跳到正文
arXiv cs.AI· Ye Li, Jiahe Feng, Yuan Meng, Kangye Ji, Chen Tang, Jiajun Fan, Xinwan Wen, Jiawei Li, Wenwu Zhu, Shu-Tao Xia, Xin Wang, Zhi Wang·· 2 天前AI 评分34

TS-DP:面向时序自适应扩散策略加速的强化投机解码框架

TS-DP: Reinforcement Speculative Decoding For Temporal Adaptive Diffusion Policy Acceleration

AI 导读

研究团队提出 TS-DP,首个将投机解码用于 Diffusion Policy 的框架,通过蒸馏 Transformer drafter 替代高成本去噪调用,并用 RL 调度器按时序任务难度动态调整投机参数。仿真中实现最高 4.17x NFE 降低、3.2x 实际耗时加速,草稿接受率超 85%;真实实验 NFE 降低 3.8x,传送带任务成功率提升 23%,推理频率达 26 Hz。代码已开源。

正文 · AI 翻译

作者:Ye Li、Jiahe Feng、Yuan Meng、Kangye Ji、Chen Tang、Jiajun Fan、Xinwan Wen、Jiawei Li、Wenwu Zhu、Shu-Tao Xia、Xin Wang、Zhi Wang

查看 PDF HTML(实验性)

摘要:Diffusion Policy(DP)在具身控制中表现出色,但由于需要多次迭代去噪步骤,其推理延迟和计算成本较高。现有的扩散模型(DM)加速方法通过降低计算开销来提升推理速度,因为用于图像生成的 DM 是计算受限的。在本工作中,我们揭示 DP 是 I/O 受限的,并因此首次提出使用推测解码这一并行计算框架来加速 DP。然而,解决以下挑战并非易事:(1)在具身环境中任务难度随时间变化的情况下,如何在降低计算成本的同时保持基础模型的去噪质量;(2)在此类环境中如何根据任务难度动态分配计算。因此,我们提出 Temporal-aware Reinforcement-based Speculative Diffusion Policy(TS-DP),这是首个为 DP 实现具有时间自适应性的推测解码的框架。首先,为处理任务难度随时间变化的动态环境,我们蒸馏一个基于 Transformer 的草稿模型来模仿基础模型,并替代其昂贵的去噪调用。其次,基于 RL 的调度器通过调整推测参数进一步适应随时间变化的任务难度,在保持准确性的同时提升效率。大量实验表明,TS-DP 在仿真中实现了最高 4.17 倍的 NFE 降低和 3.2 倍的挂钟时间加速,草稿接受率超过 85%。真实世界实验进一步证明,NFE 降低 3.8 倍,同时提升了实时任务的成功率(例如在传送带任务上提升 23%),达到 26 Hz 的推理频率,并在保持相当任务性能的同时实现实时控制。代码可在 this https URL 获取。
学科: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2512.15773 [cs.LG]
  (或 arXiv:2512.15773v2 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2512.15773

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Ye Li [查看邮箱]
[v1] 2025年12月13日 星期六 07:53:14 UTC(8,742 KB)
[v2] 2026年10月27日 星期二 02:37:43 UTC(28,808 KB)

来源:arXiv cs.AI · arxiv.org