跳到正文
热点事件持续更新

STDec:免训练加速扩散语言模型解码

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Yuzhe Chen 等研究者提出免训练的时空稳定性引导解码方法 STDec,用于扩散语言模型(dLLM)。该方法聚合邻近 token 的解码状态,动态生成 token 自适应阈值,并对去噪步骤中预测 ID 保持一致的 token 放宽阈值。 在文本推理与多模态理解基准上,STDec 在生成分数相当的情况下提升推理吞吐;在 MBPP 上配合 LLaDA 最高实现 14.17 倍加速,且兼容基于缓存的加速方法。

AI 根据报道生成 · 52 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.CL
    STDec:面向 dLLM 的时空稳定性引导解码方法

    研究者提出免训练的时空稳定性引导解码方法 STDec,通过聚合邻近 token 的解码状态动态生成 token 自适应阈值,并对去噪步骤中预测 ID 保持一致的 token 放宽阈值。在文本推理与多模态理解基准上,STDec 在生成分数相当的情况下提升推理吞吐,在 MBPP 上配合 LLaDA 最高实现 14.17 倍加速,且兼容基于缓存的加速方法。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。