TeCoP:免训练解码器加速扩散大模型解码
热点事件持续更新
TeCoP:免训练解码器加速扩散大模型解码
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Jui-Chien Tsou 等作者提出免训练解码器 TeCoP,用于加速扩散大语言模型(dLLM)的解码。它通过交错块并行流水线与草稿-验证机制,把稳定但尚未提交的预测复用为临时的跨块上下文。 作者在 LLaDA、Dream 等四个 dLLM 上测试 GSM8K、Minerva MATH 和 MBPP,称前向评估次数最多减少 87%,无 KV 缓存时吞吐量最高提升 7.50 倍,有缓存时最高提升 11.77 倍。这些数字均为作者报告的结果。
AI 根据报道生成 · 45 分钟前更新
最新进展10月21日 12:00
TeCoP:通过试探性上下文流水线加速扩散大语言模型解码报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- arXiv cs.CLTeCoP:通过试探性上下文流水线加速扩散大语言模型解码
TeCoP 是一种免训练解码器,通过交错块并行流水线与草稿-验证机制,将稳定但未提交的预测复用为临时跨块上下文。在 LLaDA 和 Dream 等四个 dLLM 上测试 GSM8K、Minerva MATH 和 MBPP,前向评估次数最多减少 87%,无 KV 缓存时吞吐量提升最高 7.50 倍、有缓存时达 11.77 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。