跳到正文
热点事件持续更新

FlashMap 投机解码起草器发布,最高 6.14 倍无损加速

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Polymathic AI、普林斯顿大学、USC ISI、NYU 与 Flatiron Institute 的研究者发布投机解码起草器 FlashMap,用连续 flow map 替代离散扩散起草器,一次前向传播即可联合起草 16 个 token 的完整块,输出与目标模型严格一致。研究团队称其实现最高 6.14 倍无损解码加速。 Qwen3-8B 和 Qwen3-4B 的起草器权重已在 Hugging Face 发布,并提供 vLLM 与 SGLang 插件;权重采用 Apache-2.0 许可,代码采用 MIT 许可。flashmap 包仅需 torch 和 transformers>=4.56。将 num_steps 设为 2 可用部分速度换取更高的接受率。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. RadarAI
    Polymathic AI 与普林斯顿等机构发布 FlashMap,以 flow map 起草器实现最高 6.14x 无损解码加速

    Polymathic AI、普林斯顿大学、USC ISI、NYU 与 Flatiron Institute 的研究者发布投机解码起草器 FlashMap,用连续 flow map 替代离散扩散起草器,1 次 forward pass 联合起草 16 个 token 的完整块,输出与目标模型严格一致。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。