跳到正文
热点事件持续更新

研究者提出MFD多未来草稿方法改进推测解码

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Haoyu Huang等作者提出多未来草稿方法MFD,用于改进树验证下的投机解码。他们称,块草稿器在树验证下因乘积排序产生“嵌合前缀”、浪费接受预算;MFD用K个学习到的模式嵌入在同一次前向中草拟K个连贯块,并以混合DDTree让验证器无损选择目标模型实际走的那条未来。目前该工作以预印本形式发布,尚未见独立复现或同行评审验证其效果。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI
    Multi-Future Drafting(MFD):用混合块草稿器改进树验证投机解码

    针对块草稿器在树验证下因乘积排序产生"嵌合前缀"、浪费接受预算的问题,研究者提出 Multi-Future Drafting(MFD),用 K 个学习到的模式嵌入在同一次前向中草拟 K 个连贯块,并以混合 DDTree 让验证器无损选择目标模型实际走的那条未来。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。