跳到正文
热点事件持续更新

DominoTree:条件树草稿加速推测解码

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Saw S. Lin 等作者提出 DominoTree,把 DDTree 的树状草稿与 Domino 的路径依赖因果修正结合,构建无需训练的最佳优先树,用于加速推测解码。作者在温度为零的研究测试中报告:Qwen3-4B 上自回归解码平均加速 5.33 倍,Qwen3-8B 上 6.89 倍,峰值 8.77 倍。 这一优势有边界:并发请求为 2 时仍保持领先,但从 8 个并发起被链式方法反超——尽管 DominoTree 的接受率高 28%,链式方法仍维持更高有效吞吐。在混合 Gated-DeltaNet 架构的 Qwen3.6-27B 上,要得到正确输出还需配合树感知的循环验证。

AI 根据报道生成 · 50 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv cs.CL
    DominoTree:结合 Domino 的条件树结构草稿加速投机解码

    DominoTree 将 DDTree 的树状草稿与 Domino 的路径依赖因果修正结合,构建无需训练的最佳优先树,在 Qwen3-4B 和 Qwen3-8B 上分别实现平均 5.33x 和 6.89x 的自回归解码加速,峰值达 8.77x。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。