DominoTree:条件树草稿加速推测解码
热点事件持续更新
DominoTree:条件树草稿加速推测解码
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Saw S. Lin 等作者提出 DominoTree,把 DDTree 的树状草稿与 Domino 的路径依赖因果修正结合,构建无需训练的最佳优先树,用于加速推测解码。作者在温度为零的研究测试中报告:Qwen3-4B 上自回归解码平均加速 5.33 倍,Qwen3-8B 上 6.89 倍,峰值 8.77 倍。 这一优势有边界:并发请求为 2 时仍保持领先,但从 8 个并发起被链式方法反超——尽管 DominoTree 的接受率高 28%,链式方法仍维持更高有效吞吐。在混合 Gated-DeltaNet 架构的 Qwen3.6-27B 上,要得到正确输出还需配合树感知的循环验证。
AI 根据报道生成 · 50 分钟前更新
最新进展10月19日 12:00
DominoTree:结合 Domino 的条件树结构草稿加速投机解码报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- arXiv cs.CLDominoTree:结合 Domino 的条件树结构草稿加速投机解码
DominoTree 将 DDTree 的树状草稿与 Domino 的路径依赖因果修正结合,构建无需训练的最佳优先树,在 Qwen3-4B 和 Qwen3-8B 上分别实现平均 5.33x 和 6.89x 的自回归解码加速,峰值达 8.77x。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。