跳到正文
热点事件持续更新

ValuSpec:目标验证前过滤候选树分支

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Liang He 等作者提出 ValuSpec,一种即插即用的候选评估机制:在目标模型进行验证之前,先从候选树中过滤掉低质量分支。该机制无需参数训练,仅用校准集上目标模型的贪心轨迹估计过滤阈值。 作者报告,在 HumanEval、GSM8K、Dolly 和 SpecBench 上,检索式树设置下端到端加速最高 2.38 倍;接入 EAGLE-3 动态树框架后最高达 2.78 倍,且未改动其树构建策略。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. arXiv cs.AI
    ValuSpec:树状投机解码在目标验证前的即插即用候选评估机制

    ValuSpec 是一种即插即用的候选评估机制,可在目标模型验证前过滤候选树中的低质量分支,无需参数训练,仅用校准集上目标模型的贪心轨迹估计过滤阈值。在 HumanEval、GSM8K、Dolly 和 SpecBench 上,检索式树设置下实现最高 2.38x 端到端加速;接入 EAGLE-3 动态树框架后最高达 2.78x,且不改动其树构建策略。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。