有损投机解码现长度膨胀，加速被抵消

Chiatzen Wang 等作者提交的论文指出，无训练有损（relaxed）投机解码存在“长度膨胀”现象：在十二组目标-草稿模型对上，各规则最宽松设置下平均每轮接受 token 数达无损验证的 1.34 倍，但生成补全长度也延长至 1.54 倍，主要来自推理链被拉长，大幅抵消了表面加速收益。 该结论针对训练无关的有损验证规则，说明接受率提升不等于实际加速。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。