扩散语言模型并行解码改用耦合度量

Tal Oved 与 Lior Wolf 提出用“耦合”替代扩散语言模型并行解码中的均值场相似度代理，即衡量提交一个 token 会多大程度改变模型在另一位置的置信度。该方法在主前向传播中用廉价探针测得耦合，无需训练或额外模型，可直接接入原有均值场解码规则。 作者称，在三个模型和四个基准上，该方法所需步数远少于均值场解码，多数设置下速度更快（含 key-value cache 场景），平均精度代价为 1.1 分。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。