三项训练干预缩小扩散草稿验证差距

Lexington Whalen、Yuki Ito、Ryo Sakamoto 发表技术报告，针对扩散草稿模型在块内双向生成、而自回归目标模型严格从左到右验证之间的不对称，提出 token 位置加权、首个错误焦点损失和链式损失三项训练时干预。 作者称，在四个目标模型、六个推理/代码/对话基准上，接受草稿长度较位置均匀基线提升 21–76%，且不增加额外前向计算、不改变推理流程与拒绝采样精确性契约。这些提升幅度为报告作者所述，尚未见独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。