如何更省成本地解码 Looped Transformers

研究提出 LoopCD，一种免训练的对比解码框架，通过将最终预测与更早的循环轮次输出对比来引导 token 选择，从而更充分地利用 Looped Transformers 的中间表示。由于早期循环计算量更小，这种循环结构天然提供了对齐的弱-强预测对，无需辅助模型或额外训练。