arXiv cs.CL· Pan Wang, Yihao Hu, Guangyuan Dong, Yitong Lin, Hang Wang, Zimi Liu, Zhihao Wen, Jianshe Li, Jiang-Ming Yang, Wei Wu, Yongqi Tong·· 11 小时前AI 评分38
PAR：面向状态追踪长度泛化的进度对齐循环模型
PAR: Progress-Aligned Recurrence for Length Generalization in State Tracking
AI 导读
研究者提出 Progress-Aligned Recurrence（PAR），让循环模型第 k 次迭代的预测对齐前 k 步操作后的状态，并将循环状态重新缩放到首次迭代的范数。
正文 · AI 翻译
作者：Pan Wang、Yihao Hu、Guangyuan Dong、Yitong Lin、Hang Wang、Zimi Liu、Zhihao Wen、Jianshe Li、Jiang-Ming Yang、Wei Wu、Yongqi Tong
摘要：循环语言模型可以在测试时运行更多迭代，但额外的迭代未必能帮助它们解决更长的问题。对于顺序状态跟踪，最终答案监督并未规定每次迭代应推进多远，而重复更新可能改变循环状态的尺度。我们提出 \textbf{Progress-Aligned Recurrence (PAR)}，它训练第 $k$ 次迭代的预测与执行前 $k$ 次操作后的状态相匹配，并将循环状态重新缩放到其第一次迭代的范数。在 swap-$S_5$ 上，一个最多用 32 步移动训练的 Qwen2.5-0.5B 模型在 512 步移动时达到 95.5\% 的平均全状态准确率，即训练长度的 $16\times$，而同一骨干网络上 RLT 报告为 55.7\%，显式思维链为 0.8\%。受控的 $S_5$ 消融实验表明，移除范数锚定会将外推因子从 $16\times$ 降至低于 $2.2\times$，而将进度对齐目标替换为最终答案监督则会将其降至至多 $8\times$。一个学习到的完成读出器可在未提供停止深度的情况下选择何时作答。当中间标签不可用时，前缀自蒸馏仅使用最终答案从较短的问题前缀中诱导出对应关系。这些增益适用于各种顺序状态跟踪任务，确立了深度外推所需的任务结构。这些发现支持将中间预测与状态尺度一起训练，从而使额外的循环深度对更长的问题有用。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.27628 [cs.CL] |
| （或 arXiv:2610.27628v1 [cs.CL] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.27628 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Pan Wang [查看电子邮件]
[v1]
2026年10月20日星期二 04:54:06 UTC（246 KB）
来源：arXiv cs.CL · arxiv.org