arXiv cs.CL· Zhuoyuan Hao, Zhuo Li, Wu Li, Fangming Liu, Min Zhang, Jing Li·· 10 小时前AI 评分32
研究揭示 LLM 推理中的 Echo of Prompt 机制，提出 ED-SFT 与 Echoic Prompting 方法
Echoes as Anchors: Probabilistic Costs and Attention Refocusing in LLM Reasoning
AI 导读
研究将大推理模型在思维链开头复述问题的现象命名为 Echo of Prompt（EOP），并将其形式化为拒绝采样下的概率成本。因果干预实验显示，向失败的 GSM8K 推理轨迹中重新插入 echo 可使两个推理模型的 exact match 提升 7.9-10.4 分，但对非推理基座模型无效。
正文 · AI 翻译
摘要：近期工作通过自一致性与并行思考的测试时扩展、添加通用的“思考 token”，或如重读（RE2）那样将问题呈现两次，来提升大型推理模型（LRMs）的推理能力。然而，这些方法要么注入与任务无关的 token，要么强制采用无法解释的启发式方法，并且常常忽略许多 LRMs 在其长思维链（CoT）开头表现出的自发重复。在本工作中，我们研究了模型重述问题的倾向，我们将其称为提示回声（Echo of Prompt, EOP），将其视为一种从一开始就塑造计算的机制，可以看作推理轨迹内部的提示重复，而非输入中的提示重复。我们通过将回声移除建模为拒绝采样来形式化其概率代价，并定义回声似然差距（Echo Likelihood Gap）作为可计算的代理指标，将早期重复与似然增益及下游准确率联系起来。我们发现：(1) 在因果干预中，将回声重新插入失败的 GSM8K 轨迹可使两个推理模型的精确匹配率提高 7.9-10.4 个百分点，但对非推理基础模型则不然；(2) 控制长度和后缀的似然分析表明，EOP 的收益超越了冗长程度，而逐层注意力研究表明，EOP 增加了中间层中答案 token 对答案前缀的注意力，这与注意力重新聚焦机制一致。基于这些发现，我们开发了回声蒸馏 SFT（ED-SFT），通过监督微调在推理前灌输回声，以及免训练的 Echoic Prompting（EP），在轨迹中途将模型锚定到提示上。我们在相同的解码设置和预算下，在 GSM8K、MathQA、Hendrycks-MATH、AIME24 和 MATH-500 上进行了评估，并在大多数设置中观察到相对于基线（包括插入思考 token）的增益。我们的代码已公开发布于 此 https URL。
| 评论： | ICLR 2026（海报）。自 2025-10-08 起在 OpenReview 上公开：此 https URL。代码：此 https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2602.06600 [cs.CL] |
| （或 arXiv:2602.06600v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.06600 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考： | 第十四届国际学习表征会议（ICLR 2026） |
提交历史
来自：Zhuoyuan Hao [查看邮箱]
[v1]
2026 年 2 月 6 日星期五 10:53:26 UTC（2,175 KB）
[v2]
2026 年 10 月 28 日星期三 09:40:24 UTC（2,155 KB）
[v3]
2026 年 10 月 31 日星期六 07:11:35 UTC（2,155 KB）
来源：arXiv cs.CL · arxiv.org