跳到正文
arXiv cs.AI· Houman Mehrafarin, Ioannis Konstas·· 10 小时前AI 评分38

研究揭示 CoT 隐藏状态中的任务求解方向,可让模型直接作答更准更省 token

Chain-of-Thought Hidden States Reveal Task-Solving Directions for Direct Answers

AI 导读

研究者将 CoT 隐藏状态标注为“可恢复”与“失败”两类,并据此为每个问题在直接作答提示的表征空间中构造一个方向,生成前将最后一个隐藏状态朝该方向旋转一次。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:思维链(Chain-of-Thought,CoT)提示通过引导模型产生中间推理步骤来提升大型语言模型的性能。然而,CoT 远非完美:在某些任务上,模型的表现不如直接作答提示;在另一些任务上,模型需要生成数百个 token 才能得出正确答案。我们首先将每个 CoT 隐藏状态标注为“可恢复”(recovering)——即将其替换进直接提示后能得到正确答案——否则标注为“失败”(failed)。线性探针表明,模型对这两类状态的编码方式不同。随后我们证明,直接提示的表示空间中存在一个针对每个问题的方向,在短生成中引导模型得出正确答案的频率高于 CoT。具体而言,在生成之前,我们将直接提示的最后一个隐藏状态旋转一次,朝向一个由该问题自身的可恢复状态和失败状态构建的方向。在 25 个任务上,这些方向将直接提示的平均准确率从 $46\%$ 提升到 $85\%$(LLaMA 3.1 8B,CoT:$69\%$),并从 $52\%$ 提升到 $86\%$(Qwen 2.5 7B,CoT:$77\%$),而 token 用量仅为 CoT 的十分之一。因此,CoT 并非达到这一准确率的最短路径,这些方向可用于未来工作,以训练模型使其状态与这些方向对齐。
学科: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2611.24598 [cs.CL]
  (或 arXiv:2611.24598v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.24598

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Houman Mehrafarin [查看邮箱]
[v1] 2026年11月18日星期三 15:25:14 UTC(683 KB)

来源:arXiv cs.AI · arxiv.org