arXiv cs.CL· Pragna Mallappa·· 11 小时前AI 评分31
研究：token 置信度评分主要反映推理链长度，而非正确性
Is Token Confidence Just Chain Length? A Signal-Processing Audit of Reasoning Traces
AI 导读
一项针对推理语言模型的信号处理审计发现，按 token 置信度滑动窗口最低值筛选思维链，其效果主要来自链长本身——仅按长度排序即可达到同等或更好效果，控制长度后置信度分数不再包含正确性信息。研究在 500 道数学题上各采样 16 条链，使用小型开源推理模型，频谱分析显示错误链的 token 间波动更快，但信号太弱无法改善多数投票。提前停止链时，滑动平均和经典变化检测均不如直接少采样几条链。
正文 · AI 翻译
摘要：推理语言模型通过写出长思维链来解答数学问题，对每道题采样多条思维链并取多数投票可提高准确率，但生成文本的代价很大。降低这一代价的一种流行做法是，根据模型对其写出的每个 token（token 是一个词或词的一部分）的置信度对每条思维链打分。该方法在 2048 个 token 的滑动窗口上对置信度取平均，并根据最低平均值决定保留还是停止思维链。我们将逐 token 记录的置信度视为音频或无线电意义上的信号，并用频谱分析和突变检测统计检验等标准信号处理工具考察该方法。我们使用一个小型开放推理模型，从两个数学基准的 500 道题中各采样 16 条思维链。结果表明，窗口最小值分数主要衡量的是思维链的长度。仅按长度对思维链排序，效果与置信度分数相当或更好；而一旦考虑长度，该分数就不再包含关于正确性的信息。信号处理可以解释原因：对缓慢漂移的信号，较长一段的最小值仅因偶然就会更低，而置信度信号漂移得足够慢，以致这一效应占主导。频谱中确实存在长度无法解释的一小部分信号，因为错误思维链的 token 间波动更快，但它太弱，无法改进投票。对于提前停止思维链，滑动平均和经典突变检测器都不如直接少采样几条思维链这一更简单的选择。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.36709 [cs.CL] |
| （或 arXiv:2610.36709v1 [cs.CL] 为本版本） | |
| https://doi.org/10.48550/arXiv.2610.36709 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Pragna Mallappa [查看邮箱]
[v1]
2026年10月27日星期二 06:26:06 UTC（279 KB）
来源：arXiv cs.CL · arxiv.org