arXiv cs.CL· Maciej Chrabaszcz, Aleksander Szymczyk, Marcin Sendera, Tomasz Trzcinski, Sebastian Cygert·· 10 小时前AI 评分35
监测内部独白：探针轨迹揭示大型推理模型的推理动态
Monitoring the Internal Monologue: Probe Trajectories Reveal Reasoning Dynamics
AI 导读
研究通过逐 token 评估探针构建"探针轨迹"，用信号处理特征刻画概念概率在推理过程中的波动、趋势与稳态，在静态探针最弱处平均提升 21.7 AUROC，且静态探针低于 70 的案例全部改善。
正文 · AI 翻译
摘要：大型推理模型（LRMs）通过其思维链（CoT）推理为安全监控带来了新的机会。然而，CoT 并不总是忠实于模型的最终输出，这削弱了其作为监控工具的可靠性。为解决这一问题，我们研究了 LRMs 的隐藏表示，以确定能否从提示和 CoT 表示中预测未来行为。通过在生成的每个 token 上评估探针，我们构建了探针轨迹，即某一概念的概率在推理过程中的连续演变。为刻画这些时间动态，我们提取了捕捉波动性、趋势和稳态行为的信号处理特征。我们发现，轨迹特征恰好在静态探针最薄弱之处发挥作用，平均增加 21.7 个 AUROC 点，并在该探针低于 70 的每一种情况下均有改善。我们还提出两点方法学见解。第一，基于模板的训练数据与动态生成的模型响应几乎持平，从而无需进行昂贵的初始推理和标注。第二，使用池化操作是必要的：最后 token 方法表现不佳，而平均池化和最大池化达到 78.5% 至 97.4% 的 AUROC，并产生稳定的探针轨迹。在来自三个模型家族的七个推理模型和六个评估数据集上，我们发现探针轨迹是监控模型行为的一种有前景的信号。
警告：本文包含可能有害的内容。
| 主题： | 计算与语言（cs.CL）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2605.18549 [cs.CL] |
| （或 arXiv:2605.18549v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.18549 由 DataCite 颁发 arXiv DOI |
提交历史
来自：Maciej Chrabaszcz [查看电子邮件]
[v1]
2026年5月18日星期一 15:29:04 UTC（4,382 KB）
[v2]
2026年11月2日星期一 08:55:39 UTC（5,809 KB）
来源：arXiv cs.CL · arxiv.org