arXiv cs.AI· Hugh Van Deventer, Dmitrii Troitskii, Laura Ruis·· 1 天前AI 评分38
首批 Token 决定 CoT 可控性：理解思维链的可控机制
The First Few Tokens Matter: Understanding Chain-of-Thought Controllability
AI 导读
研究将 CoT 可控性受限的根源定位到思考起始标签后最初几个 token 的熵坍缩，并通过两种推理时干预恢复控制：预填充单个 token 即可显著提升可控性，禁用高频开头 token 配合上下文示例使多模型平均合规率提升 34-41 个百分点。
正文 · AI 翻译
摘要：思维链（CoT）监控是监督能力日益增强的智能体的一种有前景的方式。其部分成功的原因在于，当前模型似乎难以控制其在推理轨迹中所表达的内容。我们研究了这一局限性的来源，并将其与开头 thinking 标签之后最初几个 token 中的熵坍缩联系起来。我们利用这一机制，通过对初始 token 进行两种推理时干预来恢复 CoT 可控性：预填充（prefilling），即使单个 token 也能显著提高可控性；以及禁止高频开头 token 并结合上下文示例，这在各模型上将平均合规率提高了 34-41 个百分点。这些干预主要恢复了添加和风格可控性（添加或转换信息），而抑制可控性（避免或移除信息）则表现出更多样的响应，表明其背后机制不同。与此一致，这两组表现为独立的能力：在各模型间，这些组内的性能呈正相关，而跨组相关性大多为负。重要的是，我们发现与可监控性的关系取决于评估方式：添加和风格可控性与可监控性更一致地呈正相关，而抑制则常表现出负相关。我们的发现推动开发能够区分“难以启动特定开头”与“改变推理内容能力的一般性局限”的可控性评估，并分别报告控制任务和类别。
| 评论： | 20 页，15 张图 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.40939 [cs.AI] |
| （或 arXiv:2610.40939v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.40939 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hugh Van Deventer V [查看邮箱]
[v1]
2026 年 10 月 29 日星期四 20:14:19 UTC（4,341 KB）
来源：arXiv cs.AI · arxiv.org