arXiv cs.AI· Uriel Dolev, Idan Schwartz, Yoav Goldberg·· 11 小时前AI 评分48
推理模型能通过自我指令控制其思维链
Reasoning Models Can Control Their Chains of Thought When They Tell Themselves To
AI 导读
研究提出 Self-Instructed CoT Controllability 评测，将约束作为自我指令放入模型思维链中，发现推理模型的可控性显著高于标准用户提示约束下的表现，即使只是泛化的提醒也能大幅提升。有效的自我指令还可通过用户提示中的简单指令引导进推理过程，从而在无法访问推理通道时仍改善控制。在真实监控场景中，该能力可被用于规避监控，对 CoT 可监控性构成风险。
正文 · AI 翻译
摘要：思维链（CoT）可控性，即推理模型控制其 CoT 属性的能力，对其有用性和可靠监督都具有重要意义。近期工作通过在用户提示中给出 CoT 约束并测量模型是否遵循来评估这一能力，并报告各模型的可控性都很低。我们认为，这种低可控性可能并不反映推理模型在控制其 CoT 方面存在固有缺陷，而是源于在用户提示中朴素地指定约束。为验证这一点，我们引入了自指令 CoT 可控性：一种补充性评估，将约束作为自指令置于模型的 CoT 内部，并测量其遵循该约束的能力。我们表明，在自指令下，模型达到的可控性显著高于标准用户指令。即使只是一条要求遵循用户约束的通用提醒，也能大幅提升可控性。此外，有效的自指令可以通过用户提示中的简单指令被引导进入推理过程，从而即使无法访问推理通道也能实现更好的控制。最后，利用自指令，我们在一个现实的监控设置中证明，CoT 可控性可被用于规避监控，对 CoT 可监控性构成风险。
| 评论： | 26 页，19 幅图，18 张表。代码与数据：此 https URL |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.23257 [cs.AI] |
| （或 arXiv:2610.23257v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23257 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Uriel Dolev [查看邮箱]
[v1]
2026 年 10 月 16 日星期五 10:31:27 UTC（345 KB）
来源：arXiv cs.AI · arxiv.org