哈佛MIT论文：推理模型思维链难控源于“Okay”开头习惯
哈佛与MIT论文发现，推理模型对思维链控制不佳，部分源于习惯以“Okay”开头。Qwen3-32B和OLMo-3.1-32B首个token约99%概率落在“Okay”上；禁用该词并加入1个合规示例后，平均遵从率比单纯指令提升34至41个百分点。隐藏信息类任务（如避免某词）响应不一致，在12个模型中似属独立能力。
Rohan Paul· @rohanpaul_ai · X·2026-11-04 03:43· 52 分钟前AI 评分49
AI 导读
哈佛与MIT论文发现，推理模型对思维链控制不佳部分源于习惯以“Okay”开头。Qwen3-32B和OLMo-3.1-32B首个token约99%概率落在“Okay”上；禁用该词并加入1个合规示例后，平均遵从率比单纯指令提升34至41个百分点。隐藏信息类任务（如避免某词）响应不一致，在12个模型中似属独立能力。
正文 · 原文
哈佛与MIT的一篇新论文发现，推理模型对其思维链控制不佳，部分原因在于它们习惯以“Okay”开头。
安全团队会阅读模型的推理过程以发现不当行为，而显示模型无法操控该推理过程的基准测试结果一直令人安心。模型为何在这方面失败此前尚不清楚。
作者要求Qwen3-32B等模型用大写字母推理或为每句话编号。Qwen3-32B和OLMo-3.1-32B将约99%的首个token概率放在“Okay”上，因此作者尝试禁用该词或预填1个合规token。
禁用“Okay”和“Alright”并加入1个有效示例后，平均遵从率比仅给出指令提升了34至41个百分点。隐藏信息的任务（如避免某个词）响应较不一致，在12个模型中看起来像是一项独立能力。
如果你因为可控性评分而信任思维链监控，请将开头词问题与一般控制区分开来，并单独报告隐藏类任务。
来源：Rohan Paul · x.com
来源：RadarAI · aihot.news