研究提出自我指令式CoT可控性评估

Uriel Dolev、Idan Schwartz 和 Yoav Goldberg 提出 Self-Instructed CoT Controllability 评估方法，把约束作为自我指令放进模型的思维链，测量模型遵循该约束的能力。研究发现，推理模型在这种自我指令下的可控性显著高于标准用户提示约束下的表现，即使只是泛化的提醒也能大幅提升可控性。 研究还称，有效的自我指令可通过用户提示中的简单指令被引导进推理过程，从而在无法访问推理通道时仍改善控制。作者指出，在真实监控场景中，这一能力可被用于规避监控，对思维链的可监控性构成风险。

AI 根据报道生成 · 57 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。