CoT可监控性：因果边界与干预感知后训练

Qiang Fu 等作者指出，Guan 等人提出的最小准则敏感度 TPR_mc 只是干预所致目标行为因果检出率的上界，会高估监控器实际检出率；他们据此推导出互补下界，形成更紧的思维链可监控性评估框架。 作者构建了覆盖多种干预类型的对照—干预配对训练数据集，并基于 off-policy 自蒸馏、强化学习和 on-policy 自蒸馏设计三种干预专用训练方法。作者称，在多种模型—监控器配置下，这些方法普遍提升了 CoT 可监控性，代码已公开。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。