研究提出干预训练减少模型内省因果绕行
热点事件持续更新
研究提出干预训练减少模型内省因果绕行
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
Zilu Tang 等作者训练数百个内省器后发现，直接用监督微调（SFT）训练语言模型做上下文内省，会产生“因果绕行”：模型的自我报告依赖与报告对象相关、但并无因果关系的信号。 为此，作者提出干预式训练，让模型报告反事实扰动后的值。研究称，该方法能让模型更准确地内省内源信号和注入信号，在分布外数据上尤为明显；该机制可跨 token 位置泛化，并随数据量扩展。 作者据此认为，因果扎根的内省虽可实现但并非必然，需要训练机制而非仅训练行为。上述效果均为该研究在三种低层信号类型和八个语言模型上的实验结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月31日 12:00
干预式训练减少语言模型上下文内省中的因果绕行报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- arXiv cs.AI干预式训练减少语言模型上下文内省中的因果绕行
研究在三种低层信号类型和八个语言模型上训练数百个内省器，发现直接 SFT 训练会导致“因果绕行”，即自我报告依赖与报告对象相关但无因果关系的信号。为此提出干预式训练，让模型报告反事实扰动后的值，从而更准确地内省内源信号和注入信号，在 OOD 数据上尤为明显。该机制可跨 token 位置泛化，并随数据量扩展，表明因果扎根的内省虽可实现但并非必然，需训练机制而非仅训练行为。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 810月31日 22:00
- 近 24 小时变化
- –
02468
22:0023:0011月1日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。