研究：NLA 解释能识别激活却难辨真伪

Kevin Yandoka Denamganaï 发表论文，将自然语言自编码器（NLA）的训练与监控部署形式化为两种不同的指称博弈：训练是生成式指称博弈，监控则是判别式、多模态、部分可观测的指称博弈，发生在被监控语言模型激活与其真实描述之间的多对多关系上。 论文据此指出，训练从不要求解释排除错误选项，因此 Activation Verbaliser（AV）的解释只能识别所描述的激活，却难以判别真伪。这一区分把 NLA 的可监控性问题定位在训练目标与监控任务之间的落差上。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。