概念探针准确率相当，干扰敏感性可差数倍

Ayal Klein 提交的论文提出用“判别证据”评估语言模型概念探针的干扰敏感性，并指出可解码性不是可靠代理指标。研究发现，两个探针在预测隐藏状态中的概念时准确率相当，但分数中目标概念与相关干扰属性的混合程度可能相差数倍。 研究在 CEBaB、BiasBios 及亚马逊评论情感四种目标-干扰设定、两个 LLM 上对比可解码性与判别证据，其中三种设定下留出 AUROC 统计等价的提取器，其干扰敏感性相差可达数倍。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。