arXiv cs.AI· Dylan Jayabahu·· 9 天前AI 评分26
合规语境真值探针中的完美混叠：真值从未消失
The Truth Was Never Gone: Perfect Aliasing in Compliant-Context Truth Probes
AI 导读
线性探针在合规（盟友）语境下拟合时，真实比特与任务规定答案标签完全一致，形成"完美混叠"，导致探针无法区分二者。在奖励训练的 Gemma-2-9B 策略上，盟友拟合探针末层 AUROC 仅 0.006 ± 0.005，而混合拟合探针在同一留出激活上达 1.000。
正文 · AI 翻译
摘要：从语言模型激活中解码真相的线性探针已被提议用作欺骗监测器，而一个在受训欺骗的模型上得分低于随机水平的真相探针，自然会被解读为模型隐藏或不再表征真相的证据。我们表明，拟合标签的歧义性可以产生相同的读数。在一个受控游戏中，模型应向盟友报告一个秘密比特，并向对手报告其补码。在顺从（盟友）上下文中，真实比特与任务规定的答案是完全相同的标签，因此在那里拟合的探针无法分辨它测量的是两者中的哪一个。我们将这种完全一致称为完美混叠。在对手上下文中标签互为补码，因此一个在盟友上下文拟合的探针分别对两者评分时，得到的对手 AUROC 之和为一。在盟友和对手上下文上一起进行混合拟合，会使两个标签不同；随机化输出码本也将规定答案与输出字母解耦。对于一个经奖励训练的 Gemma-2-9B 策略，它在每个被评估的对手试验中都给出虚假回答，盟友拟合的探针在最终层得分为 $0.006 \pm 0.005$ AUROC（三个 RL 训练种子上的均值 $\pm$ 样本标准差），而混合拟合探针在相同的留出激活上得分为 1.000。混合拟合还使用了更多样本和带标签的对手数据，因此这表明真实比特仍可线性恢复，而不是仅靠分离标签就能解释这一增益。在经指令训练的 Llama-3.1-8B 中，一个在一个提示变体上重新拟合的探针和一个从参考变体冻结的探针，其留出盟友准确率均为 1.000，但在相同试验上的对手真相 AUROC 分别为 0.080 和 0.986。我们的主要实验使用一个在提示中说明该比特的单 token 游戏，因此恢复出的方向可能读取的是它的保留副本；在模型必须推断该比特的情况下，没有测试分支能可靠地欺骗。我们研究的是探针测量什么，而不是模型是否使用该信息。
| 评论： | 40 页，17 幅图。v2：大幅修订并更正。代码和汇总结果：此 https URL |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2609.10739 [cs.LG] |
| （或 arXiv:2609.10739v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.10739 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Dylan Jayabahu [查看电子邮件]
[v1]
2026 年 9 月 9 日星期三 18:34:28 UTC（1,103 KB）
[v2]
2026 年 10 月 8 日星期四 17:03:15 UTC（1,218 KB）
来源：arXiv cs.AI · arxiv.org