arXiv cs.CL· Kevin Yandoka Denamgana\"i·· 11 小时前AI 评分37
自然语言自编码器（NLA）的可监控性研究：识别与判别之别
On the Monitorability of Natural Language Autoencoders: Identification vs Discrimination
AI 导读
研究将自然语言自编码器（NLA）的训练与监控部署形式化为两种不同的指称博弈，指出训练从不要求解释排除错误选项，因此 Activation Verbaliser（AV）的解释只能识别所描述的激活，却难以判别真伪。
正文 · AI 翻译
摘要：自然语言自编码器（NLA）被提出作为语言模型的监督工具：激活言语化器（AV）为激活向量撰写英文解释，激活重构器（AR）将解释映射回向量。其监督价值取决于人类监督者能否根据 AV 的解释，区分对激活的真实描述与虚假描述。我们将 NLA 训练与 NLA 监督部署形式化为涌现通信中的两种不同的指称游戏：训练是生成式指称游戏，而监督是在被监督语言模型的激活与其真实描述之间的多对多关系上进行的判别式、多模态、部分可观测的指称游戏。两种游戏之间的差距预测：AV 的解释将能识别其描述的是哪个激活，却无法区分真实描述与高度匹配的虚假描述，因为训练从未要求解释排除任何东西。我们使用 NLA 自身的 AR 作为最大同情的替代监督模型，在一个已发布的检查点上实验证实了这一理论洞见：在全部 320 次比较中，真实描述均胜过其他激活的描述，但仅以 60.2% 的概率胜过仅在单一主张上不同的流畅对手（标准误 6.7%，随机概率为 50%，$n = 35$）。由无关模型进行的保义重写仅消耗到另一激活描述距离的 2.1%，因此该失败并非由于 NLA 对在 AV 的解释中形成了私有约定。我们的对手描述仅测试转录层面的真相，这由被监督语言模型的对话所确定，因此这些结果界定了最简单的情形，而关于被监督模型自身处理过程的论断仍未得到检验。我们陈述了若干猜想，使这两项结果都成为该框架的推论。
| 评论： | 进行中的工作，公开草稿 |
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.18727 [cs.LG] |
| （或 arXiv:2610.18727v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18727 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Kevin Denamganaï [查看邮箱]
[v1]
2026年10月13日星期二 17:05:28 UTC（1,505 KB）
[v2]
2026年10月20日星期二 17:52:33 UTC（1,503 KB）
来源：arXiv cs.CL · arxiv.org