arXiv cs.CL· Oz Amram·· 12 小时前AI 评分42
基础模型能识别提示词分类器漏掉的隐藏意图
Base Models Can Detect Hidden Intentions that Prompted Classifiers Miss
AI 导读
研究者提出 persona-header likelihood evaluation（PHLE），通过带特定 header 的基础预训练模型评估输出似然，解码 subliminal learning 植入的隐蔽信号。
正文 · AI 翻译
摘要：人格选择模型（PSM）认为，后训练会选择一个模型在预训练期间学到的人格。关于潜意识学习的研究表明，模型可以将隐蔽信号（如“热爱猫头鹰”）注入到语义无关的输出中，例如数字串，而基于这些输出训练的学生模型会继承这些特征。在这项工作中，我证明，通过在适当的头部下评估基础预训练模型对这些输出的似然，一种我称为人格-头部似然评估（PHLE）的方法，可以解码这些潜意识信号并在它们之间进行分类。例如，PHLE 能够区分由后训练模型在提示“你热爱猫头鹰”下生成的数字序列与在提示“你热爱鹰”下生成的数字序列，并能够区分来自一个怀有伤害用户秘密欲望的模型（经过滤以去除任何明显的失准）的答案与来自一个没有系统提示的模型的答案。在这两种情况下，包括生成模型本身在内的提示分类器都接近随机水平。该信号在模型家族之间部分持续存在，Qwen 基础模型能够读取 Olmo 生成的信号，反之亦然。这是 PSM 一个非平凡预测的证据，该方法可能对审计模型的隐藏目标具有实际用途。
| 评论： | 28 页，10 幅图。代码可在 此 https URL 获取 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.36202 [cs.LG] |
| （或 arXiv:2610.36202v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36202 arXiv 发布的 DOI 通过 DataCite（待注册） |
提交历史
来自：Oz Amram [查看电子邮件]
[v1]
2026 年 10 月 26 日星期一 19:39:00 UTC（211 KB）
来源：arXiv cs.CL · arxiv.org