arXiv cs.CL· Md Rayhanul Masud, Mst Suraiya Akter Shefa·· 10 小时前AI 评分39
量化会重塑潜意识习得的偏好：Qwen2.5-7B-Instruct 审计精度需与部署一致
Audit at the Precision You Deploy: Quantization Reshapes a Subliminally Learned Preference
AI 导读
研究向 Qwen2.5-7B-Instruct 植入“最喜欢的动物是熊猫”的潜意识偏好后发现，8-bit 量化下行为稳定，4-bit 量化却因量化器不同而剧烈分化：HQQ 将熊猫答案概率从 16-bit 的约 55% 提升到 64%，净强度约为 16-bit 的 1.3 倍；NF4 则将其压低到约 0.3 倍，尽管两者舍入误差幅度相差不超过 4%。
正文 · AI 翻译
摘要：潜意识学习允许 AI 模型从看似无关的训练数据（例如数字序列）中继承隐藏偏好。安全审计可能以标准 16 位精度评估模型，而部署时可能使用压缩的量化权重。我们探究量化是否会改变潜意识偏好的表达，以及是什么驱动了由此产生的任何变化。为进行调查，我们向 Qwen2.5-7B-Instruct 植入“最喜欢的动物：熊猫”偏好。我们将其净强度定义为：在相同量化设置下，潜意识模型与中性训练对照模型之间熊猫答案平均概率的差值。在不同压缩级别上应用该指标，揭示出鲜明对比。行为在 8 位下保持稳定，而 4 位量化会因量化器不同而触发严重的相反方向变化。半二次量化（HQQ）放大了该偏好，将潜意识训练模型的熊猫概率从 16 位下约 55% 提升至 4 位下 64%，而对照模型保持在约 17%。这使该特征的净强度升至其 16 位值的约 1.3 倍。相比之下，4 位下的 NormalFloat（NF4）抑制了该偏好，将净强度缩小至仅约其 16 位值的 0.3 倍，尽管产生的舍入误差大小相同（差异在 4% 以内）。我们检查了舍入误差的结构，发现其排列方式驱动了这种分化。在每个量化组内随机打乱 HQQ 的误差而不改变其幅度，会使该特征的净强度在 0.2 到 1.6 倍于其 16 位值之间变动。尽管存在这些相反方向的变化，底层的微调信号在很大程度上仍然完整。由于模型内部状态与外部行为在压缩下如此不可预测地分化，16 位审计无法可靠地界定现实世界风险。安全评估必须测试实际用于部署的精确量化权重。
| 学科： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.00665 [cs.CL] |
| （或 arXiv:2611.00665v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.00665 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Md Rayhanul Masud [查看电子邮件]
[v1]
2026 年 10 月 31 日星期六 06:02:04 UTC（297 KB）
来源：arXiv cs.CL · arxiv.org