arXiv cs.AI· Uwe K\"onig, Hamza Kazmi, Ruizhe Li, Maheep Chaudhary·· 1 天前AI 评分31
语言模型蒸馏中的潜意识行为迁移比例量化研究
Quantifying Subliminal Behavioral Transfer Ratios in Language Model Distillation
AI 导读
研究量化了语言模型蒸馏中的潜意识行为迁移比例：对 Llama-2-7B-Chat 和 Qwen2.5-7B-Instruct 两个教师模型施加不同强度的引导后，仅用良性数据蒸馏学生模型，迁移依然稳健。
正文 · AI 翻译
摘要：将一个语言模型蒸馏，以将良性行为迁移到学生模型，如果教师模型中存在不良特征，也可能迁移这些特征，这一现象被称为潜意识学习。虽然定性证据支持这一效应的存在，但其幅度尚未被系统地表征。本研究通过在不同引导强度下引导两个教师模型（Llama-2-7B-Chat 和 Qwen2.5-7B-Instruct），并仅使用良性数据蒸馏学生模型，量化了潜意识行为迁移比率。使用 GPT-4.1 作为评估器对 100 个 JailbreakBench 提示进行评估，结果表明迁移是稳健的，但表现出不同的缩放行为。Llama-2 表现出急剧的阈值（$\tau = {0.25,0.32} \ \text{beyond} \ \alpha = -0.15$），而 Qwen2.5 表现出连续且更高水平的迁移（$\tau$ 高达 $0.61$）。
| 评论： | 被 ICML 2026 的机制可解释性研讨会接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2606.11270 [cs.LG] |
| （或 arXiv:2606.11270v3 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.11270 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Uwe König [查看电子邮件]
[v1]
2026年6月9日星期二 06:52:49 UTC（405 KB）
[v2]
2026年6月26日星期五 21:36:00 UTC（405 KB）
[v3]
2026年11月11日星期三 15:36:52 UTC（405 KB）
来源：arXiv cs.AI · arxiv.org