安全场景的 On-Policy Distillation 是否存在后门风险？

研究发现，安全对齐但被植入后门的教师模型可通过 On-Policy Distillation（OPD）把隐藏的恶意行为传给原本干净的学生模型。在该威胁模型下，仅 3% 的投毒率即可造成明显影响，而现有 OPD 安全方法通常默认教师与训练数据可信。