QES：通过专家隔离与关停实现 LLM 后门遏制

查看 PDF HTML（实验性）

摘要：被植入后门的大型语言模型（LLM）在良性输入上表现正常，但在隐藏触发条件下会产生攻击者指定的输出。现有防御方法涵盖四个阶段——训练前、训练中、训练后和推理时——并共享两种底层策略之一：要么抑制后门学习（通过过滤投毒数据或在优化过程中中断其获取），要么先学习再净化（在完全形成后门模型后，通过修复模型权重或对输入进行门控）。我们提出第三种策略：学习，但引导——允许训练期间形成后门，但将其引导至一个指定的、隔离的组件中，该组件可在部署时禁用。为此，我们提出隔离专家关闭 QES，一种在正则化引导的类 MoE 设置中构建的计算高效的遏制策略。具体而言，给定一个投毒数据集，QES 通过路由专家特定的 LoRA 分支和轻量级路由器增强基于 Transformer 的语言模型，并使用辅助路由目标将触发条件行为吸引到指定专家，同时在其他地方保留良性能力。在部署时，缓解简化为一个单一的常数时间操作：将隔离专家的路由权重置零，无需触发筛查或进一步更新模型权重。在实证上，我们的方法在两个任务、三种攻击和四个模型家族的大多数设置中，将攻击成功率（ASR）从 100% 降低到 0-10%，同时下游效用通常得以保留或仅受到适度影响。这些结果确立了“学习，但引导”作为生成式 LLM 中后门遏制的一个此前未被探索的范式。

提交历史

来自：Jung-Eun Kim [查看电子邮件]
[v1] 2026年9月30日星期三 20:02:14 UTC（61 KB）
[v2] 2026年11月4日星期三 20:20:58 UTC（59 KB）