arXiv cs.CL· Kazuki Iwahana, Masaru Matsubayashi, Takuma Koyama, Toshiki Shibahara, Kenichiro Ominato, Akira Ito·· 14 小时前AI 评分31
用“假后门”当防御：通过共享内部机制移除生成式 LLM 的未知后门
Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
AI 导读
研究者提出一种基于不同后门共享内部机制的未知后门移除方法：先故意植入一个触发器已知的 dummy backdoor，再用 dummy 触发输入配干净回答做微调将其移除，从而连带削弱未知后门。在三种后门攻击类型和多个模型族上，该方法显著降低未知后门的攻击成功率并保持模型效用，在移除效果与效用保持上均优于代表性现有防御方法。该工作已被 EMNLP 2026（Findings）接收，源代码已公开。
正文 · AI 翻译
摘要：后门攻击对大语言模型（LLM）的安全性和可靠性构成严重威胁，因为它们会使模型在干净输入上表现正常，而在存在隐藏触发器时产生攻击者指定的响应。当防御者不知道攻击类型或后门训练期间形成的内部机制时，移除此类未知后门尤其具有挑战性。在这项工作中，我们提出了一种简单但有效的后门移除方法，该方法基于不同后门之间共享的内部机制。首先，我们表明，具有相同任务（攻击目标）的不同后门会在其内部激活中诱发相似的触发器激活变化。受此观察启发，我们提出的方法有意嵌入一个带有已知触发器的虚拟后门，然后通过在配以干净响应的虚拟触发输入上进行进一步微调来移除它。由于虚拟后门和未知后门表现出相似的激活变化，这一移除过程也可以减弱未知后门的影响。我们在多个模型系列上针对三种后门攻击类型评估了我们的方法。实验结果表明，我们的方法在保持模型效用的同时，大幅降低了未知后门的攻击成功率，在后门移除有效性和效用保持方面均优于具有代表性的现有防御方法。这些发现表明，防御者可控制的后门可以作为缓解生成式 LLM 中未知后门的有用代理。我们的源代码可在 此 https URL 获取。
| 评论： | 已被 EMNLP 2026（Findings）接收 |
| 主题： | 密码学与安全（cs.CR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2606.11648 [cs.CR] |
| （或此版本的 arXiv:2606.11648v2 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2606.11648 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Kazuki Iwahana [查看电子邮件]
[v1]
2026年6月10日星期三 04:26:57 UTC（376 KB）
[v2]
2026年10月24日星期六 15:14:36 UTC（397 KB）
来源：arXiv cs.CL · arxiv.org