arXiv cs.CL· Man Hu, Yahui Ding, Yatao Yang, Liangyu Chen, Yanhao Jia, Shuai Zhao·· 11 小时前AI 评分31
DUP：检测引导的遗忘学习，用于语言模型后门净化
DUP: Detection-guided Unlearning for Backdoor Purification in Language Models
AI 导读
研究者提出 DUP（Detection-guided Unlearning for Purification），一个将后门检测与基于遗忘的净化整合在一起的统一框架。
正文 · AI 翻译
摘要：随着后门攻击变得更加隐蔽和鲁棒，它们暴露出当前防御策略的关键弱点：检测方法往往依赖粗粒度的特征统计，而净化方法通常需要完整重训练或额外的干净模型。为应对这些挑战，我们提出 DUP（Detection-guided Unlearning for Purification，检测引导的遗忘净化），一个将后门检测与基于遗忘的净化相统一的框架。该检测器通过联合利用类别无关距离和层间过渡来捕捉特征级异常。这些偏差通过加权方案进行整合，以识别被投毒的输入，从而实现更细粒度的分析。基于检测结果，我们通过一种参数高效的遗忘机制来净化模型，该机制避免了完整重训练，且不需要任何外部干净模型。具体而言，我们创新性地重新利用知识蒸馏，引导学生在检测到的投毒样本上增大其与教师模型的输出差异，从而有效迫使其遗忘后门行为。在多种攻击方法和语言模型架构上的大量实验表明，DUP 在检测准确率和净化效果方面均取得了更优的防御性能。我们的代码可在 此 https URL 获取。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2508.01647 [cs.CR] |
| （或 arXiv:2508.01647v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2508.01647 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Man Hu [查看邮箱]
[v1]
2025年8月3日星期日 08:12:21 UTC（1,333 KB）
[v2]
2026年11月4日星期三 12:18:22 UTC（1,326 KB）
来源：arXiv cs.CL · arxiv.org