Hugging Face Daily Papers· Minoo Kim·· 19 天前AI 评分38
NEEDLE：通过权重正交化移除 LLM 后门
Removing the NEEDLE in the Haystack: Backdoor Removal in LLMs via Weight Orthogonalisation
AI 导读
研究者提出 NEEDLE，一种无需训练的后门移除方法：在识别出触发词后，通过激活向量估计后门方向与拒绝子空间，再对权重做序列正交化。该方法针对现有 LLM 后门防御会意外改变模型对良性提示词的输出分布、导致性能与安全性下降的问题，实现定向移除后门。
来源：Hugging Face Daily Papers · huggingface.co