arXiv cs.AI· Yukun Chen, Yidou Chen, Yiming Li, Xinyu Zhang, Baosong Yang, Hongwei Yao, Zhan Qin·· 3 天前AI 评分34
面向大语言模型合并的条件后门失对齐攻击
Towards Merging-conditional Backdoor Unalignment against Large Language Models
AI 导读
研究揭示了一种新型威胁：单侧合并条件后门（OMCB），它在单个模型中休眠且无法被检测，但在模型合并后激活并触发安全失对齐。作者提出基于元学习的攻击框架 SMOKE，通过双层优化注入该后门，在多种模型架构和合并技术上验证了有效性，并能抵抗现有后门检测。
正文 · AI 翻译
摘要：模型合并已被广泛采用，用于在不进行额外训练的情况下增强大型语言模型（LLM）的任务特定性能。虽然来自第三方平台的专用模型可能会接受安全审计（例如后门检测），但我们揭示了一种新颖且关键威胁：单侧合并条件后门（OMCB）。OMCB 在单个独立模型中保持休眠且无法被检测，但在合并时会被激活，触发安全失配。我们首先从理论上分析了 OMCB 的存在性及其几何位置，揭示跨越安全决策边界的参数偏移是后门激活的主要原因。基于这一洞见，我们提出了 SMOKE，一种基于元学习的攻击框架。SMOKE 通过双层优化策略植入 OMCB：内循环通过随机低秩初始化和有限步最大化合成代理元向量，而外循环通过模拟合并过程来优化目标模型。此外，初步分析表明，所注入的 OMCB 在未知合并配置下具有有界泛化损失。跨多种模型架构和合并技术的大量实验验证了 SMOKE 的有效性及其对现有后门检测的抵抗能力，凸显了模型合并范式中一个重大但此前被忽视的漏洞。
| 评论： | 31 页，4 幅图 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.14701 [cs.CR] |
| （或使用 arXiv:2610.14701v1 [cs.CR] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.14701 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Yukun Chen [查看电子邮件]
[v1]
2026年10月10日星期六 08:19:29 UTC（357 KB）
来源：arXiv cs.AI · arxiv.org