arXiv cs.AI· Qingyue Wang, Qi Pang, Xixun Lin, Shuai Wang, Daoyuan Wu·· 10 小时前AI 评分34
BadMoE：通过路由感知触发器与任务低利用率专家对 MoE 大模型植入后门
BadMoE: Backdooring Mixture-of-Experts LLMs via Routing-Aware Triggers and Task-Underutilized Experts
AI 导读
BadMoE 是一种针对 MoE 大模型的白盒、任务特定后门攻击，通过选取目标任务上使用率低的专家并用路由感知触发器将其激活，从而稳定触发预设后门行为。该方法分三步：在目标任务校准集上识别低使用率专家、优化指向这些专家的路由感知触发器、将选中专家的激活与攻击者指定行为关联。
正文 · AI 翻译
摘要：混合专家（MoE）架构正迅速成为构建可扩展且高效的大语言模型（LLM）的标准，这得益于其路由机制，即对每个输入只激活一部分专家。然而，专家的模块化结构和稀疏激活也引入了新的安全风险，因为操纵一小部分专家就可能影响模型行为。在本工作中，我们研究了一种白盒、任务特定的模型供应链场景，并提出了 BadMoE，一种针对 MoE LLM 的路由感知后门攻击。我们通过对 MoE 层输出进行路由感知分解来引出 BadMoE，该分解将所选目标专家的贡献与其余专家的贡献区分开来。这一分析凸显了攻击背后的两个可测量因素：分配给目标专家的路由质量及其对层输出的相对贡献。基于这一洞见，BadMoE 选择任务利用不足的专家，并利用路由感知触发器激活它们，从而可靠地激活任务特定的预定义后门行为。具体而言，BadMoE 包括三个步骤：1）在目标任务校准集上识别使用率低的专家，2）针对这些专家优化路由感知触发器，3）将所选专家的激活与攻击者指定的行为关联起来。我们在 Mixtral、OLMoE 和 Deepseek 上评估了 BadMoE，涵盖情感、主题和情绪分类、情感引导以及定向拒绝。
| Comments: | 16页，已被 IEEE TIFS 2026 接收 |
| Subjects: | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| Cite as: | arXiv:2504.18598 [cs.CR] |
| （或此版本的 arXiv:2504.18598v3 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2504.18598 由 DataCite 颁发的 arXiv DOI |
Submission history
来自：Qingyue Wang [查看邮箱]
[v1]
2025年4月24日星期四 16:42:38 UTC（867 KB）
[v2]
2025年4月29日星期二 02:23:57 UTC（867 KB）
[v3]
2026年11月10日星期二 07:46:04 UTC（646 KB）
来源：arXiv cs.AI · arxiv.org