arXiv cs.CL· Tahmid Imtiaz Imu, Emama Nahid, Prodipta Sen Amartya, Ahsanul Jobayer, Yutong Song, Jiang Wu, Pengfei Zhang, Honghui Xu·· 6 天前AI 评分31
Cancerous Backdoor Attack：用不可见 Token 与阶段控制器实现渐进激活的 LLM 后门攻击
Cancerous Backdoor Attack: Gradual Activation via Invisible Tokens and A Stage Controller
AI 导读
研究者提出 Cancerous Backdoor Attack，通过不可见 Token 提供隐藏阶段、并用阶段控制器在推理时追踪攻击进度，使 LLM 的推理在多次交互中被逐步腐蚀，而非单点触发。该攻击在多个推理数据集和模型上均能稳定产生渐进式推理损坏，效果优于已有后门攻击基线。结果显示推理损坏在变得可见之前就已逐步发展，仅靠答案准确率不足以检测后门攻击。
正文 · AI 翻译
摘要：针对大型语言模型（LLM）的后门攻击通常遵循触发-响应模式，即满足触发条件后激活单个终端行为。然而，这种单点后门激活并未探索恶意行为通过多个中间阶段逐步发展、最终到达终端激活阶段的攻击方式。我们提出“癌变后门攻击”（Cancerous Backdoor Attack），它通过利用不可见 token 和阶段控制器，在一系列交互中逐步腐蚀 LLM 的推理。具体而言，不可见 token 在不出现于用户可见请求中的情况下为模型提供隐藏阶段，阶段控制器在推理过程中跟踪攻击进展以实现逐步激活。我们在多个推理数据集上评估了癌变后门攻击。该攻击在不同模型和任务上均能持续产生逐步推理腐蚀。我们将癌变后门攻击与先前的后门攻击基线进行比较，以证明我们提出的攻击优于这些基线。我们的结果表明，推理腐蚀可以在变得可见之前逐步发展，因此仅凭答案准确率不足以检测后门攻击。
| 评论： | 31 页，5 幅图，13 张表 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.12644 [cs.CR] |
| （或 arXiv:2610.12644v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12644 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Tahmid Imtiaz Imu [查看电子邮件]
[v1]
2026 年 10 月 8 日星期四 19:05:01 UTC（5,125 KB）
来源：arXiv cs.CL · arxiv.org