arXiv cs.AI· Man Hu, Xinyi Wu, Zhufeng Suo, Jinbo Feng, Linghui Meng, Yanhao Jia, Anh Tuan Luu, Shuai Zhao·· 10 小时前AI 评分31
重新审视推理：LLM 中基于推理的后门攻击综述
Rethinking Reasoning: A Survey on Reasoning-based Backdoors in LLMs
AI 导读
一篇综述首次系统梳理了 LLM 中基于推理的后门攻击，分析其底层机制、方法框架与未解挑战，并提出关联型、被动型、主动型三类新分类法。文章同时汇总了针对此类攻击的防御策略，并讨论了当前挑战与未来研究方向。
正文 · AI 翻译
摘要：随着高级推理能力的兴起，大型语言模型（LLMs）正受到越来越多的关注。然而，尽管推理提升了 LLMs 在下游任务上的表现，它也引入了新的安全风险，因为攻击者可以利用这些能力实施后门攻击。现有的关于后门攻击与推理安全的综述提供了全面的概述，但缺乏针对 LLMs 推理能力的后门攻击与防御的深入分析。本文迈出第一步，通过分析其底层机制、方法框架和未解决的挑战，对 LLMs 中基于推理的后门攻击进行全面综述。具体而言，我们引入了一种新的分类法，为总结现有方法提供了统一视角，将基于推理的后门攻击分为关联型、被动型和主动型。我们还提出了针对此类攻击的防御策略，并讨论了当前挑战以及未来研究的潜在方向。这项工作提供了新颖的视角，为进一步探索安全可信的 LLM 社区铺平了道路。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2510.07697 [cs.CR] |
| （或针对此版本的 arXiv:2510.07697v2 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2510.07697 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Man Hu [查看邮箱]
[v1]
2025年10月9日 星期四 02:35:37 UTC（378 KB）
[v2]
2026年11月4日 星期三 12:13:33 UTC（378 KB）
来源：arXiv cs.AI · arxiv.org