arXiv cs.AI· Lass Najmuldeen, Seyedhamidreza Mousavi·· 3 天前AI 评分23
LLM 基于深度的动态推理如何影响越狱脆弱性
Exploring Jailbreak Vulnerability Across Depth-Based Dynamic Inference in Large Language Models
AI 导读
研究发现，LLM 基于深度的动态推理中，浅层出口比深层出口对越狱攻击更鲁棒，深层出口的对抗后缀优化能达到更低的攻击损失，而对抗后缀对各出口深度的效用影响基本一致。该结论可为设计更抗越狱的动态推理方法提供依据，代码已开源，论文被 NeurIPS 2026 FLMSec Workshop 接收。
正文 · AI 翻译
摘要：大型语言模型（LLM）已被证明计算成本高昂，且易受越狱攻击，即对抗性提示绕过安全对齐并诱导有害响应。为解决这一低效问题，已提出一系列技术以实现高效的 LLM 推理。基于深度的动态推理通过允许从中间层生成输出而展现出良好效果。它提供了根据可用资源预算调整模型行为的灵活性。然而，这种灵活性如何影响 LLM 抵御越狱攻击的鲁棒性仍未被探索。在本文中，我们通过全面研究基于深度的动态推理对 LLM 抵御越狱攻击鲁棒性的影响来填补这一空白。具体而言，我们得出以下关键观察：1）浅层出口对越狱攻击的鲁棒性始终强于深层出口；2）出口深度影响对抗性后缀被优化的难易程度，深层出口能达到更低的攻击损失；3）对抗性后缀在各出口深度上对效用的影响是一致的。这些见解有助于设计对越狱攻击更具鲁棒性的动态推理方法。代码见 this https URL
| Comments: | Accepted at the NeurIPS 2026 Workshop on Foundations of Language Model Security (FLMSec). 10 pages, 4 figures, 3 tables |
| Subjects: | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR） |
| Cite as: | arXiv:2610.15207 [cs.LG] |
| （或 arXiv:2610.15207v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15207 arXiv 颁发的 DOI 通过 DataCite（待注册） |
Submission history
From: Lass Najmuldeen [view email]
[v1]
Sat, 10 Oct 2026 22:36:04 UTC (1,205 KB)
来源：arXiv cs.AI · arxiv.org