arXiv cs.CL· Xiaoqun Liu, Weiming Qi, Qiben Yan·· 13 小时前AI 评分34
DYNASHIELD：通过动态解码定制为 LLM 提供黑盒移动目标防御
DYNASHIELD: A Black-Box Moving Target Defense for LLMs via Dynamic Decoding Customization
AI 导读
DYNASHIELD 是一个面向黑盒 LLM 部署的移动目标防御框架，通过在推理时定制解码超参数和系统提示词提升鲁棒性，无需重训练或访问模型内部。该方法先筛选能降低攻击成功率的解码配置，再从加权配置池中概率采样以引入受控的行为变化。在 7 个开源 LLM 和 4 种 SOTA 越狱攻击（AdvBench 对抗提示词）上，其攻击成功率较 7 种基线防御大幅下降，同时保持回复质量且推理开销极小。
正文 · AI 翻译
摘要：大型语言模型（LLM）仍然容易受到越狱攻击，即对抗性提示诱导模型产生有害输出。现有防御方法通常需要访问模型内部或进行额外训练，这限制了它们对通过黑盒 API 部署的服务提供商的适用性。本文提出 DYNASHIELD，一种移动目标防御框架，通过在推理时定制解码超参数和系统提示来提升鲁棒性。DYNASHIELD 包含两个关键步骤：（1）识别能够降低攻击成功概率的解码配置；（2）从加权配置池中进行概率采样，以在模型行为中引入受控的变异性。我们在 4 种最先进的越狱攻击下，使用 AdvBench 中的对抗性提示，对 7 个开源 LLM 评估了 DYNASHIELD。结果表明，与 7 种基线防御相比，攻击成功率大幅降低，同时保持了响应质量，且推理开销极小。由于 DYNASHIELD 仅通过暴露的运行时控制来运作，因此无需重新训练或访问模型内部。这些结果表明，安全感知的动态解码是一种有前景且实际轻量的防御机制，适用于黑盒 LLM 部署。
| 评论： | 已被第 29 届攻击、入侵与防御研究国际研讨会（RAID）2026 接收 |
| 主题： | 密码学与安全（cs.CR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2412.07672 [cs.CR] |
| （或使用 arXiv:2412.07672v3 [cs.CR] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2412.07672 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Qiben Yan [查看邮箱]
[v1]
2024 年 12 月 10 日星期二 17:02:28 UTC（1,183 KB）
[v2]
2026 年 8 月 16 日星期日 15:06:14 UTC（1,496 KB）
[v3]
2026 年 10 月 27 日星期二 14:52:52 UTC（1,496 KB）
来源：arXiv cs.CL · arxiv.org