arXiv cs.CL· Muhammad Zeeshan Karamat, Christiana Chamon Garcia·· 10 天前AI 评分26
LLaMA-2-7B-Chat 的安全行为有多脆弱？面向稀疏故障分析的安全关键参数定位
How Fragile Is On-Device Language Model Safety? Localizing Safety-Critical Parameters for Sparse Fault Analysis
AI 导读
研究考察 LLaMA-2-7B-Chat 的安全敏感行为是否集中在稀疏参数子集上，通过低秩安全子空间分析和参数级安全—效用重要性过滤两种方法定位。结果显示安全敏感性在网络中高度不均匀，MLP 的 down_proj 是最突出的安全敏感组件，o_proj 贡献较小。
正文 · AI 翻译
摘要：随着小型语言模型（SLM）越来越多地部署在资源受限和设备端平台上，包括作为智能体系统的组件，本地存储的模型参数的完整性成为一个重要的安全问题。我们研究 LLaMA-2-7B-Chat 中安全敏感行为是否集中在稀疏的参数子集内，从而形成用于定向分析的缩减故障面。我们研究了两种互补的定位方法：低秩安全关联子空间分析和参数级安全—效用重要性过滤。两种方法都揭示了整个网络中高度非均匀的安全敏感性，其中 MLP down_proj 始终作为突出的安全敏感组件出现，而 o_proj 提供较小的贡献。使用参数级定位，仅修改 down_proj 中 0.19% 的模型权重即可产生 53% 的 Basic ASR 和 56% 的 GCG ASR，而 tinyBenchmarks 准确率保持在 51.6%，相比之下未修改的基线为 52.2%。这些结果推动了针对部署在资源受限、设备端和智能体环境中的语言模型进行定向故障分析和选择性完整性保护。
| 评论： | 已被 NeurIPS 2026 Workshop 接收 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR）；机器学习（cs.LG）；软件工程（cs.SE） |
| 引用为： | arXiv:2610.09000 [cs.AI] |
| （或 arXiv:2610.09000v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.09000 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Muhammad Zeeshan Karamat [查看电子邮件]
[v1]
2026年10月6日星期二 18:56:14 UTC（17 KB）
来源：arXiv cs.CL · arxiv.org