arXiv cs.AI· Karima Makhlouf, Lamiaa Basyoni, Syed Khaderi, Gabriel Marquez, Peter Sotomango, Mahmoud Awawdah, Sami Zhioua·· 2 天前AI 评分31
LLM 隐私威胁的消融研究：四类攻击的敏感性差异
On the Privacy of LLMs: An Ablation Study
AI 导读
一项针对 LLM 隐私的消融研究统一评估了成员推理（MIA）、属性推理（AIA）、数据提取（DEA）和后门攻击（BA）四类代表性攻击，发现各自敏感因素不同：MIA 强依赖数据集特征与攻击策略，AIA 受模型与训练特征影响，DEA 随模型规模和训练数据重复度上升，BA 则始终保持高成功率。
正文 · AI 翻译
摘要：大型语言模型（LLM）面临多种隐私威胁，但现有研究通常孤立地评估单个攻击，对哪些系统因素驱动隐私漏洞提供的指导有限。本文提出了一个统一的威胁模型，并对四种代表性攻击进行了系统性消融研究：成员推理（MIA）、属性推理（AIA）、数据提取（DEA）和后门攻击（BA）。我们的发现揭示了攻击特定的敏感性：成员推理强烈依赖于数据集特征和攻击策略，属性推理受模型和训练特征影响，数据提取随模型规模和训练数据重复而增加，后门攻击则始终达到高成功率。基于这些发现，我们为隐私感知的 LLM 部署提出了实用建议，包括在检索增强系统中优先进行成员泄露评估、尽量减少训练数据中重复的个人信息、监控属性推理风险，以及保护微调流程免受后门攻击。
| 学科： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2605.02255 [cs.CR] |
| （或 arXiv:2605.02255v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.02255 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Karima Makhlouf [查看电子邮件]
[v1]
2026年5月4日星期一 06:06:41 UTC（2,203 KB）
[v2]
2026年10月15日星期四 08:34:36 UTC（3,353 KB）
来源：arXiv cs.AI · arxiv.org