arXiv cs.CL· Hanxiu Zhang, Qiang Xu, Yue Zheng·· 2 天前AI 评分31
SELF:基于奇异值与特征值的 LLM 鲁棒指纹识别方法
SELF: A Robust Singular Value and Eigenvalue Approach for LLM Fingerprinting
AI 导读
研究者提出 SELF,一种基于 LLM 注意力权重内在特征的指纹识别方案,通过奇异值与特征值分解提取独特、可扩展且对变换不变的指纹,无需依赖输入即可抵御虚假声明攻击。实验显示 SELF 在保持高侵权检测准确率的同时,显著优于现有基线降低误报率,并对量化、剪枝和微调等下游修改表现出强鲁棒性。代码已公开。
正文 · AI 翻译
摘要:保护大型语言模型(LLM)的知识产权(IP)免受模型窃取,是当代 AI 研究中的一项关键挑战。尽管指纹识别对于为模型衍生建立取证证据至关重要,但现有方法容易受到虚假声明攻击、权重操纵或高误报率的影响,从而削弱了其实用性。为克服这些局限,我们提出 SELF,\rev{一种新颖的基于内在权重的指纹识别方案,专为通过对抗性模型谱系验证实现稳健的 IP 取证而设计}。SELF 消除了对输入的依赖,并天然抵抗虚假声明,通过 LLM 注意力权重的奇异值和特征值分解,实现独特、可扩展且变换不变的指纹提取,从而实现稳健的 \rev{来源检测}。实验结果表明,SELF 在保持高 IP 侵权检测准确率的同时,在降低误报方面显著优于最先进的基线,并对各种下游修改(包括量化、剪枝和微调攻击)表现出强鲁棒性。我们的代码可在 此 https URL 获取。
| 主题: | 密码学与安全(cs.CR);人工智能(cs.AI);计算与语言(cs.CL);机器学习(cs.LG) |
| 引用为: | arXiv:2512.03620 [cs.CR] |
| (或 arXiv:2512.03620v2 [cs.CR] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2512.03620 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Hanxiu Zhang [查看电子邮件]
[v1]
2025年12月3日 星期三 09:53:47 UTC(2,244 KB)
[v2]
2026年10月27日 星期二 03:24:28 UTC(1,393 KB)
来源:arXiv cs.CL · arxiv.org