跳到正文
arXiv cs.CL· Mohammad Reza Modarres, Armin Tourajmehr, Artin Tavasoli, Yadollah Yaghoobzadeh, Mohammad Taher Pilehvar·· 11 小时前AI 评分38

每个模型都留下痕迹:多分辨率 LLM 指纹识别研究

Every Model Leaves a Trace: Multi-Resolution LLM Fingerprinting

AI 导读

研究提出“指纹分辨率”框架,从模型分辨率(跨家族、蒸馏及适配变体)和信号分辨率(行为、文体、词汇、语义)两个维度考察 LLM 生成文本的可追溯性。结果显示指纹可超越家族差异,在蒸馏模型乃至同一基座模型的 LoRA 适配版本中仍可检测;表面与词汇线索被改写后归因减弱,但仍有大量模型特异信号残留,且这些信号可跨提示分布与语言迁移,语义表征跨语言最稳健。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大语言模型会在其生成的文本中留下模型特有的痕迹,但这些指纹能以多细的粒度区分相关模型,以及在明显线索被削弱后哪些信号仍具信息量,目前尚不清楚。我们通过指纹分辨率来研究这一问题,同时考虑模型分辨率(从不同家族到蒸馏和适配变体)以及信号分辨率(涵盖行为、文体计量、词汇和语义证据)。我们逐步抑制表层线索、对输出进行改写、改变可用文本量,并测试跨提示分布和语言的泛化能力。结果表明,指纹能够超越宽泛的家族差异而持续存在,在蒸馏模型乃至同一基础模型的 LoRA 适配版本中仍可被检测到。尽管随着表层和词汇线索被改变,归因会减弱,但仍有大量模型特有信号保留下来。这些信号可跨提示来源和语言迁移,其中语义表示在跨语言时最为稳健。这些发现表明,模型身份可在多个分辨率上被恢复,但可恢复性取决于模型相似度以及文本中可用的证据。
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2610.28434 [cs.CL]
  (或本版本使用 arXiv:2610.28434v1 [cs.CL])
  https://doi.org/10.48550/arXiv.2610.28434

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Artin Tavasoli [查看邮箱]
[v1] 2026年10月20日星期二 16:00:34 UTC(198 KB)

来源:arXiv cs.CL · arxiv.org