arXiv cs.CL· Zailong Tian·· 2 天前AI 评分42
LLM 会继承另一模型的“指纹”:API 中转审计面临的新挑战
Contagious Fingerprints: When LLMs Inherit Another Model's Identity
AI 导读
研究发现 LLM 的文本指纹具有“传染性”:模型接续另一模型开启的对话后,会继承后者的指纹。在 DeepSeek 替换 Claude Sonnet 的交接后,分类器检测替代模型的准确率从 0.97 降至 0.72,同厂商降级至 Haiku 则从 0.87 降至 0.54。
正文 · AI 翻译
摘要:分类器识别文本背后 LLM 的指纹通常被视为模型的固定属性。我们表明它具有传染性:一个接续另一个模型开启的对话的模型会继承该模型的指纹。这削弱了对 API 中转的审计,中转方可以用客户付费的模型提供对话的前几轮,然后悄悄把剩余部分交给更便宜的模型。在这种交接之后,文本分类器对替代模型的检测率从 0.97 降至 0.72(DeepSeek 替换 Claude Sonnet),同厂商降级(Haiku)则从 0.87 降至 0.54,而在交接数据上重新训练只能修复训练中见过的替代模型。预注册实验将这种传染追溯到对历史风格的模仿。历史也会使模型偏离自身的指纹:主动探针不会被伪装,但当在新鲜对话上校准时,它们会在长上下文上以高达 1.00 的比率标记\emph{诚实}模型,并且标准 MMD 相等性检验拒绝了我们测试的全部九个模型。这两种失败都源于将依赖历史的回复与无历史的参考进行比较。我们提出 \textsc{Lineup},它从声称的模型\emph{在同一历史上}采样参考,并通过被审计回复在其中的排名进行检验。\textsc{Lineup} 通过可交换性控制假阳性,且无需拟合阈值或对数概率。在两个闭源模型上使用同期参考,其假阳性率为 0.056(预注册上限 0.10),并且在四次审计轮次后,它在六对模型中检测出 0.81 的替代会话。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2611.18104 [cs.CL] |
| (或 arXiv:2611.18104v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.18104 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Zailong Tian [查看邮箱]
[v1]
2026年11月13日星期五 12:32:44 UTC(169 KB)
来源:arXiv cs.CL · arxiv.org