arXiv cs.AI· Siyuan Li, Haoxuan Zeng, Xin Luo, Fernando Jia, Florence Li, Zhengyang Geng, Zico Kolter, Tai Sing Lee, Tianqin Li·· 2 天前AI 评分24
Witness Overlap：开放权重模型家族内的方向性溯源
Witness Overlap: Directional Provenance Inside Open-Weight Model Families
AI 导读
针对现有模型溯源方法依赖对称相似度、无法判断两个 checkpoint 谁先谁后的问题，研究者提出 Witness Overlap——一种无需提示词、无需训练的白盒方向性溯源测试，通过引入同家族第三个 checkpoint 作为"见证"比较两端几何结构来推断方向。
正文 · AI 翻译
摘要：开放权重模型经常被发布、微调、对齐、合并并重新发布，这使得溯源审计不仅要问检查点之间是否相关，还要问哪个检查点先出现。许多现有的模型溯源方法是为已知基座的审计场景设计的：给定一个受害模型或源模型，它们测试一个可疑模型是否与其相关。尽管这些审计被框定为从源到可疑的测试，但其底层证据通常是对称的，依赖于表示相似性、权重相似性、行为指纹或相关统计量。对称的成对比较可以检测相关性，但仅凭它们本身无法确定检查点 A 和 B 之间的关系方向。因此，我们引入了一种局部几何比较：不是直接比较两个检查点，而是添加第三个同族检查点作为见证，并比较每个候选端点周围的几何结构。通过询问哪个候选者表现得更像分支父节点来推断方向。受这一想法以及经验观察到的父锚定与子锚定见证重叠分布之间的不对称性启发，我们提出了 Witness Overlap，一种无需提示、无需训练的白盒方向性溯源测试。在来自 16 个家族的 176 个 LLM 检查点上，我们的单见证测试使用 Frobenius 余弦对 95.3\% 的父子决策进行了定向。我们进一步评估了根识别、兄弟区分、对 VLM 和扩散家族的泛化以及链式排序。该信号对权重噪声和稀疏剪枝具有鲁棒性，并且提出的 SVD 权重降维变体比 Frobenius 余弦表现出更强的鲁棒性。
| 评论： | 已被 neurips 2026 接收 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2609.31784 [cs.AI] |
| （或使用 arXiv:2609.31784v2 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2609.31784 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Tianqin Li [查看电子邮件]
[v1]
2026年9月24日星期四 21:41:02 UTC（451 KB）
[v2]
2026年10月15日星期四 04:28:35 UTC（451 KB）
来源：arXiv cs.AI · arxiv.org