arXiv cs.CL· Phongsakon Mark Konrad, Toygar Tanyel, Serkan Ayvaz·· 10 小时前AI 评分34
Routing Subspaces：审计微调语言模型中的评测与部署行为错配
Routing Subspaces: Auditing Evaluation-to-Deployment Mismatch in Fine-Tuned Language Models
AI 导读
研究者提出 Routing Subspaces 审计方法，在路径修补定位的中层窗口拟合配对激活对比，再修改该坐标以缩小微调模型的评测与部署行为差距。在四个全矩阵指令微调模型实例的十二个模型—行为设定中，十个设定的差距缩小超过 0.12，四个设定缩小至 0.06 以下。该方法为非自适应白盒诊断工具，不构成训练时防御或部署安全保证。
正文 · AI 翻译
摘要：安全评估通常假设测试期间观察到的行为能够反映日常使用中的行为，但微调可能打破这一假设。一个检查点在评估风格的提示下可能显得已修复，而同样的行为在日常使用的提示下依然存在。输出分数揭示了这种不匹配，却无法定位它。我们研究这种区分是否被编码在一个稳定的内部位置，并引入一种审计方法：在路径修补所指示的中层深度窗口上拟合配对激活对比，然后在留出提示上修改所得坐标。该干预在十二个模型—行为设置中的十个里将评估到部署的差距缩小了超过 $0.12$，并在其中四个里将其消除（干预后差距低于 $0.06$），覆盖四个全矩阵指令微调模型实例；在 $n{\geq}120$ 个配对问题的八个设置中，六个缩小、一个消除。第五个模型支持定位与编辑溯源检查，且在十二个设置中，部署框架下的比率变化至多为 $6.1$pp。在重新训练的检查点上，相同剂量下的随机方向无法复现该效果，窗口外对照仅部分复现。评估与部署区分的最强字面证据来自沙袋行为，其提示框架明确具有评估性；谄媚与拒答则测试框架依赖的任务区分。两个弱单元（均为谄媚）显示了固定窗口下单坐标审计的不足之处。该审计是一种针对受控微调检查点的非自适应白盒诊断，而非训练时防御、部署安全保证，或关于自然出现故障的证据。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；软件工程（cs.SE） |
| 引用为： | arXiv:2607.20436 [cs.CL] |
| （或 arXiv:2607.20436v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.20436 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Phongsakon Mark Konrad [查看电子邮件]
[v1]
2026年5月11日星期一 13:44:35 UTC（426 KB）
[v2]
2026年11月1日星期日 11:27:00 UTC（285 KB）
来源：arXiv cs.CL · arxiv.org