arXiv cs.AI· Jianzhu Bao, Jia-Chen Gu, Qingyuan Liu, Haozhen Zhang, Kai-Wei Chang, Nanyun Peng, Wenya Wang·· 3 天前AI 评分27
SPACE：用几何校准缓解 SFT 导致的域外能力退化
Geometric Calibration of Supervised Fine-Tuning
AI 导读
研究者提出 SPACE（Subspace Projection for Adapted Checkpoint Enhancement），一种无需数据、无需训练的后处理方法，仅凭 SFT 前后 checkpoint 即可将 SFT 更新中位于 SFT 前权重主子空间的分量选择性回退，同时保留正交补空间中的更新。
正文 · AI 翻译
摘要：近期研究通过权重的谱结构来探究其几何特性，该结构刻画了权重如何变换不同的输入方向。在这一视角下，监督微调（SFT）被证明会引发稠密更新，这些更新会沿主方向扰动 SFT 前权重的谱几何结构，从而可能破坏模型的先验知识。这些观察促使人们将 SFT 前权重的几何结构作为精炼已学习 SFT 更新的参考。我们将这一视角作为几何校准进行研究，并提出了 SPACE（用于适配检查点增强的子空间投影），这是一种轻量级的后处理方法，它选择性地回退 SFT 前权重主 subspace 内的 SFT 更新分量，同时保留其正交补空间中的分量。SPACE 是一种无需数据、无需训练的方法，仅需 SFT 前和 SFT 后的检查点。我们在 Qwen2.5、Qwen3、Qwen3.5、Llama-3.1 和 Olmo-3 模型（规模从 2B 到 14B）上评估了 SPACE，涵盖数学、编程和医学 SFT，以及若干 SFT 变体。总体而言，SPACE 缓解了域外（OOD）能力退化，同时相比未校准的 SFT 检查点进一步提升了域内（ID）性能。对于数学 SFT，SPACE 在 Qwen2.5-7B 上分别带来平均 ID/OOD 提升 2.85/2.26 分，在 Qwen3-14B-Base 上分别带来 2.41/1.52 分。这些结果凸显了 SFT 更新与 SFT 前权重之间的几何关系如何塑造适配模型的能力，并在更广泛意义上，为持续模型改进提供了几何感知参数更新的动机。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.18634 [cs.LG] |
| （或 arXiv:2610.18634v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18634 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jianzhu Bao [查看电子邮件]
[v1]
2026年10月13日星期二 16:07:24 UTC（758 KB）
来源：arXiv cs.AI · arxiv.org