arXiv cs.CL· Jonas Loos, Oliver Eberle·· 10 小时前AI 评分34
KV-Cache Patching：追踪微调行为如何以及在何处产生
KV-Cache Patching: Tracing How and Where Fine-Tuned Behaviors Arise
AI 导读
研究通过将 LoRA 微调模型的 KV cache 补丁进未修改的基座模型（及反向操作），验证微调行为是否可随 KV cache 迁移。结果显示，德语回复、涌现性失配等行为可从微调模型转移至基座模型，反向补丁则能部分或完全移除微调行为。补丁效果随 KV cache 补丁比例增大而增强，并集中在少数关键位置，system prompt 与 chat template token 影响尤为显著。
正文 · AI 翻译
摘要：微调语言模型会改变其响应方式，但这种微调后的行为是在何处被实例化的？为了更好地理解这一点，我们评估模型行为的变化是仅发生在变化所显现的答案 token 生成过程中，还是通过对先前 token 的加工改变经由注意力机制导致了这一变化。为此，我们将 LoRA 微调模型的 KV 缓存补丁到未修改的基础模型中，反之亦然。我们的结果表明，对于某些行为，例如用德语回应或涌现性失准，补丁 KV 缓存确实可以将其从微调模型迁移到基础模型。相应地，将基础模型的 KV 缓存补丁到微调模型可以部分或完全移除微调行为。此外，我们发现补丁的效果随着被补丁的 KV 缓存比例增加而增强，并集中在少数关键位置上，其中系统提示和聊天模板 token 具有不成比例的影响。
| 评论： | NeurIPS 2026 可解释性作为科学研讨会。项目页面：此 https URL |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.41480 [cs.CL] |
| （或 arXiv:2610.41480v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41480 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Jonas Loos [查看电子邮件]
[v1]
2026年10月30日星期五 09:35:33 UTC（240 KB）
来源：arXiv cs.CL · arxiv.org