arXiv cs.AI· Weihang Su, Jiacheng Kang, Jingyan Xu, Qingyao Ai, Jianming Long, Hanwen Zhang, Bangde Du, Xinyuan Cao, Min Zhang, Yiqun Liu·· 3 天前AI 评分36
ReGrad：以可检索梯度实现无权重漂移的持续后训练
Retrievable Gradients: Continual Post-Training Without Cumulative Weight Drift
AI 导读
研究者提出 ReGrad（Retrievable Gradients），将梯度视为可检索的知识单元：离线预计算文档专属梯度并存入索引化的 Gradient Bank，推理时仅检索与查询相关的梯度做临时权重适配，从而避免持续后训练中的权重漂移。
正文 · AI 翻译
摘要：持续后训练使模型能够在部署后吸收新出现的知识，但反复更新共享参数会累积权重漂移，可能导致灾难性遗忘并降低通用能力。检索增强生成避免了这种参数漂移，但往往缺乏参数化知识整合的深度。在本文中，我们提出 ReGrad（Retrievable Gradients），一种将梯度视为可检索知识单元的新范式。ReGrad 离线预计算文档特定的梯度，将其存储在带索引的 Gradient Bank 中，并在推理时仅检索与查询相关的梯度以进行临时权重适配。然而，原始的语言建模梯度是为词元级文档重建而优化的，而非为查询驱动的知识使用而优化。因此，我们引入一种双层元学习目标，将文档衍生的梯度重塑为可泛化的下游任务适配信号。在通用和特定领域设置下的实验表明，\textsc{ReGrad} 优于 CPT 和 RAG 基线，能够实现可扩展且可逆的参数化知识注入，且不会累积权重漂移。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI）；信息检索（cs.IR）；机器学习（cs.LG） |
| 引用为： | arXiv:2606.15734 [cs.CL] |
| （或使用 arXiv:2606.15734v2 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2606.15734 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Weihang Su [查看邮箱]
[v1]
2026年6月14日星期日 10:31:36 UTC（294 KB）
[v2]
2026年10月11日星期日 15:04:13 UTC（294 KB）
来源：arXiv cs.AI · arxiv.org