arXiv cs.AI· Xuancheng Li, Haitao Li, Yujia Zhou, Qingyi Pan, Heng Wang, Yiqun Liu, Min Zhang, Qingyao Ai·· 6 天前AI 评分22
SLIFT:从用户交互中选择性自学习的大语言模型框架
Different Feedback, Different Updates: Selective Self-Learning from User Interactions for Large Language Models
AI 导读
SLIFT 是一个基于任务相对视角的选择性自学习框架,将每条用户反馈拆解为原子组件,并按 Fix、Spec、Null 三类分别处理。
正文 · AI 翻译
摘要:用户反馈为 LLM 的持续改进提供了天然的监督信号,但单条消息可能支持多种具有不同泛化范围的行为变化。我们提出 SLIFT,一个基于任务相对视角的用户反馈选择性自学习框架。SLIFT 将每条反馈消息分解为原子组件,并相对于原始任务将每个组件解释为 Fix、Spec 或 Null:任务有效性要求、兼容的条件特定细化,或没有可靠正向更新方向的内容。为了在适当的范围内纳入每项变化,SLIFT 在共享的冻结主干上训练两个互补的 LoRA 适配器:Generalist 通过反馈条件自蒸馏将 Fix 要求整合为默认行为,Specialist 仅观察任务和 Generalist 响应,为适用的、未满足的 Spec 细化提供残差指导。Null 组件不引发正向更新。在多个主干上,SLIFT 在 MemoryBench 和 WildFB 上均取得强劲性能,并通过针对性分析进一步考察其底层机制。我们在 此 https URL 发布代码。
| 评论: | 修正了作者元数据中的一个拼写错误 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2608.09109 [cs.AI] |
| (或 arXiv:2608.09109v2 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2608.09109 arXiv 颁发的 DOI,通过 DataCite |
提交历史
来自:Xuancheng Li [查看邮箱]
[v1]
2026年8月10日星期一 04:27:58 UTC(2,208 KB)
[v2]
2026年10月9日星期五 03:20:42 UTC(2,208 KB)
来源:arXiv cs.AI · arxiv.org