跳到正文
arXiv cs.AI· Xuancheng Li, Haitao Li, Yujia Zhou, Qingyi Pan, Heng Wang, Yiqun Liu, Min Zhang, Qingyao Ai·· 6 天前AI 评分22

SLIFT:从用户交互中选择性自学习的大语言模型框架

Different Feedback, Different Updates: Selective Self-Learning from User Interactions for Large Language Models

AI 导读

SLIFT 是一个基于任务相对视角的选择性自学习框架,将每条用户反馈拆解为原子组件,并按 Fix、Spec、Null 三类分别处理。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:用户反馈为 LLM 的持续改进提供了天然的监督信号,但单条消息可能支持多种具有不同泛化范围的行为变化。我们提出 SLIFT,一个基于任务相对视角的用户反馈选择性自学习框架。SLIFT 将每条反馈消息分解为原子组件,并相对于原始任务将每个组件解释为 Fix、Spec 或 Null:任务有效性要求、兼容的条件特定细化,或没有可靠正向更新方向的内容。为了在适当的范围内纳入每项变化,SLIFT 在共享的冻结主干上训练两个互补的 LoRA 适配器:Generalist 通过反馈条件自蒸馏将 Fix 要求整合为默认行为,Specialist 仅观察任务和 Generalist 响应,为适用的、未满足的 Spec 细化提供残差指导。Null 组件不引发正向更新。在多个主干上,SLIFT 在 MemoryBench 和 WildFB 上均取得强劲性能,并通过针对性分析进一步考察其底层机制。我们在 此 https URL 发布代码。
评论: 修正了作者元数据中的一个拼写错误
主题: 人工智能(cs.AI)
引用为: arXiv:2608.09109 [cs.AI]
  (或 arXiv:2608.09109v2 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2608.09109

arXiv 颁发的 DOI,通过 DataCite

提交历史

来自:Xuancheng Li [查看邮箱]
[v1] 2026年8月10日星期一 04:27:58 UTC(2,208 KB)
[v2] 2026年10月9日星期五 03:20:42 UTC(2,208 KB)

来源:arXiv cs.AI · arxiv.org