跳到正文
热点事件观察中

研究者提出知识关联强化遗忘框架KARU

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Wutong Xu等作者提出以“知识关联”(KA)作为大语言模型遗忘的基本目标,并据此设计强化学习框架KARU,在抑制待遗忘知识关联的同时保留其余知识。 KARU包含token级奖励构建、分布级正则化和邻近感知保留采样三项机制。作者称,在多个大语言模型与代表性基准上的实验显示,KARU的遗忘效果稳定优于现有基线,同时保持可比的保留性能与通用能力。

AI 根据报道生成 · 45 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.AI
    大语言模型该遗忘什么:知识关联的强化学习遗忘方法 KARU

    研究者提出以“知识关联”(KA)作为 LLM 遗忘的基本目标,并据此设计强化学习框架 KARU,在抑制待遗忘知识关联的同时保留其余知识。KARU 包含 token 级奖励构建、分布级正则化和邻近感知保留采样三项机制。在多个 LLM 与代表性基准上的实验显示,KARU 的遗忘效果稳定优于现有基线,同时保持可比的保留性能与通用能力。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。