研究者提出知识关联强化遗忘框架KARU
热点事件观察中
研究者提出知识关联强化遗忘框架KARU
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Wutong Xu等作者提出以“知识关联”(KA)作为大语言模型遗忘的基本目标,并据此设计强化学习框架KARU,在抑制待遗忘知识关联的同时保留其余知识。 KARU包含token级奖励构建、分布级正则化和邻近感知保留采样三项机制。作者称,在多个大语言模型与代表性基准上的实验显示,KARU的遗忘效果稳定优于现有基线,同时保持可比的保留性能与通用能力。
AI 根据报道生成 · 45 分钟前更新
最新进展11月2日 13:00
大语言模型该遗忘什么:知识关联的强化学习遗忘方法 KARU报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv cs.AI大语言模型该遗忘什么:知识关联的强化学习遗忘方法 KARU
研究者提出以“知识关联”(KA)作为 LLM 遗忘的基本目标,并据此设计强化学习框架 KARU,在抑制待遗忘知识关联的同时保留其余知识。KARU 包含 token 级奖励构建、分布级正则化和邻近感知保留采样三项机制。在多个 LLM 与代表性基准上的实验显示,KARU 的遗忘效果稳定优于现有基线,同时保持可比的保留性能与通用能力。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。