arXiv cs.AI· Ruihao Pan, Suhang Wang·· 14 小时前AI 评分38
ICCU:通过模式诱导拒绝规则实现上下文内持续遗忘
ICCU: In-Context Continual Unlearning via Pattern-Induced Refusal Rules
AI 导读
ICCU 是一个上下文内持续遗忘框架,从遗忘数据集诱导出可读的拒绝规则,在推理时以过滤器或系统提示方式应用,无需修改模型参数。规则以顺序无关的并集累积,因此无跨请求干扰,且规则诱导后可丢弃原始遗忘集数据。实验显示 ICCU 能有效抑制目标知识并保持模型效用,可扩展至长序列请求,对改写、跨语言和对抗性提问保持稳健。
正文 · AI 翻译
摘要:机器遗忘旨在从已训练的语言模型中移除特定数据的影响。在实际部署中,遗忘请求往往按顺序到达,这对现有的基于微调的方法构成了挑战:对每个请求进行微调成本高昂、会累积效用损失,并可能造成跨请求干扰。为解决这些问题,我们提出了 ICCU(In-Context Continual Unlearning,上下文持续遗忘),这是一个上下文持续遗忘框架,它从遗忘数据集中归纳出可读的拒绝规则,并在推理时以过滤器或通过系统提示的方式应用这些规则,而不修改模型参数。由于规则以与顺序无关的并集方式累积,ICCU 具有可组合性且不存在跨请求干扰,并且在规则归纳完成后可以丢弃原始遗忘集数据。大量实验表明,ICCU 能有效抑制目标知识,同时保持效用,可扩展到长序列请求,并且对改写、跨语言和对抗性构造的查询保持稳健。我们的代码可在 此 https URL 获取。
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2605.27138 [cs.AI] |
| (或 arXiv:2605.27138v2 [cs.AI] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2605.27138 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Ruihao Pan [查看邮箱]
[v1]
2026年5月26日 星期二 15:06:56 UTC(1,001 KB)
[v2]
2026年10月24日 星期六 15:44:00 UTC(1,007 KB)
来源:arXiv cs.AI · arxiv.org