跳到正文
热点事件持续更新

SPARK提出解耦知识保留与隐私纠正的持续学习框架

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Shengtao Wen 等作者提出 SPARK,一种面向大语言模型持续学习的“保留-校正”解耦方法:先冻结任务后学到的分布作为稳定参考,再围绕该参考做选择性校正,以抑制敏感内容复现。 该方法包含两部分:Self-Distillation Replay 在学习当前任务时蒸馏旧任务行为;Post-Task Privacy Correction 降低标注 PII 的生成概率,同时把新旧任务的非 PII 行为锚定到该 checkpoint。作者称代码和数据将在论文发表后公开。

AI 根据报道生成 · 48 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv cs.AI
    SPARK:面向 LLM 持续学习的任务后自蒸馏回放,解耦知识与隐私

    SPARK 提出“保留-校正”分解框架,先冻结任务后学到的分布,再围绕该稳定参考做选择性校正,以在 LLM 持续学习中抑制敏感内容复现。其 Self-Distillation Replay 在学习当前任务时蒸馏旧任务行为,Post-Task Privacy Correction 降低标注 PII 的生成概率,同时将新旧任务的非 PII 行为锚定到该 checkpoint。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。