跳到正文
热点事件持续更新

新方法揭示扩散语言模型训练数据泄露被低估

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Yihan Wang 与 N. Asokan 提出一种名为“填充式抽取”的协议,用于评估扩散语言模型对训练数据的记忆程度。该协议用任意二值掩码刻画模型的双向记忆,涵盖仅做前缀探测的做法。作者称,仅做前缀探测会显著低估训练数据被抽取的风险。 这一结论针对扩散语言模型(DLM),而非自回归语言模型;报道未说明该协议是否适用于其他模型类型。

AI 根据报道生成 · 54 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    研究提出填充式抽取方法,揭示扩散语言模型训练数据泄露被低估

    Yihan Wang 与 N. Asokan 提出填充式抽取(infilling extraction)协议,用任意二值掩码刻画扩散语言模型的双向记忆,指出仅做前缀探测会显著低估训练数据抽取风险。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。