Hugging Face Daily Papers· Georgios Politis·· 16 天前AI 评分39
拆分语言模型中梯度对文本泄露的贡献：按 token 与按文档统计
What Gradients Add to Text Leakage in Split Language Models, Counted per Token and per Document
AI 导读
研究表明，在拆分学习中，位于拆分点的观察者可仅凭客户端层公开权重，从激活值中还原 GPT-2 客户端 94.20% 的 token，若同时看到回传梯度则升至 97.38%。
来源：Hugging Face Daily Papers · huggingface.co