arXiv cs.AI· Kajaree Das, Oliver B\"ose, Subarnaduti Paul, Gabriel Storch, Martin Mundt·· 2 天前AI 评分24
持续机器学习加剧 Deepfake 检测中的不公平性
Time to Fake It: Continual Machine Learning Intensifies Unfairness in Deepfake Detection
AI 导读
研究追踪了在 11 种真实 Deepfake 生成方法的时间序列上渐进训练的检测器，发现准确率下降通常会加剧不公平性，而公平性随时间改善的情况很少。在 rehearsal、prompts、正则化三类持续学习方法中，不公平的遗忘无法仅用数据代表性不足解释，可能与表征学习纠缠。作者呼吁持续学习方法在平衡稳定性与可塑性时纳入社会结果考量。
正文 · AI 翻译
摘要：Deepfake 检测器可防范虚假信息，因此其失效既是技术问题，也是社会问题。随着生成器不断演进，在静态数据集上训练的检测器会错过新出现的威胁，而渐进式训练则会带来灾难性干扰。然而，仅从准确率角度缓解遗忘——这是持续学习（CL）的主流关注点——不足以反映现实世界的影响。因此，我们审视 CL 方法在公平性演变方面的影响。为此，我们针对按时间顺序在 11 种真实世界 deepfake 生成方法上渐进训练的检测器，分析了不同人口群体中公平性的四个维度。通过追踪公平性指标随时间的变化，我们揭示了性能与公平性之间非平凡的相互作用，这种作用既取决于 CL 算法的选择，也取决于人口群体的交叉性。我们发现，准确率下降通常会加剧不公平，反过来，公平性改善随时间推移仍然很少见。剖析 CL 方法家族（回放、提示、正则化）后，我们观察到不公平的遗忘不能仅由代表性不足来解释，而很可能与表征学习纠缠在一起。因此，我们呼吁 CL 方法在平衡稳定性—可塑性权衡时，将社会结果纳入考量。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.21974 [cs.LG] |
| （或 arXiv:2610.21974v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21974 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Martin Mundt [查看电子邮件]
[v1]
2026 年 10 月 15 日星期四 14:30:45 UTC（2,775 KB）
来源：arXiv cs.AI · arxiv.org