FisherDistill 用闭式 Fisher 判别器替代对抗判别器做扩散蒸馏

Mahesh Bhosale 等作者提出扩散蒸馏方法 FisherDistill，用 Fisher 线性判别分析替代可学习对抗判别器，完成扩散模型蒸馏中的分布精修。 该方法利用冻结教师模型的中间表示估计真实样本与生成样本的一阶、二阶统计量，据此导出闭式 Fisher 方向以最大化分离特征分布，因此不需要额外判别器及其优化循环。作者称，在多个蒸馏框架上，该方法均优于各自的蒸馏基线，并大幅缩小了与对抗精修版本的差距。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。