研究者提出去除PC1的SAE训练修正法

Nathan Delisle 与 Chenhao Tan 提出一种去除第一主成分（PC1）的稀疏自编码器（SAE）训练修正方法：在去掉 PC1 的激活上训练 SAE，再把 PC1 加回重建结果。研究者称，SAE 常用的方差解释率与消融损伤两项评估指标会受到大规模激活干扰，最多 99.9% 的激活方差集中在 PC1 上，而 PC1 没有唯一的稀疏分解，导致每次训练重建出的特征不同。 该修正法针对的是上述评估与训练不稳定问题，目前报道只给出方法思路，未报告修正后的评估效果。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。