研究提出基于稀疏自编码器的激活引导框架

Hirofumi Morise 提出一个基于稀疏自编码器（SAE）的激活引导信息论框架：通过经验特征激活分布分析 SAE 激活，用 Jensen-Shannon 散度（JSD）量化生成或干预状态偏离数据集目标分布的程度，并据此构造指向目标激活分布的引导向量。 在问题模式生成任务中，该方法验证了有效性；教师强制脉冲实验显示，局部干预会在后续层引发结构化的下游 JSD 响应。该框架还被用于安全相关的目标—对比响应特征分析。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。