ICA Lens:用非高斯性发现可解释方向
热点事件持续更新
ICA Lens:用非高斯性发现可解释方向
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Sida Liu、Feijiang Han、Sarah Wiegreffe 和 Furong Huang 提出 ICA Lens,直接在语言模型残差流激活空间中搜索非高斯方向,以发现可解释特征,无需训练稀疏字典。 研究者在 GPT-2 Small、Gemma 2 2B 和 Qwen 3.5 9B Base 上测试,称恢复的方向捕获了连贯的词汇、句法和语义模式,且非高斯性与人类标签置信度及自动可解释性正相关。
AI 根据报道生成 · 1 小时前更新
最新进展11月18日 13:00
ICA Lens:非高斯性揭示语言模型中的可解释方向报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AIICA Lens:非高斯性揭示语言模型中的可解释方向
研究者提出 ICA Lens,直接在 LLM 残差流激活空间中搜索非高斯方向来发现可解释特征,无需训练稀疏字典。在 GPT-2 Small、Gemma 2 2B 和 Qwen 3.5 9B Base 上,恢复的方向捕获了连贯的词汇、句法和语义模式,非高斯性与人类标签置信度及自动可解释性正相关。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。