跳到正文
热点事件持续更新

ICA Lens:用非高斯性发现可解释方向

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Sida Liu、Feijiang Han、Sarah Wiegreffe 和 Furong Huang 提出 ICA Lens,直接在语言模型残差流激活空间中搜索非高斯方向,以发现可解释特征,无需训练稀疏字典。 研究者在 GPT-2 Small、Gemma 2 2B 和 Qwen 3.5 9B Base 上测试,称恢复的方向捕获了连贯的词汇、句法和语义模式,且非高斯性与人类标签置信度及自动可解释性正相关。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    ICA Lens:非高斯性揭示语言模型中的可解释方向

    研究者提出 ICA Lens,直接在 LLM 残差流激活空间中搜索非高斯方向来发现可解释特征,无需训练稀疏字典。在 GPT-2 Small、Gemma 2 2B 和 Qwen 3.5 9B Base 上,恢复的方向捕获了连贯的词汇、句法和语义模式,非高斯性与人类标签置信度及自动可解释性正相关。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。