研究:LLM情感表征存在过度压缩
热点事件持续更新
研究:LLM情感表征存在过度压缩
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Laya Iyer、Sanmi Koyejo 与 Chen Shani 提交的论文在 GoEmotions 数据集上测试七个大语言模型,发现其隐藏表征相对细粒度情绪分类体系存在“过度压缩”:无监督 KMeans 聚类时,最清晰的划分只把正负情绪分开,粗粒度情绪分组所需簇数也少于完整的 28 类体系。 但线性探针仍能保留大量细粒度情绪预测信息。作者据此称,细粒度情绪信息可被访问,只是无监督几何结构更受粗粒度情感结构主导。
AI 根据报道生成 · 1 小时前更新
最新进展11月9日 13:00
语言模型表征中的情绪压缩现象研究报道时间线
沿着报道,了解事件的不同侧面。
11月9日
- arXiv cs.CL语言模型表征中的情绪压缩现象研究
研究在 GoEmotions 数据集上测试七个 LLM,发现其隐藏表征存在"过度压缩":无监督 KMeans 聚类时最清晰的划分仅将正负情绪分开,粗粒度情绪分组所需的簇数也少于完整的 28 类分类体系。但线性探针仍保留大量细粒度情绪预测信息,说明细粒度情绪信息可被访问,只是无监督几何结构更受粗粒度情感结构主导。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。