arXiv cs.CL· Lucia Gomez, Gabin Taibi, Julius Sipke Kooistra·· 10 小时前AI 评分29
TOPol:重建与解读多维语义极性场
TOPol: Reconstructing and Interpreting Multidimensional Semantic Polarity Fields
AI 导读
TOPol 提出一种反转概念-方向范式的方法,不预设构念,而是将主题映射到 Transformer 残差流中其文档支持的、统计上可复现的全部双极语义轴。
正文 · AI 翻译
摘要:自然语言处理中的极性长期以来被操作化为单一维度:情感构念。我们质疑这种一维视角,提出在不预先指定答案的情况下,探究一个主题的文档在哪些方面呈现双极性。TOPol 反转了通常的概念—方向范式:它不把某个命名构念映射到一个方向,而是把一个主题映射到其文档在 transformer 残差流中所支持的、全部统计上可复现的双极语义轴集合,然后才追问其中哪些对应已知构念。这些轴不必是评价性的。该方法是对每个主题文档云进行递归的、构造上正交的二分划分,候选轴只有通过一个预先指定的分半稳定性门槛,才会被提升为发现。我们首先对照一个已知答案进行校准:在 Gemma 3 4B 上针对 9,986 条 Amazon 评论(发现 14 个主题),星级评分差均值向量充当一把构造上已知为情感的量尺。发现过程在从未见过评分标签的情况下,于每个主题中盲复现出情感轴(余弦 0.71-0.97),而同一门槛认证了 543 个轴,其中 106 个与情感近乎正交却同样可复现;每个主题支持 33-45 个相互正交的轴,且情感轴比其他轴在更靠后的层中解析出来。差分词汇、基于内部表示的自然语言解码器以及基于词汇的聚类,在非情感轴对比的内容上彼此一致;按共享词汇聚类浮现出 99 个族,其中 9 个跨主题复现。与量尺的方向相似度只能微弱预测独立的情感估计($r=0.243$)。极性最好被视为主题表示几何的一种属性,具有可测量的秩和逐轴深度,而非一个通用标量。
| 评论: | 16 页,8 幅图,5 张表 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2510.25069 [cs.CL] |
| (或 arXiv:2510.25069v3 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2510.25069 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Lucia Gomez Teijeiro [查看邮箱]
[v1]
2025 年 10 月 29 日周三 01:14:21 UTC(9,048 KB)
[v2]
2026 年 2 月 10 日周二 00:46:26 UTC(9,047 KB)
[v3]
2026 年 10 月 31 日周六 20:28:41 UTC(682 KB)
来源:arXiv cs.CL · arxiv.org