arXiv cs.CL· Chenhui Hu, Pengfei Cao, Kang Liu, Jun Zhao·· 10 小时前AI 评分31
神经网络中的表征原子：用 TSAE 识别基本表征单元
Representational Atoms in Neural Networks
AI 导读
研究正式定义了神经网络的基本表征单元（FRU），并提出保真度与稳定性两项评价标准，证明阈值激活稀疏自编码器（TSAE）在适当条件下能高保真、高稳定地识别 FRU，并通过大规模实验验证。稳定性更高的 FRU 单义性更强，且可跨层组合还原出对应人类概念结构的语义组织。
正文 · AI 翻译
摘要：理解神经网络的内部表征并刻画其与人类概念结构的关系，是阐明模型机制的两个关键问题。前者揭示所学知识如何在内部表征中组织，后者则为通过人类概念结构解读这些表征提供了基础。在此，我们正式定义了基本表征单元（FRU），并建立了两项评估标准：保真度与稳定性。我们进一步证明，在适当条件下，阈值激活稀疏自编码器（TSAE）能够以高保真度和高稳定性识别 FRU，并通过大规模实验验证了这一结果。进一步分析表明，稳定性更高的 FRU 表现出更强的单义性，并且可以跨层组合以恢复与人类概念结构相对应的语义组织。这些结果为定义、评估和识别神经网络中的 FRU 提供了统一框架，并为刻画神经网络表征与人类概念结构之间的关系奠定了基础。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.14168 [cs.CL] |
| （或 arXiv:2611.14168v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.14168 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Chenhui Hu [查看邮箱]
[v1]
2026年11月10日星期二 14:56:23 UTC（27,134 KB）
来源：arXiv cs.CL · arxiv.org