arXiv cs.AI· Jingzhou Liu·· 12 小时前AI 评分18
面向神经网络损失景观临界轨道的通用拓扑对称性指数
A General Topological Symmetry Index for Critical Orbits In Neural Network Loss Landscapes
AI 导读
研究者提出一种基于等变度理论的拓扑对称性指数，用于解码神经网络损失景观中由架构与学习目标产生的对称性及其临界轨道。该框架适用于任意网络架构，并包含可处理退化临界轨道的方法，能检测临界点的各向同性并量化相应的净拓扑贡献。论文以 softplus MLP、Transformer 和等变神经网络为例演示了具体计算。
正文 · AI 翻译
摘要：由于神经网络损失景观的高维性，对其全局结构的系统性理解仍然具有挑战性。由网络架构和学习目标产生的对称性为研究这一结构的各个方面提供了途径。尽管越来越多的研究关注这些对称性，但对它们以及它们所产生的临界轨道的系统性刻画仍不完整。为填补这一空白，本文基于等变度理论族的方法论，建立了一个拓扑对称性指数来解码这些对称性。该框架适用于任意网络架构，并包含适用于退化临界轨道的方法。该指数检测临界点的各向同性，并量化相应的净拓扑贡献。文中给出了若干示例，包括 softplus MLP、Transformer 和等变神经网络，以说明计算过程。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.28864 [cs.LG] |
| （或 arXiv:2610.28864v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.28864 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jingzhou Liu [查看邮箱]
[v1]
2026年10月20日 星期二 19:35:52 UTC（126 KB）
来源：arXiv cs.AI · arxiv.org