跳到正文
arXiv cs.AI· Mitra Varun·· 10 小时前AI 评分18

非平稳监督下的拓扑动力学:神经网络权重演化的持续同调分析

Topological Dynamics Under Non-Stationary Supervision: Persistent Homology of Neural Network Weight Evolution

AI 导读

研究在正确标签、固定随机置换标签和每轮重新置换标签三种监督条件下,同一多层感知机在 Fashion-MNIST 上训练 100 个 epoch 时神经元权重点云持续拓扑的变化。正确标签模型平均真实标签测试准确率达 89.39%,固定随机标签模型仅拟合 67.94% 的指定训练目标且无法泛化到原任务。基于拓扑的早期条件分类平均平衡准确率为 60.0%,与传统诊断指标结合后未带来增量预测提升。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:我们研究了神经元权重点云的持久拓扑在稳定与非平稳监督下如何演化。一个相同的多层感知机在 Fashion-MNIST 上训练,分别使用正确标签、训练标签向量的固定随机置换,或每个 epoch 重新置换。五个配对的随机种子共享初始化和小批量顺序,共训练 15 个模型,每个训练 100 个 epoch。在 22 个检查点处,对原始和行归一化的输入权重点云进行 H0 和 H1 Vietoris Rips 持久性分析。正确标签模型的平均真实标签测试准确率达到 89.39%;固定随机模型拟合了其分配训练目标的 67.94%,但未泛化到原始任务。正确标签模型的时间平均归一化 fc3 H1 持久性在描述性上大于两种随机标签条件,但配置的精确比较在 Holm 校正后未达到常规显著性。早期条件分类使用拓扑达到 60.0% 的平均平衡准确率,使用常规诊断达到 66.7%,两者结合达到 60.0%。因此,在此设置下未证明有增量预测改进。存档包含所有 3,300 个配置的拓扑案例。解释受限于五个种子、单一架构和数据集、282 个上限 H1 距离比较以及延迟的瓶颈分析。
主题: 人工智能(cs.AI)
引用为: arXiv:2611.13701 [cs.AI]
  (或 arXiv:2611.13701v1 [cs.AI] 为此版本)
  https://doi.org/10.48550/arXiv.2611.13701

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Mitra Varun Gogulapati Mr [查看电子邮件]
[v1] 2026年11月10日星期二 07:46:13 UTC(7,407 KB)

来源:arXiv cs.AI · arxiv.org