谱神经网络被证明具隐式正则化

Hong T. M. Chu 等研究者提出谱神经网络（SNN）架构：每个神经元对输入矩阵的奇异值施加非线性激活，以奇异值和奇异向量而非矩阵元素来坐标化矩阵空间。 他们证明，在梯度流下，用 SNN 参数化的矩阵感知模型训练时，平方损失呈指数级快速衰减，且训练过程隐式选出近似最小化核范数的解。研究者称，实证实验验证了该架构在矩阵感知任务上的有效性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。