arXiv cs.AI· Yonatan Sverdlov, Benjamin Friedman, Snir Hordan, Nadav Dym·· 3 天前AI 评分22
何时以及如何做规范化：一个泛化视角
When and How to Canonize: A Generalization Perspective
AI 导读
研究提出理论框架，通过覆盖数界定群平均与规范化方法在非不变骨干网络上的泛化误差，证明规范化模型的误差界最好与结构不变和群平均模型持平，最差与非不变基线持平，且取决于规范化的正则性。在点云置换群上，该框架证明字典序排序的覆盖数随维度指数增长，而 Hilbert 曲线规范化保证多项式增长，首次为 Hilbert 曲线序列化在 SOTA 点云架构中的成功提供形式化理论依据。
正文 · AI 翻译
摘要：虽然不变架构是处理对称数据的标准方法，但通过将群平均或规范化应用于非不变骨干网络来实现不变性正引起越来越多的兴趣。然而，这些替代策略的理论泛化性质仍然鲜为人知。我们引入了一个理论框架，通过界定这些方法的覆盖数来分析其泛化误差。我们建立了一个严格的泛化层级：规范化模型的误差界至多等于结构不变模型和群平均模型的误差界，至差等于非不变基线的误差界。此外，我们表明存在达到最优误差界的最优规范化，以及达到非不变误差界的劣质规范化，并且这取决于规范化的正则性。最后，将此框架应用于点云处理中的置换群，我们严格证明了字典序排序的覆盖数随点云维度呈指数增长，而希尔伯特曲线规范化保证多项式增长。这为希尔伯特曲线序列化在最先进点云架构中的经验成功提供了首个正式理论依据。我们以支持理论主张的实验作为结论。
代码可在 此 https URL 获取
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2605.11008 [cs.LG] |
| （或 arXiv:2605.11008v3 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2605.11008 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yonatan Sverdlov [查看电子邮件]
[v1]
2026年5月10日星期日 08:51:37 UTC（187 KB）
[v2]
2026年9月27日星期日 09:47:44 UTC（188 KB）
[v3]
2026年10月11日星期日 13:50:43 UTC（188 KB）
来源：arXiv cs.AI · arxiv.org