arXiv cs.AI· {\L}ukasz Struski, Hanna Blazhko, Piotr Kubaty, Jacek Tabor·· 11 小时前AI 评分26
LAPLEX：可学习拉普拉斯核的FFT式算子
LAPLEX: The FFT of Learnable Laplace Kernels
AI 导读
LAPLEX 提出一类精确、可训练的（相位化）拉普拉斯核算子，单层即为通常满秩的稠密矩阵，却由可学习坐标锚点隐式定义，具备类 FFT 的扩展性。它可在现代 GPU 上支持向量维度高达 10^9 的可训练矩阵—向量运算，并作为高效 Gram 算子，在维度 3·10^6 的展平图像上构建高维协方差模型且保留可见空间结构。其核心在于稠密几何无需存储稠密矩阵即可学习，将表达能力与存储成本分离。
正文 · AI 翻译
摘要：深度学习中的快速线性代数通常面临一种取舍：要么采用固定几何与精确计算（如傅里叶变换），要么采用自适应几何，但需以稠密参数、随机特征或低秩替代模型为代价。为突破这一取舍，我们提出 LAPLEX，一类精确、可训练的（分相）拉普拉斯核算子。
一个 LAPLEX 层通常是一个满秩稠密矩阵，由可学习的坐标锚点隐式定义，并具有类 FFT 的扩展性。因此，它支持在现代 GPU 上对维度高达 $10^9$ 的向量进行可训练的矩阵—向量运算。作为神经层，它可产生紧凑的投影和分类头，并可解释为软性、可训练的路由模型。同一原语还可作为高效的 Gram 算子，从而能够在维度为 $3 \cdot 10^6$ 的展平图像上构建高维协方差模型，这些模型保留可见的空间结构，且不施加卷积偏置。这些应用体现了一个原则：稠密几何可以在不存储稠密矩阵的情况下被学习，这使得在普通稠密层无法企及的规模下实现数据自适应的全局交互成为可能。在此意义上，LAPLEX 将表达能力与存储成本分离：它的行为类似一个稠密可训练矩阵，但通过一小组结构化参数来表示和应用。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2605.24584 [cs.LG] |
| （或 arXiv:2605.24584v2 [cs.LG] 为本版本） | |
| https://doi.org/10.48550/arXiv.2605.24584 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Piotr Kubaty [查看邮箱]
[v1]
2026年5月23日星期六 13:48:33 UTC（17,393 KB）
[v2]
2026年11月4日星期三 22:04:34 UTC（17,393 KB）
来源：arXiv cs.AI · arxiv.org