研究者提出基于KAN的非线性嵌入层压缩方法

Oliver Giudice 与 Anna Russo 提出一种基于 Kolmogorov Arnold Networks（KAN）的嵌入层压缩方案，用可学习的非线性投影替代低秩分解中的固定线性变换。两人称，这一改动旨在缓解线性瓶颈对表征能力的限制、提升压缩嵌入层的表达能力。 该方案目前以预印本形式发布在 arXiv cs.CL，尚未见经同行评议的验证结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。