树集成极小极大收敛率与谱蒸馏压缩方法

Binh Duc Vu 与 David S. Watson 发表研究，从谱视角分析随机森林（RF）与梯度提升机（GBM），推导出 RF 回归的极小极大最优收敛率，并证明在树生长满足温和正则条件时，诱导核算子的特征值衰减决定统计收敛速度。 基于该谱视角，作者提出压缩方案：RF 用核算子的前导特征函数、GBM 用平滑矩阵的前导奇异向量学习非线性映射。作者称，蒸馏模型比原模型小几个数量级，同时保持有竞争力的预测性能，并在森林剪枝与规则提取上优于现有算法，面向资源受限计算场景。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。