arXiv cs.AI· Alireza Rahmansetayesh, Amirhossein Yousefiramandi, Maxwell Spiridonov, Sumit Raut, Kent Ziti, Pierre Baldi·· 3 天前AI 评分18
评估 Forward-Forward 学习的新指标：Boundary Proximity Index 与错误决策区域内的样本拯救
Rescuing Points Trapped Inside Incorrect Decision Regions: A target for Evaluating and Improving Forward-Forward Learning
AI 导读
研究者提出 Boundary Proximity Index（BPI）分析框架，用于评估 Forward-Forward 学习及其变体在分类准确率之外的表现。实验发现，未训练的卷积神经网络线性探针准确率已远超随机水平，而靠近决策边界的误分类样本比深陷错误决策区域的样本更容易被"拯救"。该框架在七种 Forward-Forward 变体上验证，揭示了不同方法在拯救深度嵌入错误区域样本上的显著差异。
正文 · AI 翻译
摘要：Forward-Forward 学习用局部的、逐层的训练目标取代了端到端反向传播。其各种变体主要通过分类准确率来评估，通常使用在其表示上训练的线性探针来测量。我们表明，这种评估可能高估了学习方法的贡献：在未经训练的卷积神经网络的表示上，线性探针的准确率已经远高于随机水平。此外，单一的准确率数值无法揭示哪些数据点在训练后被正确分类，哪些仍然被错误分类。为了考察学习相对于随机、未训练基线之外带来了什么，我们提出了一种基于边界邻近指数（Boundary Proximity Index，BPI）的分析方法，BPI 是一种以类质心为参照进行归一化的多类间隔。我们将该分析应用于七种 Forward-Forward 变体及相关的层局部方法，发现靠近探针决策边界的初始误分类点，其挽救率通常高于位于错误决策区域更深处那些点。不同方法的挽救率差异很大，有些方法能纠正这些深度嵌入点中的相当一部分。总之，这些分析提供了一种超越准确率来评估表示学习的方法，并将挽救位于错误决策区域深处的点确定为改进局部学习方法的目标。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.16347 [cs.LG] |
| （或 arXiv:2610.16347v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16347 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Alireza Rahmansetayesh [查看电子邮件]
[v1]
2026年10月12日星期一 08:04:37 UTC（3,356 KB）
来源：arXiv cs.AI · arxiv.org