跳到正文
RadarAI· 山景城小路·· 3 小时前AI 评分18

神经网络为何使用 ReLU 作为激活函数

Why Neural Networks Use ReLU as Activation Function

AI 导读

ReLU 相比 Sigmoid 和 Tanh 的优势在于梯度流动更好、计算效率更高以及稀疏激活特性。该解释同时提到了 ReLU 的神经元死亡（dying ReLU）问题。

来源：RadarAI · bestblogs.dev

教程实践#教程/实践