链式法则 梯度下降与反向传播（含过程推导及证明）

常见的损失函数 通常机器学习每一个算法中都会有一个目标函数，算法的求解过程是通过对这个目标函数优化的过程。在分类或者回归问题中，通常使用损失函数...

1 修正线性单元（ReLU） 从上图可以看到，ReLU 是从底部开始半修正的一种函数。数学公式为： 当输入 x<0 时，输出为 0，当 x> 0...

Tanh 激活函数又叫作双曲正切激活函数（hyperbolic tangent activation function）。与 Sigmoid 函...

又叫作 Logistic 激活函数，它将实数值压缩进 0 到 1 的区间内，还可以在预测概率的输出层中使用。该函数将大的负数转换成 0，将大的正...

卷积神经网络（Convolutional Neural Networks，CNN）是一种前馈神经网络。卷积神经网络是受生物学上感受野（Recep...