1.前向传播
最大子采样函数取区域内所有神经元的最大值(max-pooling)。以下图为例,输入数据X为4*4,采样核size为2,stride为2,no padding。输入数据大小类似卷积层的计算方法,(input_width+2*pad-pool_size)/stride+1。前向传播中不仅要计算pool区域内的最大值,还要记录该最大值所在输入数据中的位置,目的是为了在反向传播中,需要把梯度值传到对应最大值所在的位置。
2.反向传播
还是引用上图,通过前向传播已知,梯度值对应上一层输出的最大值位置。具体过程如下: