本文从CSDN上转移过来:
http://blog.csdn.net/mounty_fsc/article/details/51699568
Filter类在Caffe中用来初始化权值大小,有如下表的类型:
类型 | 派生类 | 说明 |
---|---|---|
constant | ConstantFiller | 使用一个常数(默认为0)初始化权值 |
gaussian | GaussianFiller | 使用高斯分布初始化权值 |
positive_unitball | PositiveUnitballFiller | |
uniform | UniformFiller | 使用均为分布初始化权值 |
xavier | XavierFiller | 使用xavier算法初始化权值 |
msra | MSRAFiller | |
bilinear | BilinearFiller |
1 xavier
使用分布 $ x \sim U(-\sqrt{3/n}, +\sqrt{3/n}) $ 初始化权值$ w $ 为。总的来说$n$的值为输入输出规模相关,公式如下:
$$n=\left {
\begin{aligned}
& fan_in &default \
& \frac{fan_in + fan_out}{2} & variance_norm=AVERAGE \
& fan_out & variance_norm=FAN_OUT
\end{aligned}
\right.
$$
$$\left {
\begin{aligned}
& fan_in = blob.count / blob.num \
& fan_out = blob.count / blob.channels
\end{aligned}
\right.
$$