MNIST数据集识别 1.MNIST数据集：提供6W张2828像素点的0~9手写数字图片和标签，用于训练。提供1W张2828像素点的0~9手写数...

搭建模块化的神经网络八股 前向传播就是搭建网络，设计网络结构（forward.py） 反向传播就是训练网络，优化网络参数（backward.py...

基于tensorflow的NN，用张量表示数据，用计算图搭建神经网络，用会话执行计算图，优化线上的权重（参数），得到模型。 张量（tensor）...

神经网络实现过程： 1.准备数据集，提取特征，作为输入，传给神经网络2.搭建NN结构，从输入到输出（先搭建计算图，再用会话执行）（NN前向传播算...

反向传播 反向传播 训练模型参数，在所有参数上用梯度下降，使NN模型在训练数据上的损失函数最小损失函数（loss）：预测值（y）与已知答案（）的...

1.神经网络NN复杂度：多用NN层数和NN参数的个数表示2.层数 = 隐藏层的层数+1个输出层3.总参数 = 总W+总bNN优化目标：loss最...

学习率learning_rate:每次参数更新的幅度参数更新向着损失函数梯度下降的方向。学习率大了不收敛，小了收敛速度慢指数衰减学习率 LE...

1.使用图 (graph) 来表示计算任务.2.在被称之为 会话 (Session) 的上下文 (context) 中执行图.3.使用 tens...

Variable 在tensorflow中只有定义该字符串是变量，它才是变量。语法： 如果你在 Tensorflow 中设定了变量，那么初始化变...

滑动平均 滑动平均（影子值）：记录了每个参数一段时间内过往值的平均，增加了模型的泛化性。针对所有参数：w和b（像是给参数加了影子，参数变化，影子...