Avatar notebook default
33篇文章 · 34099字 · 4人关注
  • 深度学习讲稿(29)

    5.6.2 批量梯度下降法的代码实现 在开始代码之前,我们首先介绍一个numpy的小技巧:矩阵的展平。这里使用到的是numpy中的ravel函数...

  • 深度学习讲稿(28)

    5.6 批量梯度下降法 5.6.1 PCA降维的意义 在很多时候,我们需要综合使用随机梯度下降法和瀑布下降法的长处。这时往往数据量很大,一次计算...

  • 深度学习讲稿(27)

    5.5 瀑布下降法 我们在没有讲述瀑布下降法(即完全梯度下降法)之前就比较了这个方法和随机梯度下降法的优劣。很多人会觉得丈二金刚摸不着头脑。但是...

  • 深度学习讲稿(26)

    5.4 随机和完全的比较 在之前的小节中(参见5.2节),我们已经知道完全梯度下降法的算法逻辑是对所有数据条都计算其代价函数的梯度值,然后利用此...

  • 深度学习讲稿(25)

    5.3 随机梯度下降法 我们首先来看随机梯度下降法的运算顺序。前面我们已经讲了这种算法的学习逻辑。它对整个数据集要循环好几次。每次计算都利用上一...

  • 深度学习讲稿(24)

    5.2 三种梯度下降 在上节中,我们使用了梯度下降实现了多元线性回归。如果你仔细看过上面的算法。你就知道,这个算法能够找到一个解是很自然的。对于...

  • 深度学习讲稿(23)

    第5章:通用梯度下降 本章主要内容: 多输入的梯度下降学习 冻结权重的意义和用途 多输出梯度下降学习 多输入多输出梯度下降学习 可视化权重 可视...

  • Resize,w 360,h 240
    深度学习讲稿(22)

    4.4 理解梯度下降 首先我们要理解什么叫梯度。梯度实际上就是我们上一小节中和学习速率相乘的因子。它标记为:其中那个倒三角符号读作“纳布拉(na...

  • 深度学习讲稿(21)

    4.3.1 改进冷热法--梯度下降法 冷热法每次更新权重都要重新算一次,而且每次更新的权重改变虽然有一定的伸缩,但实际上更新权重完全没有依据,就...

文集作者