本文将在 DL 共轭梯度法的基础上,介绍 HZ 共轭梯度法。这是由 Hanger-Zhang 于 2005 年提出的一种非常经典的共轭梯度法...
共轭梯度法是一类重要的方法,特别是当维数很大时。本文将提出一种新的共轭条件,考虑其非精确线搜索。依据新的共轭条件,两种非线性共轭梯度法将会被...
本节我们将介绍共轭梯度法,只是简单的介绍一下,其收敛性的证明和共轭梯度法类似。 1、简介 LS 共轭梯度法是由 Liu 和 Storey...
本节,我们将提出两种类型的线搜索,他们都是依据标准线搜索。本文的第一种线搜索且要求能够保证在每一步产生一个下降方向,在这种线搜索下,,和方法...
本节我们将介绍另外一种经典的共轭梯度法,即是共轭梯度法。 1、引言 HS 共轭梯度法是由 和于1952 年在求解线性共轭梯度法中提出,后来被...
上节我们证明了方法在一种型线搜索下的全局收敛性。本节将证明取常数步长因子的方法的收敛性。 1、引言 PRP 共轭梯度法是由 Polak ...
在节,我们证明了方法的收敛性。然而,即使是一致凸函数,参数也可能非负。在节,我们知道采取精确线搜索的方法对于一致凸函数的全局收敛性。于是,和...
如果使用非精确线搜索如强 Wolfe 线搜索,戴彧虹在文献 中举出例子表明,即使为一致凸函数,而且参数充分小,PRP 方法都可能产生一个上升...
本文将介绍 PRP 共轭梯度法,我们又进入崭新的一页。方法的全局收敛性证明会有点难,所以在 1969 年提出 PRP 共轭梯度法,却在 19...