本文将在 DL 共轭梯度法的基础上,介绍 HZ 共轭梯度法。这是由 Hanger-Zhang 于 2005 年提出的一种非常经典的共轭梯度法。我们所创新的共轭梯度法都会于...
本文将在 DL 共轭梯度法的基础上,介绍 HZ 共轭梯度法。这是由 Hanger-Zhang 于 2005 年提出的一种非常经典的共轭梯度法。我们所创新的共轭梯度法都会于...
共轭梯度法是一类重要的方法,特别是当维数很大时。本文将提出一种新的共轭条件,考虑其非精确线搜索。依据新的共轭条件,两种非线性共轭梯度法将会被提出,同时给出其收敛性分析。 ...
本节我们将介绍共轭梯度法,只是简单的介绍一下,其收敛性的证明和共轭梯度法类似。 1、简介 LS 共轭梯度法是由 Liu 和 Storey 提出在 1991 年提出的一...
本节,我们将提出两种类型的线搜索,他们都是依据标准线搜索。本文的第一种线搜索且要求能够保证在每一步产生一个下降方向,在这种线搜索下,,和方法且非负都能够建立全局收敛性。然...
本节我们将介绍另外一种经典的共轭梯度法,即是共轭梯度法。 1、引言 HS 共轭梯度法是由 和于1952 年在求解线性共轭梯度法中提出,后来被用于求解非线性无约束优化问题。...
上节我们证明了方法在一种型线搜索下的全局收敛性。本节将证明取常数步长因子的方法的收敛性。 1、引言 PRP 共轭梯度法是由 Polak 和 Ribiere 和 Pol...
在节,我们证明了方法的收敛性。然而,即使是一致凸函数,参数也可能非负。在节,我们知道采取精确线搜索的方法对于一致凸函数的全局收敛性。于是,和致力于寻找这样的一种线搜索,以...
如果使用非精确线搜索如强 Wolfe 线搜索,戴彧虹在文献 中举出例子表明,即使为一致凸函数,而且参数充分小,PRP 方法都可能产生一个上升搜索方向。如果每一个搜索方向都...
本文将介绍 PRP 共轭梯度法,我们又进入崭新的一页。方法的全局收敛性证明会有点难,所以在 1969 年提出 PRP 共轭梯度法,却在 1992 年才证明其全局收敛性。 ...