非線性共軛梯度算法研究.pdf

1、最優(yōu)化是一門應(yīng)用性很強(qiáng)的學(xué)科,近年來,隨著計算機(jī)的發(fā)展以及實際問題的需要,大規(guī)模優(yōu)化問題越來越受到重視.共軛梯度算法是最優(yōu)化中最常用的方法之一,它具有算法簡單、存儲需求少、易于實現(xiàn)等優(yōu)點,十分適合于大規(guī)模優(yōu)化問題. 非線性共軛梯度算法已有50多年的歷史,最早是由計算數(shù)學(xué)家Hestenes和幾何學(xué)家Stiefel為求解線性方程組Ax=b,x∈Rn而獨立提出的較著名的有FR方法、PRP方法、HS方法和LS方法等.非線性最優(yōu)化的共軛梯

2、度算法的收斂性分析,也就是討論各種共軛梯度算法在不同線搜索下的收斂性質(zhì).早期工作主要由Fletcher、Powell、Beale等學(xué)者給出的,后來Nocedal、Gilbert、Nazareth、Al-Baali、Storey等學(xué)者在收斂性方面得到不少新結(jié)果,我國學(xué)者戴閾虹、袁亞湘、韓繼業(yè)、劉光輝、王長鈺、連淑君、時貞軍、韋增欣等也得到了不少新成果.每種經(jīng)典的非線性共軛梯度算法都有各自的優(yōu)缺點,為了結(jié)合各種方法的優(yōu)點,混合非線性共軛梯度

3、算法應(yīng)運而生.也有很多學(xué)者研究超記憶梯度法等. 本文主要研究求解無約束優(yōu)化問題的非線性共軛梯度算法,并討論這些方法的全局收斂性和數(shù)值表現(xiàn)，從對各個經(jīng)典方法的收斂性分析希望找到收斂性和數(shù)值表現(xiàn)更好的方法,本文從βκ和ακ的構(gòu)造出發(fā)得到了一些較好的結(jié)果. 本文的結(jié)構(gòu)如下： 第一章對最優(yōu)化方法進(jìn)行了簡單的介紹,并介紹了本文所要研究的問題、背景、已有結(jié)果以及共軛梯度算法的研究現(xiàn)狀. 第二章在CD方法的基礎(chǔ)上拓展了

4、CD方法的適用范圍,得到一簇共軛梯度下降法,且給出了充分下降性和全局收斂性的證明.數(shù)值試驗說明在拓展的范圍內(nèi)該方法是適用的. 共軛梯度算法對一般函數(shù)來說,其收斂性是有條件的,不少學(xué)者采用不同的方法對其收斂性進(jìn)行研究.第三章主要提出了共軛梯度算法全局收斂的一個充分條件,與以往為數(shù)不多的此類充分條件的研究相比該充分條件更直觀,更易于驗證.另外還構(gòu)造了滿足此充分條件的βκ,數(shù)值試驗說明該方法是有效的. 第四、五章分別提出了一種新Arm