非線性優(yōu)化問題的一類新的混合共軛梯度算法研究.pdf

1、最優(yōu)化是一門應(yīng)用性很強(qiáng)的學(xué)科．隨著計(jì)算機(jī)的發(fā)展以及實(shí)際問題的需要，大規(guī)模優(yōu)化問題越來越受到重視．于是，快速有效的算法成為研究的熱門方向．?dāng)M牛頓法和共軛梯度法就是兩類比較成功的方法，本文主要研究共軛梯度法．1964年，F(xiàn)letcher和Reeves提出了求解無約束極小化問題minf(x)的共軛梯度法，它是直接由Hestenes和Stiefel解線性方程組而獨(dú)立提出的．共軛梯度算法由此開始發(fā)展．Powell在文獻(xiàn)[5]給出了FR方法采用精確

2、線性搜索時(shí)的收斂性證明．1985年，Al-Baalit<'[6]>證明了FR方法在非精確線性搜索即強(qiáng)Wolfe線搜索下的全局收斂性．1969年，Polak，Ribiere和Polyak提出PRP方法，PRP方法和HS方法是目前認(rèn)為數(shù)值表現(xiàn)較好的共軛梯度算法．但Powell在[5]中指出，即使采用精確線搜索，PRP方法也不具有全局收斂性．近年來，韓繼業(yè)、袁亞湘、戴或虹等許多學(xué)者在共軛梯度法的理論研究中取得了一批優(yōu)秀的成果．1995年，Da

3、i 和 Yuan<'[9]>提出了DY方法，并且證明方法的全局收斂性．1996年，Dai el Yuan在[12]中對(duì)Wolfe線搜索進(jìn)行了擴(kuò)充，得到了廣義Wolfe線搜索，并證明廣義Wolfe線搜索下FR方法的收斂性．1997年，L．Grippo和S．Lucidi<'[13]>提出了Grippo-Lucidi線搜索，并證明了在此搜索下Polak-Ribiere-Polyak方法的全局收斂性．1990年，Touati-Ahmed和Sto

4、rey<'[7]>首先引入了混合共軛梯度算法，把β<'FR><,k>和β<'PR><,k>結(jié)合起來，得到具有較好的數(shù)值結(jié)果和全局收斂性的方法．Gilbert和Nocedal<'[8]>進(jìn)一步研究了混合共軛梯度算法，并作了大量的數(shù)值實(shí)驗(yàn)．近年來出現(xiàn)許多新的確定參數(shù)β<,k>的公式，李榮生在[16]中提出一種新的共軛梯度法，并在一般的非精確線性搜索條件下，證明了算法的全局收斂性，但其數(shù)值表現(xiàn)不盡如人意．本文對(duì)這種算法進(jìn)行了改進(jìn)，提出一種新的

5、混合共軛梯度算法，并且在一般的非精確線搜索下，證明了其全局收斂性．通過數(shù)值試驗(yàn)表明新算法具有良好數(shù)值效果． 論文整體安排如下： 在第一章中，首先簡(jiǎn)要介紹非線性優(yōu)化問題的主要理論，回顧了求解無約束優(yōu)化問題常用的幾類導(dǎo)數(shù)下降類算法． 在第二章中，對(duì)一般共軛梯度法迭代格式，給出了一種新的公式，并且證明了此算法在采用Wolfe非精確線搜索下的全局收斂性，并采用文獻(xiàn)[19]中的測(cè)試函數(shù)作了數(shù)值實(shí)驗(yàn)，新算法有較好的數(shù)值表現(xiàn)性