一類非單調(diào)線搜索的擬牛頓法和共軛梯度法研究.pdf

1、本文研究了一類非單調(diào)線搜索技術(shù)在無約束優(yōu)化問題擬牛頓算法和共軛梯度算法中的應(yīng)用.該類非單調(diào)線性搜索是屬于Armijo型的線性搜索,其思想來源是戴（或）虹2002年提出的一類單調(diào)線搜索,他那里是和共軛梯度算法結(jié)合進(jìn)行研究的.本文研究的這類非單調(diào)線搜索減弱了搜索終止條件,并且在每步計(jì)算步長(zhǎng)因子αk時(shí),引進(jìn)適時(shí)變化的初始測(cè)試步長(zhǎng)rk,而不是沿用最初提出的非單調(diào)Grippo-Lampariello-Lucidi搜索中的固定的初始測(cè)試步長(zhǎng)α.如果

2、初始測(cè)試步長(zhǎng)的選取與梯度無關(guān),那么本文研究的非單調(diào)線性搜索實(shí)質(zhì)上是一類不帶導(dǎo)數(shù)的線性搜索.它的單調(diào)情形,曾由Leone、Gaudioso和Grippo研究過,但那里僅就一類特殊的初始測(cè)試步長(zhǎng)做了討論；本文這里所做的收斂性研究并不依賴于初始測(cè)試步長(zhǎng)。 第一章:前三節(jié)簡(jiǎn)要描述了擬牛頓法和共軛梯度法的原理、發(fā)展和研究動(dòng)態(tài).第四節(jié),簡(jiǎn)介了非單調(diào)線搜索技術(shù),列舉出典型形式,其中有些是近年來的新結(jié)果.第五節(jié)簡(jiǎn)述了本文的創(chuàng)新點(diǎn)。 第二

3、章:研究一類非單調(diào)線搜索在擬牛頓算法中的應(yīng)用.眾所周知,BFGS校正公式是數(shù)值表現(xiàn)最好的擬牛頓算法之一,本章在不對(duì)BFGS公式做任何修改的情況下,使其與一類非單調(diào)線搜索結(jié)合,證明了全局收斂性.一般地,非單調(diào)線搜索方法的全局收斂性證明常常需要滿足：(1)充分下降條件:gTkdk≤-c1||gk||2,(2)有界性條件：||dk||≤c2||gk||,其中c1和c2是正數(shù).這兩個(gè)條件較強(qiáng),一般的擬牛頓法難以滿足.這也正是本問題研究難點(diǎn).本文

4、的一般性假設(shè)與文獻(xiàn)[25]相同,比文獻(xiàn)[69]有所減弱,特別是去掉了文獻(xiàn)[63]所要求的搜索方向dk滿足充分下降條件以及有界性條件的假設(shè).數(shù)值結(jié)果表明了算法的有效性。 第三章:研究一類非單調(diào)線搜索在共軛梯度算法中的應(yīng)用.目前比較多的共軛梯度算法研究是采用Wolfe單調(diào)線搜索進(jìn)行的,通過構(gòu)造Zoutendijk條件,利用反證法證明收斂性。這里研究的是一類Armijo型非單調(diào)線搜索共軛梯度算法的全局收斂性,證明思路沒有采用上述方式.

5、我們研究了非單調(diào)線搜索在四種共軛梯度算法中的收斂性情況.對(duì)于一般非凸函數(shù),證明了這類非單調(diào)線搜索下修正的PRP方法的全局收斂性.在適當(dāng)增加條件時(shí),對(duì)一般非凸函數(shù),證明了這類非單調(diào)線搜索下修正的DY方法、HZ方法和修正的FR方法的全局收斂性.通過數(shù)值結(jié)果比較了四種算法的優(yōu)劣。 本文有如下創(chuàng)新點(diǎn)： (1)研究了一類線性搜索,數(shù)值結(jié)果表明,無論是單調(diào)搜索還是非單調(diào)搜索,它優(yōu)于傳統(tǒng)的Grippo-Lampariello-Luci