無(wú)約束優(yōu)化問(wèn)題改進(jìn)的信賴域方法.pdf

1、信賴域方法是求解無(wú)約束優(yōu)化問(wèn)題的一類重要方法，它不要求Hessian矩陣在每個(gè)迭代點(diǎn)處均正定，并適合于求解一些病態(tài)問(wèn)題，而且它還具有較強(qiáng)的收斂性和魯棒性。由于這些優(yōu)點(diǎn)，對(duì)信賴域方法的研究成為當(dāng)今非線性優(yōu)化領(lǐng)域內(nèi)一個(gè)重要研究方向。本文首先研究了一類非單調(diào)線搜索的F-準(zhǔn)則。然后針對(duì)三類改進(jìn)的信賴域算法具體給出了算法模型；在合理的假設(shè)條件下，對(duì)這些方法的全局收斂性和超線性收斂性進(jìn)行了論證；并給出了數(shù)值試驗(yàn)。本論文的主要內(nèi)容如下：
　　1

2、.研究了一類求解無(wú)約束優(yōu)化問(wèn)題的非單調(diào)線搜索的F-準(zhǔn)則。在強(qiáng)迫函數(shù)和連續(xù)梯度逆模定義的基礎(chǔ)上，給出了新的非單調(diào)線搜索F-準(zhǔn)則，證明了這種F-準(zhǔn)則是Zhang和Hager所給非單調(diào)線搜索方法的一般形式；同時(shí)在較弱的條件下，證明了這種線搜索F-準(zhǔn)則是全局收斂的；最后，利用當(dāng)前迭代點(diǎn)的信息構(gòu)造了一類自調(diào)節(jié)初始步長(zhǎng)的非單調(diào)線搜索方法，并給出了這類方法的一些重要性質(zhì)。
　　2.研究了一種求解無(wú)約束優(yōu)化問(wèn)題自適應(yīng)的信賴域方法。首先構(gòu)造了一種自

3、適應(yīng)的信賴域方法。在每個(gè)迭代點(diǎn)處，我們充分利用當(dāng)前迭代點(diǎn)和先前迭代點(diǎn)的信息來(lái)構(gòu)造信賴域半徑，使得二次函數(shù)模型和目標(biāo)函數(shù)在當(dāng)前信賴域內(nèi)具有更好的相似性。對(duì)于信賴域半徑的調(diào)整，給出了一個(gè)新的調(diào)整策略，該策略利用當(dāng)前比值和先前比值的一個(gè)凸組合。這種自適應(yīng)的方法不但克服了初始信賴域半徑選取的盲目性，而且降低了問(wèn)題的復(fù)雜性，加快了算法的收斂速度；然后在適當(dāng)?shù)臈l件下，證明了算法是全局收斂和超線性收斂的；最后，對(duì)所給算法進(jìn)行了數(shù)值試驗(yàn)，結(jié)果表明新的自

4、適應(yīng)信賴域方法是非常有效的。
　　3.基于錐模型信賴域子問(wèn)題，并結(jié)合非單調(diào)技巧，提出了一種非單調(diào)自適應(yīng)的錐模型信賴域方法。在迭代的過(guò)程中，算法不要求函數(shù)值在每一步都下降，特別是對(duì)于目標(biāo)函數(shù)存在彎曲峽谷的情形，非單調(diào)性能加快算法的收斂速度。對(duì)于非二次性態(tài)較強(qiáng)或曲率改變比較劇烈的目標(biāo)函數(shù)，錐模型能夠?qū)瘮?shù)的極小值產(chǎn)生較好的預(yù)測(cè)，彌補(bǔ)了二次模型方法的缺陷。在合理的假設(shè)條件下，證明了算法是全局收斂的，并對(duì)單調(diào)信賴域方法、二次模型信賴域方法

5、和非單調(diào)錐模型信賴域方法進(jìn)行了數(shù)值試驗(yàn)，結(jié)果表明該方法是可行的和穩(wěn)定的。
　　4.以錐模型信賴域子問(wèn)題為基礎(chǔ)，研究了一種帶線搜索的非單調(diào)錐模型信賴域方法。在每個(gè)迭代點(diǎn)處，優(yōu)先使用非單調(diào)錐模型信賴域方法，當(dāng)試探步不能被接受時(shí)，使用非單調(diào)線搜索尋找下一個(gè)迭代點(diǎn)。從而在每個(gè)迭代點(diǎn)處，只需要求解一次子問(wèn)題就可以得到成功的迭代點(diǎn)，這種情形可以避免過(guò)大的計(jì)算量，加快算法的收斂速度。在適當(dāng)?shù)臈l件下，證明了這種算法是全局收斂和超線性收斂的。數(shù)值試