無約束優(yōu)化錐模型信賴域算法研究.pdf

1、信賴域方法是求解非線性規(guī)劃的一類重要的數(shù)值計算方法.它在理論上具有較好的收斂性和強適性,近二三十年來,信賴域方法受到非線性優(yōu)化研究界的高度重視,-直是非線性規(guī)劃的研究熱點. 傳統(tǒng)的信賴域方法一般采用二次模型來逼近原問題.信賴域方法的基本思想是構(gòu)造并求解信賴域子問題.對于信賴域子問題,已經(jīng)有很多學(xué)者對此進行了深入的研究.但是,對于一些非二次性態(tài)強、曲率變化劇烈的函數(shù),用二次函數(shù)模型逼近的效果是比較差的.鑒于此,Davidon于19

2、80年首先提出了求解無約束優(yōu)化的錐模型方法.由于錐模型是比二次模型更為一般的方法,它和二次模型相比具有以下幾方面的優(yōu)勢：(1) 對于一些非二次性態(tài)強、曲率變化劇烈的函數(shù),由于錐模型具有更多的自由度,錐模型的逼近效果比二次模型的逼近效果要好.(2) 二次模型沒能充分利用到前面迭代點的有用的信息,而錐模型可以包含前面迭代過程中的函數(shù)插值信息,這有助于提高算法的效率.(3) S.Di,W.Sun和Ni等都已經(jīng)經(jīng)過理論分析和實驗證明,錐模型方法

3、能有效避免二次模型方法中的不足,從而進一步改進和完善算法.(4) 錐模型和二次模型一樣,既有牛頓法的局部收斂性又有理想的全局收斂性.鑒于錐模型的良好性質(zhì),近十多年來,錐模型吸引了越來越多學(xué)者的重視和研究,錐模型信賴域方法也因此蓬勃發(fā)展,已經(jīng)發(fā)展成為具有一定的理論基礎(chǔ)并且在實際計算中具有一定優(yōu)勢的算法.因此,本文主要研究基于錐模型的信賴域算法. 本文研究內(nèi)容如下： 第一章主要介紹了無約束優(yōu)化的信賴域方法、基于二次模型的傳統(tǒng)

4、信賴域方法的概況、最優(yōu)性條件以及錐函數(shù)的概念和它的一些性質(zhì),隨后介紹了錐模型信賴域方法的發(fā)展?fàn)顩r. 第二章,把章祥蓀[51]提出的自適應(yīng)技術(shù)和袁亞湘[48]得出的錐模型子問題的解和二次模型解之間的關(guān)系相結(jié)合,提出了一種基于錐模型的自適應(yīng)信賴域算法.新算法子問題的求解同一般直接求解錐模型子問題相比,具有簡單方便,計算量少的特點,并且在一定的假設(shè)條件下,證明了新算法的全局收斂性和超線性收斂性.數(shù)值實驗顯示新算法是有效的. 第

5、三章,提出了另一種新的錐模型的自適應(yīng)信賴域算法CATRM,和傳統(tǒng)的信賴域算法相比,CATRM算法有以下兩個優(yōu)點：信賴域半徑是自動調(diào)整的并且當(dāng)算法是成功迭代時,信賴域半徑是趨于零的.本章的新算法和第二章的算法相比具有以下三個方面優(yōu)勢：(1) 第二章的錐模型自適應(yīng)信賴域算法中要求Hessian陣的近似Bκ是正定的,本章算法并不要求Bk是正定的,只要求它是對稱陣即可.(2) 第二章的錐模型自適應(yīng)信賴域算法的收斂性結(jié)論是:liminf‖gκ‖=

6、0.本章算法的收斂性結(jié)論是:limκ→∞‖gκ‖=0.(3) 本章錐模型自適應(yīng)信賴域算法雖然并不要求Bκ是正定的,但是在計算過程中,當(dāng)κ→∞時Bκ是正定的.并在一定的條件下,證明了新算法的全局收斂性和超線性收斂性,理論分析,新算法是可行的. 第四章,把非單調(diào)策略、自適應(yīng)技術(shù)和錐模型信賴域方法相結(jié)合,提出了一種錐模型的自適應(yīng)非單調(diào)信賴域算法,在一定的條件下,證明了新算法的全局收斂性和超線性收斂性. 第五章,對錐模型擬牛頓信