求解非線性優(yōu)化問題的非線性Lagrange方法.pdf

1、非線性Lagrange函數(shù)是經(jīng)典的Lagrange函數(shù)的修正形式，它關(guān)于乘子向量或約束函數(shù)是非線性函數(shù)，基于非線性Lagrange函數(shù)建立的求解優(yōu)化問題的對偶方法即為非線性Lagrange方法.由于對偶方法對原始變量的可行性沒有限制，因此非線性Lagrange方法在求解約束優(yōu)化問題中扮演著重要的角色.本文主要研究求解具有不等式約束的非線性優(yōu)化問題的兩類非線性Lagrange函數(shù)與相應(yīng)的對偶算法的收斂性，給出兩大類非線性Lagrange方

2、法的理論框架，并在第二類非線性Lagrange方法中找到一從理論分析和數(shù)值計(jì)算上都比已有的方法優(yōu)越的基于NCP函數(shù)而構(gòu)造的新的非線性Lagrange方法. 1.第2章，建立了關(guān)于乘子是線性函數(shù)的一類非線性Lagrange方法的理論框架.首先，給出了若干假設(shè)條件以保證該類非線性Lagrange算法的收斂性，同時(shí)這些條件對于建立基于該類非線性Lagrange函數(shù)的對偶理論以及分析Lagrange函數(shù)Hesse陣的條件數(shù)都是必要的.收

3、斂定理表明：當(dāng)懲罰參數(shù)k大于某一閾值時(shí)，基于該類函數(shù)的對偶算法生成的原始-對偶點(diǎn)列是局部收斂的，且原始-對偶解的誤差界與k-1成正比.通過分析得到，該類非線性Lagrange函數(shù)的Hesse陣在最優(yōu)點(diǎn)處的條件數(shù)與懲罰參數(shù)k成正比.其次，建立了基于該類Lagrange函數(shù)的對偶理論，包括對偶定理，對偶問題最優(yōu)解的二階充分性條件，鞍點(diǎn)定理以及用擾動函數(shù)來刻畫的鞍點(diǎn)存在的充分條件.之后討論了二階乘子迭代方法的收斂性，證明了若問題函數(shù)的Hess

4、e陣滿足Lipschitz條件，則由二階乘子迭代方法產(chǎn)生的序列具有二階線性收斂速率.最后，通過數(shù)值實(shí)驗(yàn)驗(yàn)證了所給出的基于各個非線性Lagrange函數(shù)的對偶算法的有效性. 2.第3章，建立了關(guān)于乘子是非線性函數(shù)的另一類非線性Lagrange方法的理論框架.首先，給出了若干假設(shè)條件以保證該類非線性Lagrange算法的收斂性，這些條件對于分析Lagrange函數(shù)Hesse陣的條件數(shù)以及建立相應(yīng)的對偶理論都是必要的.驗(yàn)證了文獻(xiàn)中已有

5、的眾多非線性Lagrange函數(shù)均滿足這些條件.收斂定理表明：當(dāng)Lagrange函數(shù)中的參數(shù)t小于某一閾值時(shí)，基于該類函數(shù)的對偶算法生成的原始-對偶點(diǎn)列是局部收斂的，且原始-對偶解的誤差界與參數(shù)t成正比.通過分析得到，該類非線性Lagrange函數(shù)的Hesse陣在最優(yōu)點(diǎn)處的條件數(shù)與t-1成正比.其次，建立了基于該類Lagrange函數(shù)的對偶理論，包括對偶定理，對偶問題最優(yōu)解的二階充分性條件以及鞍點(diǎn)定理.最后，用基于該類非線性Lagran

6、ge函數(shù)建立的對偶算法計(jì)算了若干算例，報(bào)告了得到的數(shù)值結(jié)果. 3.第4章，建立了一類基于NCP函數(shù)構(gòu)造的非線性Lagrange方法的理論框架.包括一般性的假設(shè)以及在這些假設(shè)下的收斂性定理.證明了著名的經(jīng)典增廣Lagrange函數(shù)可以由極小值函數(shù)產(chǎn)生.由著名的Fischer-Bermeister函數(shù)可產(chǎn)生一個新的非線性Lagrange函數(shù)，該函數(shù)在文獻(xiàn)中未曾見過.討論了新的非線性Lagrange方法的收斂性，收斂定理表明：當(dāng)控制參

7、數(shù)t小于某一閾值(t)時(shí)，基于該類函數(shù)的對偶算法生成的原始-對偶點(diǎn)列是局部收斂的，且原始解的誤差界與參數(shù)t成正比，尤其對應(yīng)于在最優(yōu)解處非起作用的約束的乘子是二階收斂的，這在非線性Lagrange方法的研究中似乎是新的結(jié)果.和前面的討論相類似，對該Lagrange函數(shù)的Hesse陣在最優(yōu)點(diǎn)處的條件數(shù)以及相應(yīng)的對偶理論進(jìn)行研究.最后，用基于該Lagrange函數(shù)的對偶算法計(jì)算了一組算例，數(shù)值結(jié)果表明所提出的非線性Lagrange方法在求解很