求解無(wú)約束優(yōu)化問(wèn)題及非線(xiàn)性方程組的共軛梯度法.pdf

1、共軛梯度法具有迭代格式簡(jiǎn)單，存儲(chǔ)量小等優(yōu)點(diǎn)，是求解大規(guī)模無(wú)約束優(yōu)化問(wèn)題的常用方法．目前，共軛梯度法求解單調(diào)非線(xiàn)性方程組方面也受到了關(guān)注，并取得了一定的進(jìn)展．在眾多的共軛梯度法中，滿(mǎn)足充分下降條件的充分下降共軛梯度法往往更為有效．本文重點(diǎn)研究這類(lèi)方法，并用它們求解一般的非線(xiàn)性無(wú)約束優(yōu)化問(wèn)題和非線(xiàn)性方程組．從求解一般可微的無(wú)約束優(yōu)化問(wèn)題出發(fā)，討論了一類(lèi)充分下降共軛梯度法的統(tǒng)一框架，然后，將該框架下的共軛梯度法加以推廣，用于求解帶有凸約束的非

2、線(xiàn)性方程組和不可微的無(wú)約束凸優(yōu)化問(wèn)題．所取得的研究成果主要有以下幾點(diǎn)：
　　1.在前人所做工作的基礎(chǔ)上，研究求解一般無(wú)約束優(yōu)化問(wèn)題的一類(lèi)充分下降共軛梯度法，且這類(lèi)算法歸屬于一個(gè)統(tǒng)一的框架．首先，從理論上證明，該框架下的共軛梯度法滿(mǎn)足充分下降條件，且在只要求步長(zhǎng)滿(mǎn)足弱Wolfe線(xiàn)搜索的條件下強(qiáng)收斂．其次，設(shè)計(jì)了該框架下的幾個(gè)具體的下降方法，通過(guò)求解大規(guī)模的無(wú)約束優(yōu)化測(cè)試問(wèn)題，驗(yàn)證了這類(lèi)算法的有效性．
　　2.研究只利用梯度信息

3、的共軛梯度法．通過(guò)將一個(gè)混合型Dai-Yuan共軛梯度法與Dong提出的一個(gè)實(shí)用的步長(zhǎng)準(zhǔn)則相結(jié)合，來(lái)求解可微的無(wú)約束優(yōu)化問(wèn)題所對(duì)應(yīng)的駐點(diǎn)方程．該改進(jìn)后的方法只利用了目標(biāo)函數(shù)的梯度信息，避免了函數(shù)估值，提高了數(shù)值性能，為求解一般的非線(xiàn)性方程組提供了方便．理論證明得到了該改進(jìn)方法的全局收斂性．?dāng)?shù)值試驗(yàn)表明，該方法既可以有效的求解一般的無(wú)約束優(yōu)化問(wèn)題，又可以有效的求解邊界值問(wèn)題，具有了更廣泛的應(yīng)用范圍．
　　3.將幾個(gè)改進(jìn)的基本共軛梯度

4、法和混合型共軛梯度法與Dong提出的Armijo型線(xiàn)搜索相結(jié)合來(lái)求解可微的無(wú)約束優(yōu)化問(wèn)題所對(duì)應(yīng)的駐點(diǎn)方程．通過(guò)CUTEr測(cè)試問(wèn)題和邊界值問(wèn)題研究這些方法的數(shù)值行為．?dāng)?shù)值結(jié)果表明這些方法是有效的，并且可以求解那些只利用梯度信息的問(wèn)題，混合型共軛梯度法比基本共軛梯度法更為有效．
　　4.研究具有充分下降條件的共軛梯度法的兩個(gè)一般框架．通過(guò)引入超平面投影方法，將這兩個(gè)框架算法應(yīng)用到具有凸約束的非線(xiàn)性單調(diào)方程組上．在一定條件下，證得這兩類(lèi)