用matlab實現(xiàn)共軛梯度法求解實例

1、用 MATLAB 實現(xiàn)共軛梯度法求解實例 實現(xiàn)共軛梯度法求解實例康福 康福 201103710031 201103710031一． 一．無約束優(yōu)化方法 無約束優(yōu)化方法1.1 1.1 無約束優(yōu)化方法的必要性 無約束優(yōu)化方法的必要性一般機(jī)械優(yōu)化設(shè)計問題，都是在一定的限制條件下追求某一指標(biāo)為最小，它們都屬于約束優(yōu)化問題。但是為什么要研究無約束優(yōu)化問題?（1）有些實際問題，其數(shù)學(xué)模型本身就是一個無約束優(yōu)化問題。（2）通過熟悉它的解法可以為研究

2、約束優(yōu)化問題打下良好的基礎(chǔ)。（3）約束優(yōu)化問題的求解可以通過一系列無約束優(yōu)化方法來達(dá)到。所以無約束優(yōu)化問題的解法是優(yōu)化設(shè)計方法的基本組成部分，也是優(yōu)化方法的基礎(chǔ)。（4）對于多維無約束問題來說，古典極值理論中令一階導(dǎo)數(shù)為零，但要求二階可微，且要判斷海賽矩陣為正定才能求得極小點，這種方法有理論意義，但無實用價值。和一維問題一樣，若多元函數(shù) F(X)不可微，亦無法求解。但古典極值理論是無約束優(yōu)化方法發(fā)展的基礎(chǔ)。 1.2 1.2 共軛梯度法 共

3、軛梯度法目前已研究出很多種無約束優(yōu)化方法，它們的主要不同點在于構(gòu)造搜索方向上的差別。 （1）間接法——要使用導(dǎo)數(shù)，如梯度法、 （阻尼）牛頓法、變尺度法、共軛梯度法等。（2）直接法——不使用導(dǎo)數(shù)信息，如坐標(biāo)輪換法、鮑威爾法單純形法等。用直接法尋找極小點時，不必求函數(shù)的導(dǎo)數(shù)，只要計算目標(biāo)函數(shù)值。這類方 法較適用于解決變量個數(shù)較少的（n ≤20）問題，一般情況下比間接法效率低。間接法除要計算目標(biāo)函數(shù)值外，還要計算目標(biāo)函數(shù)的梯度，有的還要計算

4、其海賽 矩陣。 搜索方向的構(gòu)成問題乃是無約束優(yōu)化方法的關(guān)鍵。 共軛梯度法是沿著共軛方向進(jìn)行搜索，屬于共軛方向法中的一種，該方法中 每一個共軛向量都是依賴于迭代點處的負(fù)梯度而構(gòu)造出來。共軛梯度法作為一種實用的迭代法，它主要有下面的優(yōu)點： （1）算法中，系數(shù)矩陣Ａ的作用僅僅是用來由已知向量 P 產(chǎn)生向量 W=AP，這不僅可充分利用Ａ的稀疏性，而且對某些提供矩陣Ａ較為困難而由已知向量 P 產(chǎn) 生向量 W=AP 又十分方便的應(yīng)用問題是很有益的。

5、（2）不需要預(yù)先估計任何參數(shù)就可以計算，這一點不像 SOR 等； （3）每次迭代所需的計算，主要是向量之間的運算，便于并行化。共軛梯度法原理的知識較多，請詳見《機(jī)械優(yōu)化設(shè)計》第四章的第四、五節(jié)。圖 1 為共軛梯度法的程度框圖1 ( 0,1,2, )k k kks k ?? ? ? ? ? x x（2）學(xué)習(xí)并撐握共軛梯度法的原理、方法及應(yīng)用，并了解不同無約束優(yōu)化方法的 區(qū)別、優(yōu)缺點及特殊要求。（3）編寫程序，計算出二次函數(shù)的極小點及極小值

6、，并適當(dāng)選取不同的初始點及 迭代精度精度，分析比較結(jié)果。三．計算步驟 三．計算步驟3.1 3.1 計算求解 計算求解解：已知初始點[1,1]T 迭代精度 0.001 ? ?1）第一次沿負(fù)梯度方向搜尋計算初始點處的梯度：為一維搜索最佳步長，應(yīng)滿足得：2）第二次迭代代入目標(biāo)函數(shù)由 得 從而有：因收斂。01 2 02 12 2 4 4 ( ) 4 2 2x x f x x? ? ? ? ? ? ? ?

7、? ? ? ? ? ? ? ? ? ? ? xx0 1 0 00 001 4 1 41 2 1 2? ? ? ?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?x x d1 0 0 2 ( ) min ( ) min(40 20 3) f f? ? ? ? ? ? ? ? ? ? x x d0 0.25 ? ? 1 2 0.5 ? ? ? ? ? ? ?x1 1 ( ) 2 f ?

8、? ? ? ? ? ? ? ? ?x2 12 0 0( ) 5 0.25 20 ( )ff? ? ? ? ??xx1 1 002 ( ) 1.5 f ? ? ? ? ?? ? ? ? ? ? ?d x d2 1 1 2 2 2 20.5 1.5 0.5 1.5? ? ? ?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?x x d2 2 ( ) (2 2 ) 2(0.5 1.5 )2(2