五種最優(yōu)化方法

1、五種最優(yōu)化方法五種最優(yōu)化方法1.最優(yōu)化方法概述最優(yōu)化方法概述1.1最優(yōu)化問(wèn)題的分類(lèi)最優(yōu)化問(wèn)題的分類(lèi)1）無(wú)約束和有約束條件；2）確定性和隨機(jī)性最優(yōu)問(wèn)題（變量是否確定）；3）線性優(yōu)化與非線性優(yōu)化（目標(biāo)函數(shù)和約束條件是否線性）；4）靜態(tài)規(guī)劃和動(dòng)態(tài)規(guī)劃（解是否隨時(shí)間變化）。1.2最優(yōu)化問(wèn)題的一般形式（有約束條件）：最優(yōu)化問(wèn)題的一般形式（有約束條件）：式中f(X)稱為目標(biāo)函數(shù)(或求它的極小，或求它的極大)，si(X)稱為不等式約束，hj(X)稱為

2、等式約束?；^(guò)程就是優(yōu)選X，使目標(biāo)函數(shù)達(dá)到最優(yōu)值。2.2.牛頓法牛頓法2.12.1簡(jiǎn)介簡(jiǎn)介1）解決的是無(wú)約束非線性規(guī)劃問(wèn)題；2）是求解函數(shù)極值的一種方法；3）是一種函數(shù)逼近法。2.22.2原理和步驟原理和步驟4.4.模式搜索法模式搜索法(步長(zhǎng)加速法步長(zhǎng)加速法)4.1簡(jiǎn)介簡(jiǎn)介1）解決的是無(wú)約束非線性規(guī)劃問(wèn)題；2）不需要求目標(biāo)函數(shù)的導(dǎo)數(shù)，所以在解決不可導(dǎo)的函數(shù)或者求導(dǎo)異常麻煩的函數(shù)的優(yōu)化問(wèn)題時(shí)非常有效。3）模式搜索法每一次迭代都是交替進(jìn)行軸