求解無約束優(yōu)化的兩種算法.pdf

1、對(duì)于無約束優(yōu)化問題min f(x)，x∈其中f：→，目前已有許多有效的求解方法及其相關(guān)的收斂性分析。擬牛頓法和信賴域法就是眾多有效方法中的兩種。它們?cè)诿坎降鷷r(shí)均利用目標(biāo)函數(shù)值和-階導(dǎo)數(shù)信息來構(gòu)造目標(biāo)函數(shù)的Hessian矩陣近似，而不需要計(jì)算Hessian矩陣，同時(shí)具有收斂速度快的優(yōu)點(diǎn)。本文首先證明一種修正的DFP方法的全局收斂性，然后提出一種求解非光滑凸優(yōu)化的非單調(diào)自適應(yīng)信賴域方法。本文結(jié)構(gòu)如下： 第一章，簡(jiǎn)單地介紹求解無約

2、束優(yōu)化的擬牛頓方法和信賴域方法，然后給出求解非光滑凸優(yōu)化的預(yù)備知識(shí)。 第二章，韋增欣等在文[11]中提出了修正的擬牛頓公式，并分別在文[11]及[12]中給出了修正BFGS方法的全局收斂性和超線性收斂性的證明，但尚未證明修正DFP方法的全局收斂性。本章在適當(dāng)?shù)臈l件下，證明上述修正DFP方法在弱Wolfe-Powell線搜索下是全局收斂的。初步的數(shù)值計(jì)算表明該方法是值得提倡的。 第三章，信賴域方法有較強(qiáng)的收斂性質(zhì)：不僅全局