一類大規(guī)模最優(yōu)化問題的并行BFGS算法.pdf

1、在求解無約束最優(yōu)化問題的眾多算法中，擬牛頓法是頗受歡迎的一類算法.尤其是用于求解中小規(guī)模問題時該類算法具有較好的數(shù)值效果.BFGS算法被認為是數(shù)值效果最好的擬牛頓法，其收斂理論的研究也取得了很好的成果.在一定的條件下，BFGS算法具有全局收斂性和超線性收斂速度.然而，對于大規(guī)模最優(yōu)化問題來求解，包括BFGS算法在內(nèi)擬牛頓法具有明顯的缺陷.其主要問題之一在于擬牛頓法產(chǎn)生的矩陣不能保持目標函數(shù)f(x)的Hessian陣的稀疏性.有許多的例子

2、表明，一旦處理問題很大時，一些對小規(guī)模問題非常成功的算法變得毫無吸引力.究其原因，主要是由于在中小型問題一些不太重要的因素在求解大規(guī)模問題時，變得代價很高. 隨著速度更快及更復雜的計算機的出現(xiàn)，增強了我們的計算處理能力.同時也為我們設(shè)計算法帶來了新的課題.并行計算機的發(fā)展為求解大規(guī)模最優(yōu)化問題提供了一條新途徑.對求解中小規(guī)模問題中數(shù)值效果好的算法并行化以用于大規(guī)模問題的求解受到了廣泛歡迎. 本文在求解非線性方程組的并行B