基于數(shù)值計算方法的BP神經(jīng)網(wǎng)絡(luò)及遺傳算法的優(yōu)化研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)和遺傳算法都是將生物學(xué)原理應(yīng)用于計算機(jī)科學(xué)的仿生學(xué)理論成果。由于它們具有極強(qiáng)的解決問題的能力，近年來引起了眾多學(xué)者的興趣與參與，已成為學(xué)術(shù)界跨學(xué)科的熱門專題之一。 在人工神經(jīng)網(wǎng)絡(luò)的實際應(yīng)用中，約90％的人工神經(jīng)網(wǎng)絡(luò)模型都是采用BP網(wǎng)絡(luò)或者是它的變化形式，它也是前饋網(wǎng)絡(luò)的核心部分，BP網(wǎng)絡(luò)廣泛應(yīng)用于函數(shù)逼近、模式識別/分類、數(shù)據(jù)壓縮等?，F(xiàn)已成為人工智能研究的重要領(lǐng)域之一。然而，由于BP算法是一種梯度下降搜索方法，因而不

2、可避免地存在固有的不足，如收斂速度慢、易陷入誤差函數(shù)的局部極小點，對于較大的搜索空間，多峰值和不可微函數(shù)不能有效搜索到全局極小點。 遺傳算法作為一種智能化的全局搜索算法，自80年代問世以來便在數(shù)值優(yōu)化、系統(tǒng)控制、結(jié)構(gòu)優(yōu)化設(shè)計等諸多領(lǐng)域的應(yīng)用中展現(xiàn)出其特有的魅力，同時也暴露出許多不足和缺陷。如完全依賴概率隨機(jī)地進(jìn)行操作，雖然可以避免陷入局部極小，但受尋優(yōu)條件的限制，一般只能得到全局范圍內(nèi)的近似最優(yōu)解，很難得到最優(yōu)解；對參數(shù)采用二進(jìn)

3、制編碼，人為地將連續(xù)空間離散化，導(dǎo)致了計算精度與字符串長度、運算量之間的矛盾；采用隨機(jī)優(yōu)化技術(shù)，所以要花費大量的時間；算法在交叉、變異的進(jìn)化過程中隨機(jī)性較強(qiáng)，致使搜索效率低下，具體表現(xiàn)為進(jìn)化迭代過程中會出現(xiàn)子代最優(yōu)個體劣于父代最優(yōu)個體的“退化”現(xiàn)象：遺傳算法雖然具有很強(qiáng)的全局搜索能力，但其局部搜索能力較弱(易出現(xiàn)早熟收斂現(xiàn)象)。 本文主要工作： (1)對BP神經(jīng)網(wǎng)絡(luò)的缺陷進(jìn)行分析研究，針對BP神經(jīng)網(wǎng)絡(luò)收斂度慢的不足，對經(jīng)

4、典BP網(wǎng)絡(luò)的單極性Sigmoid傳輸函數(shù)和雙極性Sigmoid函數(shù)進(jìn)行數(shù)學(xué)分析，給出二者不同的數(shù)學(xué)性質(zhì)和它們的優(yōu)先選擇方法。 (2)利用數(shù)值計算優(yōu)化方法對BP神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)，提高其收斂速度，本文分別用擬牛頓法、最優(yōu)步長法和共軛梯度法對BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)法進(jìn)行改進(jìn)，對各種改進(jìn)方法進(jìn)行分析比較，給出各自適用的網(wǎng)絡(luò)規(guī)模，并對其收斂性進(jìn)行分析證明。 (3)利用數(shù)值計算優(yōu)化方法對遺傳算法的交叉算子、變異算子、編碼方式及適應(yīng)度函數(shù)等

5、進(jìn)行分析研究，給出了基于一維極小化問題的最優(yōu)策略(Fibonacci法)和近似最優(yōu)策略(黃金分割法)的交叉和變異算子。 (4)將擅長全局搜索的遺傳算法和局部尋優(yōu)能力較強(qiáng)的BP算法結(jié)合起來，根據(jù)GA的交叉、變異和選擇算子在全變量空間以較大概率搜索全局解和在解的點附近利用BP神經(jīng)網(wǎng)絡(luò)能快速、精確地收斂的特點，融合二者的優(yōu)點，將二者有機(jī)結(jié)合，利用遺傳算法同時訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)值和拓?fù)浣Y(jié)構(gòu)，可以辟免陷入局部極小值，提高算法收斂速度，很快得到