多層前饋神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)及應(yīng)用.pdf

1、目前，采用BP算法的多層前饋神經(jīng)網(wǎng)絡(luò)在模式識別、控制工程、信號處理和經(jīng)濟預(yù)測等各個領(lǐng)域有著廣泛的應(yīng)用。但是BP算法有三個本質(zhì)的缺點：收斂速度慢，易陷入局部極小和網(wǎng)絡(luò)容錯性差。本文針對其缺陷對算法進(jìn)行了改進(jìn)。 首先，本文對BP神經(jīng)網(wǎng)絡(luò)模型和算法進(jìn)行了系統(tǒng)的綜述。針對標(biāo)準(zhǔn)BP算法存在的缺陷，對BP神經(jīng)網(wǎng)絡(luò)模型輸出神經(jīng)元過早飽和的機理進(jìn)行了分析和研究。在數(shù)學(xué)理論上深入分析了BP神經(jīng)網(wǎng)絡(luò)輸出神經(jīng)元出現(xiàn)過早飽和現(xiàn)象的內(nèi)在機制，提出了相關(guān)定

2、理并加以證明。 其次，本文介紹了包含學(xué)習(xí)率、動量因子和比例因子的三項BP算法，詳細(xì)推導(dǎo)出網(wǎng)絡(luò)學(xué)習(xí)參數(shù)的最優(yōu)估計公式。并從理論上分析了三項BP算法的復(fù)雜性，其結(jié)果是：最優(yōu)學(xué)習(xí)參數(shù)的三項BP算法不需要太大的計算量和內(nèi)存，算法優(yōu)于兩項BP算法，并能有效提高網(wǎng)絡(luò)的學(xué)習(xí)性能。 最后，通過分析隱層神經(jīng)元飽和度對網(wǎng)絡(luò)性能的影響，構(gòu)造了新的誤差函數(shù)，同時設(shè)計了一種自適應(yīng)調(diào)節(jié)的放大誤差信號方法，得到新改進(jìn)的BP學(xué)習(xí)算法。該算法流程簡單，不