BP算法的改進(jìn)及其應(yīng)用研究.pdf

1、隨著人工神經(jīng)網(wǎng)絡(luò)的發(fā)展，其用途日益廣泛，應(yīng)用領(lǐng)域也在不斷拓展，已在人工智能、自動(dòng)控制、計(jì)算機(jī)科學(xué)、信息處理、機(jī)器人、模式識(shí)別等各個(gè)工程領(lǐng)域中有著成功的案例。在眾多的神經(jīng)網(wǎng)絡(luò)中，又以BP(Back Propagation)網(wǎng)絡(luò)的應(yīng)用最為廣泛，它所采用的BP算法已成為目前應(yīng)用最為廣泛的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，絕大部分的神經(jīng)網(wǎng)絡(luò)模型都是采用BP算法或它的變化形式。這類(lèi)算法具有很好的非線(xiàn)性映射能力、泛化能力、容錯(cuò)能力，已在各個(gè)工程領(lǐng)域中取得了廣泛的應(yīng)

2、用。但人們?cè)谑褂眠^(guò)程中卻發(fā)現(xiàn)，該類(lèi)算法存在這樣那樣的局限，比如收斂速度慢、容易陷入局部極小值以及忘記舊樣本的趨勢(shì)，這些局限性嚴(yán)重影響了BP算法的應(yīng)用。
　　 本文主要針對(duì)BP算法的缺點(diǎn)，從進(jìn)化算法和BP算法融合的角度進(jìn)行改進(jìn)，設(shè)計(jì)出效果較優(yōu)的算法。主要的研究工作如下：
　　 第一、在對(duì)生物神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)的基礎(chǔ)上，對(duì)人工神經(jīng)網(wǎng)絡(luò)進(jìn)行了系統(tǒng)的綜述。重點(diǎn)研究了BP神經(jīng)網(wǎng)絡(luò)模型，對(duì)它所采用的BP算法進(jìn)行了進(jìn)行了詳細(xì)的推導(dǎo)，定性分析

3、了該算法的局限性。最后通過(guò)吸取前人的BP網(wǎng)絡(luò)設(shè)計(jì)經(jīng)驗(yàn)，總結(jié)出了基本的網(wǎng)絡(luò)設(shè)計(jì)方法，以求推廣BP網(wǎng)絡(luò)的應(yīng)用。
　　 第二、研究了遺傳算法，對(duì)遺傳算法的構(gòu)成要素進(jìn)行了詳細(xì)的探討。在此基礎(chǔ)上，將它與加動(dòng)量項(xiàng)和自適應(yīng)學(xué)習(xí)率的BP改進(jìn)算法相結(jié)合，提出了一種基于遺傳算法的神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法，建立了遺傳神經(jīng)網(wǎng)絡(luò)模型。
　　 第三、分析了基本蟻群算法的原理以及三種蟻群算法模型，在TSP問(wèn)題上，當(dāng)城市個(gè)數(shù)很小時(shí)，它們具有很好的性能，當(dāng)問(wèn)題規(guī)

4、模增大時(shí)，它們的求解性能下降。針對(duì)這一問(wèn)題，研究了改進(jìn)蟻群算法-蟻群系統(tǒng)(ACS)原理并進(jìn)行了仿真實(shí)驗(yàn)。在此基礎(chǔ)上，結(jié)合蟻群系統(tǒng)對(duì)BP算法進(jìn)行改進(jìn)，提出了一種基于蟻群算法的神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法，建立了蟻群神經(jīng)網(wǎng)絡(luò)模型。
　　 第四、進(jìn)一步討論了基于蟻群算法的神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法中的利用分割法和隨機(jī)生成法生成蟻群算法的備選權(quán)值集合的方式，提出了利用遺傳算法優(yōu)化生成備選權(quán)值集合的方法，通過(guò)比較表明此方法對(duì)于該算法的收斂性有一定影響，但影響不