基于PSO與BP前饋神經(jīng)網(wǎng)絡學習算法的研究.pdf

1、基于BP算法的BP網(wǎng)絡在計算上以并行為主，具有很強的魯棒性和容錯能力，并且非線性單隱層BP網(wǎng)絡可以實現(xiàn)以任何精度近似任何連續(xù)非線性函數(shù)，因此BP網(wǎng)絡在實際應用中受到廣泛關(guān)注。但是，由于采用梯度下降法訓練網(wǎng)絡，BP算法容易陷入局部極小點、收斂速度慢、從而全局搜索能力較弱。
　　 與BP算法相比，遺傳算法(GA：Genetic Algorithm)、微粒群算法(PSO：Particle Swarm Optimization)等優(yōu)化算

2、法具有較強的全局搜索能力。遺傳算法和微粒群群優(yōu)化算法都隨機初始化種群，采用適應值來評價系統(tǒng)并且都根據(jù)適應值來進行一定的隨機搜索。和GA算法相比，微粒群算法不要求目標函數(shù)具有連續(xù)性，且它的搜索方式具有全局性和并行性，所以算法簡單，收斂速度快，且不再有GA算法的選擇、交叉、變異等復雜操作。但對于復雜問題，微粒群算法易早熟收斂，無法保證收斂到最優(yōu)點。而且和BP算法相比，它的局部搜索能力較弱。
　　 本文主要將PSO和BP結(jié)合起來訓練前

3、饋神經(jīng)網(wǎng)絡以提高算法的收斂速度和網(wǎng)絡的泛化性能，并且就PSO過早收斂問題提出了一些改進的方法。本文的研究工作主要有：
　　 (1)在將PSO和BP結(jié)合起來的基礎上提出兩個混合算法，算法在克服PSO和BP的缺點的同時發(fā)揚它們的優(yōu)點。混合算法降低了訓練過程中陷入局部極小點的幾率，實驗結(jié)果也驗證了算法有優(yōu)于傳統(tǒng)算法的收斂性能。
　　 (2)針對粒子群算法早熟的問題，本文提出了增加粒子群多樣性的PSO算法。算法從每個粒子的每一維