前饋網(wǎng)絡(luò)的粒子群優(yōu)化研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)以其良好的自學(xué)習(xí)、自組織和容錯(cuò)能力充分顯示了在解決高度復(fù)雜非線性問(wèn)題的巨大潛力。三層前饋網(wǎng)絡(luò)作為應(yīng)用最為廣泛的一種人工神經(jīng)網(wǎng)絡(luò)，在工業(yè)控制、金融行業(yè)和優(yōu)化計(jì)算等實(shí)際問(wèn)題中得到了重要應(yīng)用。
　　 隨著前饋網(wǎng)絡(luò)應(yīng)用研究的深入，前饋網(wǎng)絡(luò)的學(xué)習(xí)能力和泛化能力作為兩個(gè)重要標(biāo)準(zhǔn)引起了研究者的廣泛討論。前饋網(wǎng)絡(luò)的泛化能力是在網(wǎng)絡(luò)應(yīng)用中體現(xiàn)出來(lái)，但是由網(wǎng)絡(luò)訓(xùn)練決定?？傮w來(lái)說(shuō)，神經(jīng)網(wǎng)絡(luò)泛化特性受網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜性、目標(biāo)函數(shù)和訓(xùn)練算法的影響

2、。具體來(lái)說(shuō)：神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)過(guò)大，容易出現(xiàn)過(guò)擬合問(wèn)題，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)過(guò)小，處理復(fù)雜問(wèn)題的能力又不足；而且，采用訓(xùn)練樣本均方誤差作為網(wǎng)絡(luò)目標(biāo)函數(shù)，網(wǎng)絡(luò)很容易陷入局部極值，導(dǎo)致神經(jīng)網(wǎng)絡(luò)雖然具有良好的學(xué)習(xí)能力，但泛化能力不足；同時(shí)，神經(jīng)網(wǎng)絡(luò)性能的優(yōu)越與否還取決于對(duì)網(wǎng)絡(luò)的是否充分訓(xùn)練。
　　 為了使神經(jīng)網(wǎng)絡(luò)擁有良好的學(xué)習(xí)能力和識(shí)別能力。本文采用粒子群算法同時(shí)優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)值，使網(wǎng)絡(luò)擁有合理的網(wǎng)絡(luò)結(jié)構(gòu)和網(wǎng)絡(luò)性能。而且，采用目標(biāo)函數(shù)動(dòng)態(tài)正則化的