基于粒子群算法的神經(jīng)網(wǎng)絡(luò)及其集成的研究.pdf

1、粒子群優(yōu)化算法(ParticleSwarmOptimization，PSO算法)是一種基于群智能方法的演化計(jì)算技術(shù)，是進(jìn)化計(jì)算領(lǐng)域中的一個(gè)新的分支。它的主要特點(diǎn)是簡(jiǎn)單、收斂速度較快，且所需領(lǐng)域知識(shí)少。作為智能優(yōu)化算法中的一種，它可用于求解大部分的優(yōu)化問(wèn)題，并在工程實(shí)踐中表現(xiàn)出巨大潛力。 本文首先對(duì)粒子群算法做了深入的分析，通過(guò)對(duì)算法公式和參數(shù)設(shè)置進(jìn)行的綜合分析以及和其它優(yōu)化算法進(jìn)行比較，給出了粒子群優(yōu)化算法實(shí)際使用時(shí)的指導(dǎo)原則，

2、并討論了算法在一些領(lǐng)域中的成功應(yīng)用。并在以下兩方面做了深入的研究： 一是基于粒子群算法的神經(jīng)網(wǎng)絡(luò)優(yōu)化方法的研究。粒子群算法用于神經(jīng)網(wǎng)絡(luò)優(yōu)化主要包括兩大方面：一是用于網(wǎng)絡(luò)學(xué)習(xí)(也稱網(wǎng)絡(luò)訓(xùn)練)，即優(yōu)化網(wǎng)絡(luò)各層之間的連接權(quán)值；二是優(yōu)化網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)。本文研究的是神經(jīng)網(wǎng)絡(luò)連接權(quán)值的優(yōu)化，并構(gòu)建了一個(gè)用PSO算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)值的進(jìn)化神經(jīng)網(wǎng)絡(luò)模型，通過(guò)其在分類問(wèn)題中的應(yīng)用測(cè)試，比較了其與基于BP算法和基于GA的神經(jīng)網(wǎng)絡(luò)對(duì)同類問(wèn)題的泛化能力

3、。實(shí)驗(yàn)結(jié)果表明，基于PSO神經(jīng)網(wǎng)絡(luò)可以克服BP算法和遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)的不足，同時(shí)還能得到比基于BP和GA的神經(jīng)網(wǎng)絡(luò)更好的泛化能力。 二是基于離散PSO的神經(jīng)網(wǎng)絡(luò)集成方法的研究。神經(jīng)網(wǎng)絡(luò)集成是對(duì)有限個(gè)神經(jīng)網(wǎng)絡(luò)獨(dú)立進(jìn)行訓(xùn)練，并將其預(yù)測(cè)結(jié)果合成，其可以顯著地提高神經(jīng)網(wǎng)絡(luò)準(zhǔn)確表達(dá)復(fù)雜對(duì)象的能力和神經(jīng)網(wǎng)絡(luò)的泛化能力。目前神經(jīng)網(wǎng)絡(luò)個(gè)體的選擇生成大多是以Boosting和Bagging為代表的重采樣方法，該方法的主要缺點(diǎn)在于構(gòu)建集成的網(wǎng)