神經(jīng)網(wǎng)絡(luò)集成算法的研究.pdf

1、神經(jīng)網(wǎng)絡(luò)集成是目前國(guó)際機(jī)器學(xué)習(xí)和神經(jīng)計(jì)算學(xué)界的一個(gè)相當(dāng)活躍的研究熱點(diǎn)，設(shè)計(jì)出更有效的神經(jīng)網(wǎng)絡(luò)集成的實(shí)現(xiàn)方法，來(lái)提高神經(jīng)網(wǎng)絡(luò)集成模型的泛化能力，具有很重要的理論和現(xiàn)實(shí)意義，它不僅有助于科學(xué)家對(duì)機(jī)器學(xué)習(xí)和神經(jīng)計(jì)算的深入研究，還有助于普通工程技術(shù)人員利用神經(jīng)網(wǎng)絡(luò)解決真實(shí)世界中的問(wèn)題。 本文把神經(jīng)網(wǎng)絡(luò)集成用于分類問(wèn)題，主要是針對(duì)神經(jīng)網(wǎng)絡(luò)集成實(shí)現(xiàn)方法的研究，研究目標(biāo)是通過(guò)對(duì)神經(jīng)網(wǎng)絡(luò)集成算法進(jìn)行深入分析，設(shè)計(jì)出泛化能力好的神經(jīng)網(wǎng)絡(luò)集成模型。

2、 本文的主要工作和創(chuàng)新點(diǎn)如下： (1)在個(gè)體網(wǎng)絡(luò)生成階段引入了特征選擇技術(shù)。提出了一種基于交叉驗(yàn)證和ReliefF的神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)算法(CVRNNEn算法)，首先利用交叉驗(yàn)證選取個(gè)體網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)集，然后再對(duì)每個(gè)訓(xùn)練集進(jìn)行特征選擇，來(lái)降低數(shù)據(jù)集的規(guī)模，減少相關(guān)性低的特征的對(duì)個(gè)體網(wǎng)絡(luò)預(yù)測(cè)結(jié)果的干擾，提高了個(gè)體網(wǎng)絡(luò)的預(yù)測(cè)精度和個(gè)體網(wǎng)絡(luò)之間的差異度。算法代碼在weka3.5.6平臺(tái)上實(shí)現(xiàn)，通過(guò)在UCI數(shù)據(jù)集上仿真實(shí)驗(yàn)，和Ra

3、ndomSubSpace算法、Bagging算法以及單個(gè)RBF網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果進(jìn)行比較，得出CVRNNEn算法預(yù)測(cè)性能最優(yōu)，從實(shí)驗(yàn)上證實(shí)了算法在預(yù)測(cè)性能上的優(yōu)勢(shì)； (2)基于周志華提出的選擇性神經(jīng)網(wǎng)絡(luò)集成的思想，以及對(duì)目前典型的幾種選擇性神經(jīng)網(wǎng)絡(luò)集成算法的綜合分析，提出一種基于CLIQUE(維增長(zhǎng)子空間聚類方法－Clustering In QUEst)算法的選擇性神經(jīng)網(wǎng)絡(luò)集成(簡(jiǎn)稱CLIQUE_SEN)，首先利用Bagging算法