基于ELM神經(jīng)網(wǎng)絡(luò)的研究與應(yīng)用.pdf

1、神經(jīng)網(wǎng)絡(luò)在機(jī)器學(xué)習(xí)及模式識(shí)別領(lǐng)域占了很大的一席之地。傳統(tǒng)的誤差反向傳播神經(jīng)網(wǎng)絡(luò)(Error Back Propagation，BP)存在諸如容易陷入局部最小點(diǎn)、收斂速度慢及過擬合等問題。而極限學(xué)習(xí)機(jī)(Extreme Learning Machine，ELM)因其高效快速并且泛化性能好的特點(diǎn)得到了國(guó)內(nèi)外廣大學(xué)者的關(guān)注、研究及應(yīng)用。
　　隨著信息技術(shù)的發(fā)展，大數(shù)據(jù)已成為社會(huì)研究的熱點(diǎn)之一?？茖W(xué)技術(shù)的進(jìn)步使人們獲取得到的這些數(shù)據(jù)呈現(xiàn)出結(jié)

2、構(gòu)復(fù)雜、數(shù)量龐大、維數(shù)更多的特點(diǎn)。并且這些數(shù)據(jù)具有時(shí)效性，需要及時(shí)地處理和分析，獲取數(shù)據(jù)背后的信息和價(jià)值。因此對(duì)這些數(shù)據(jù)的處理分析充滿著挑戰(zhàn)，高維數(shù)據(jù)的可視化顯得尤其重要。
　　基于近期熱門的極限學(xué)習(xí)機(jī)神經(jīng)網(wǎng)絡(luò)，分別采用多維尺度分析(Multidimensional Scaling，MDS)、Pearson相關(guān)性、Spearman相關(guān)性代替常用的均方誤差(Mean Square Error，MSE)改變網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，實(shí)現(xiàn)高維數(shù)據(jù)

3、投影到2-維平面的數(shù)據(jù)可視化。將所提方法與近期流行的隨機(jī)鄰域嵌入(StochasticNeighbor Embedding，SNE)及其改進(jìn)的t-SNE方法進(jìn)行對(duì)比分析，并通過局部連續(xù)元準(zhǔn)則(the local continuity meta-criterion，LCMC)進(jìn)行質(zhì)量評(píng)測(cè)，結(jié)果表明:在ELM上改進(jìn)的數(shù)據(jù)可視化結(jié)果及計(jì)算性能明顯優(yōu)于SNE及t-SNE方法;而在提出的三種學(xué)習(xí)規(guī)則中，基于MDS的ELM可視化效果最好。
　

4、　在圖像識(shí)別上，目前流行的算法主要采用卷積神經(jīng)網(wǎng)絡(luò)(convolutionalneuralnetworks，CNN)進(jìn)行特征提取和分類，這樣的方法通常在大且復(fù)雜的神經(jīng)網(wǎng)絡(luò)上取得較好的效果，并且在卷積神經(jīng)網(wǎng)絡(luò)上全連接層形成的分類器采用梯度下降法進(jìn)行訓(xùn)練其泛化能力受到了限制。由于卷積神經(jīng)網(wǎng)絡(luò)自身有很強(qiáng)的識(shí)別能力，而極限學(xué)習(xí)機(jī)具有良好的泛化性能。因此，先利用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像的特征提取，再利用極限學(xué)習(xí)機(jī)作為分類器，建立一種基于CNN-ELM