云環(huán)境下的極速學(xué)習(xí)機(jī)研究.pdf

1、極速學(xué)習(xí)機(jī)是一種用來求解單隱層神經(jīng)網(wǎng)絡(luò)的快速學(xué)習(xí)方法。它只需要設(shè)置網(wǎng)絡(luò)的隱層節(jié)點(diǎn)個(gè)數(shù)，隨機(jī)生成輸入層與隱層之間的權(quán)值和隱層的偏置權(quán)值，且在算法執(zhí)行過程中不需要再做調(diào)整，最后只需求解一個(gè)最小范數(shù)最小二乘問題。因此，極速學(xué)習(xí)機(jī)算法具有訓(xùn)練參數(shù)少、學(xué)習(xí)速度快和泛化性能好等優(yōu)點(diǎn)。雖然極速學(xué)習(xí)機(jī)算法有眾多的優(yōu)點(diǎn)，但是與傳統(tǒng)的機(jī)器學(xué)習(xí)算法都存在一個(gè)很現(xiàn)實(shí)的問題，即在如今互聯(lián)網(wǎng)高速發(fā)達(dá)的時(shí)代，數(shù)據(jù)量也是以指數(shù)級(jí)增長(zhǎng)，傳統(tǒng)的機(jī)器學(xué)習(xí)算法由于受到機(jī)器內(nèi)存

2、的限制，不能有效地處理大規(guī)模的數(shù)據(jù)。針對(duì)以上問題，本文提出將極速學(xué)習(xí)機(jī)和當(dāng)下流行的云計(jì)算平臺(tái)相結(jié)合，利用云環(huán)境這個(gè)大規(guī)模并行處理系統(tǒng)來為極速學(xué)習(xí)機(jī)提供所需的存儲(chǔ)和計(jì)算空間，使極速學(xué)習(xí)機(jī)實(shí)現(xiàn)高效地處理大規(guī)模數(shù)據(jù)的目的。
　　本研究提出了一個(gè)基于Hadoop分布式計(jì)算平臺(tái)的極速學(xué)習(xí)機(jī)分類算法。根據(jù)極速學(xué)習(xí)機(jī)的基本步驟，先是確定隱層的節(jié)點(diǎn)個(gè)數(shù)和隨機(jī)給輸入權(quán)值和隱層偏置值賦值，接著由樣本值和上一步的結(jié)果計(jì)算得到隱層輸出矩陣，最后由隱層輸出

3、矩陣和樣本值得到最后的輸出權(quán)值。每個(gè)步驟對(duì)應(yīng)一個(gè) MapReduce作業(yè)實(shí)現(xiàn)，每個(gè)MapReduce作業(yè)的輸出為下一個(gè)作業(yè)的輸入，以此類推。利用了Hadoop平臺(tái)出色的并行處理能力，解決了傳統(tǒng)極速學(xué)習(xí)機(jī)分類算法在面對(duì)大規(guī)模數(shù)據(jù)時(shí)，效率低下和內(nèi)存耗盡的問題?；谝陨系乃惴ㄌ岢鲆粋€(gè)基于Hadoop分布式計(jì)算平臺(tái)的極速學(xué)習(xí)機(jī)分類改進(jìn)算法?？紤]到MapReduce作業(yè)中的map與reduce的計(jì)算時(shí)間、兩者之間的通信時(shí)間和網(wǎng)絡(luò)延遲，通過將極速學(xué)