基于JVM的R語(yǔ)言海量數(shù)據(jù)統(tǒng)計(jì)集成框架研究.pdf

1、隨著數(shù)據(jù)規(guī)模在互聯(lián)網(wǎng)、生物、天文學(xué)等領(lǐng)域的爆炸性增長(zhǎng),如何有效地從這些大規(guī)模的數(shù)據(jù)集中獲取有價(jià)值信息的能力變得越發(fā)重要。R語(yǔ)言作為流行度最高的統(tǒng)計(jì)分析語(yǔ)言,它提供了豐富的數(shù)據(jù)統(tǒng)計(jì)功能,但卻無(wú)法有效的處理海量數(shù)據(jù)。針對(duì)這一問(wèn)題,設(shè)計(jì)并實(shí)現(xiàn)基于JVM的R語(yǔ)言海量數(shù)據(jù)統(tǒng)計(jì)分析集成框架JRBridge,并以Hadoop為例在該框架上實(shí)現(xiàn)R語(yǔ)言與Hadoop的結(jié)合,從而一定程度上實(shí)現(xiàn)了R語(yǔ)言對(duì)海量數(shù)據(jù)的分布式并行統(tǒng)計(jì)能力。
　　為了利用已有

2、海量數(shù)據(jù)計(jì)算框架和編程模型的研究成果,以 R語(yǔ)言和海量數(shù)據(jù)計(jì)算框架的集成作為研究思路,分析了各計(jì)算框架與 R語(yǔ)言進(jìn)行集成的模型,總結(jié)并提出了基于SF API和UDF API的集成模型。在此模型的理論基礎(chǔ)上,針對(duì)模型實(shí)現(xiàn)中必須滿(mǎn)足的系統(tǒng)要求和公共組件,以及當(dāng)前流行的開(kāi)源海量數(shù)據(jù)計(jì)算框架大多基于Java虛擬機(jī)實(shí)現(xiàn)的特征,為了減小R語(yǔ)言與各框架之間的語(yǔ)言鴻溝,設(shè)計(jì)并實(shí)現(xiàn)了基于JRBridge集成框架的R語(yǔ)言海量數(shù)據(jù)統(tǒng)計(jì)分析系統(tǒng)。其中基于JVM

3、的R語(yǔ)言解釋執(zhí)行機(jī)制解決了Java環(huán)境下執(zhí)行嵌入式R語(yǔ)言代碼的問(wèn)題;R語(yǔ)言環(huán)境下Java類(lèi)加載機(jī)制通過(guò)jload、import、$運(yùn)算符實(shí)現(xiàn)了在R環(huán)境下對(duì)Java API類(lèi)庫(kù)調(diào)用并執(zhí)行;R2J和J2R類(lèi)型轉(zhuǎn)換機(jī)制則為存在R與Java環(huán)境切換的方法調(diào)用提供參數(shù)與返回值的類(lèi)型轉(zhuǎn)換支持。上述機(jī)制的相互協(xié)作,配合R語(yǔ)言和Hadoop集成插件的實(shí)現(xiàn),最終使得R語(yǔ)言具有了對(duì)海量數(shù)據(jù)統(tǒng)計(jì)分析的能力。
　　從功能測(cè)試結(jié)果看出,通過(guò)HDFS API