基于YARN的工業(yè)大數(shù)據(jù)處理平臺(tái)研究與實(shí)現(xiàn).pdf

1、隨著數(shù)字化、網(wǎng)絡(luò)化和虛擬化技術(shù)的廣泛應(yīng)用，工業(yè)企業(yè)的信息化和智能化程度得到了顯著提高，其產(chǎn)生的結(jié)構(gòu)化、半結(jié)構(gòu)和非結(jié)構(gòu)化工業(yè)信息數(shù)據(jù)也呈指數(shù)式增長(zhǎng)。企業(yè)在積累海量信息數(shù)據(jù)的同時(shí)，也產(chǎn)生了從這些海量數(shù)據(jù)中挖掘有價(jià)值信息的需求，盡管企業(yè)決策者已經(jīng)意識(shí)到這些大數(shù)據(jù)中蘊(yùn)含著巨大的經(jīng)濟(jì)價(jià)值，但仍然缺乏能夠有效管理和分析這些大數(shù)據(jù)的先進(jìn)技術(shù)和方法。因此，設(shè)計(jì)和實(shí)現(xiàn)一個(gè)工業(yè)大數(shù)據(jù)處理平臺(tái)來(lái)統(tǒng)一存儲(chǔ)、管理和分析企業(yè)生產(chǎn)及經(jīng)營(yíng)過(guò)程中的海量數(shù)據(jù)，并最大化挖掘

2、這些數(shù)據(jù)潛在隱藏的價(jià)值，推動(dòng)企業(yè)發(fā)展由業(yè)務(wù)驅(qū)動(dòng)向數(shù)據(jù)驅(qū)動(dòng)的智能制造模式轉(zhuǎn)型，具有重大的現(xiàn)實(shí)意義。
　　工業(yè)大數(shù)據(jù)以規(guī)模龐大、實(shí)時(shí)性高、數(shù)據(jù)類(lèi)型多樣、分散性強(qiáng)和價(jià)值密度低為主要特點(diǎn)，傳統(tǒng)的數(shù)據(jù)管理分析平臺(tái)已經(jīng)無(wú)法很好地滿足工業(yè)大數(shù)據(jù)的分析和應(yīng)用需求。因此，必須研究新的有效的工業(yè)大數(shù)據(jù)處理平臺(tái)。本文基于YARN設(shè)計(jì)和實(shí)現(xiàn)了一個(gè)能夠?qū)I(yè)大數(shù)據(jù)進(jìn)行存儲(chǔ)、管理和分析的工業(yè)大數(shù)據(jù)處理平臺(tái)，主要工作和研究成果如下：
　?。?）研究當(dāng)前主

3、流的大數(shù)據(jù)存儲(chǔ)與管理技術(shù)，應(yīng)用分布式文件系統(tǒng)HDFS和NOSQL數(shù)據(jù)庫(kù)技術(shù)解決工業(yè)大數(shù)據(jù)帶來(lái)的數(shù)據(jù)規(guī)模問(wèn)題。針對(duì)工業(yè)大數(shù)據(jù)的多源異構(gòu)性，設(shè)計(jì)和實(shí)現(xiàn)一個(gè)多級(jí)存儲(chǔ)系統(tǒng)，解決工業(yè)大數(shù)據(jù)中不同數(shù)據(jù)類(lèi)型對(duì)存儲(chǔ)模型的要求，再通過(guò)提供一個(gè)數(shù)據(jù)適配器讓用戶能夠統(tǒng)一訪問(wèn)和管理工業(yè)大數(shù)據(jù)。
　?。?）研究不同模型的大數(shù)據(jù)計(jì)算技術(shù)，采用MapReduce解決工業(yè)大數(shù)據(jù)離線批處理計(jì)算，采用Spark解決工業(yè)大數(shù)據(jù)快速迭代計(jì)算，采用Strom解決工業(yè)大數(shù)據(jù)

4、流計(jì)算，再基于YARN集成這三種計(jì)算模型，以共享集群模式滿足企業(yè)不同業(yè)務(wù)應(yīng)用對(duì)數(shù)據(jù)處理的時(shí)效性要求，并采用優(yōu)勢(shì)份額分配算法解決平臺(tái)中多計(jì)算模型之間的資源公平分配問(wèn)題。
　?。?）采用開(kāi)源的Apache HUE技術(shù)，為用戶提供一個(gè)交互性的可視化大數(shù)據(jù)分析界面，方便用戶提交MapReduce應(yīng)用程序、HiveSql命令、Spark應(yīng)用程序以及交互查詢和數(shù)據(jù)分析結(jié)果展示等功能，同時(shí)將R語(yǔ)言與本平臺(tái)結(jié)合起來(lái)，為用戶提供多語(yǔ)言的應(yīng)用開(kāi)發(fā)環(huán)境