針對Hadoop集群的節(jié)能調度算法研究.pdf

1、隨著云計算在企業(yè)中的廣泛使用，擁有HDFS分布式文件系統(tǒng)和分布式計算模型MapReduce的Hadoop成為了眾多 IT企業(yè)的首選。在大型企業(yè)中，Hadoop分布式集群通常由成百上千個節(jié)點組成，如此龐大規(guī)模的集群在長時間的運行過程中會產(chǎn)生大量的能耗，增加了企業(yè)的成本。因此，在大規(guī)模集群中減少能耗，不僅從經(jīng)濟角度可以減少企業(yè)開支，同時也更加節(jié)能環(huán)保。
　　傳統(tǒng)的Hadoop集群在運行過程中并沒有考慮節(jié)能問題，當Hadoop啟動一段時

2、間閑置時，所有節(jié)點長期處于工作狀態(tài)，可能產(chǎn)生大量能耗。同時，Hadoop默認的調度算法效率較低，通常需要較長時間完成任務，較低的效率產(chǎn)生了較多的額外能耗。
　　在以往的集群節(jié)能研究中，主要是通過在集群上增加額外硬件的方法減少能耗，適用性較差。已有的集群調度算法優(yōu)化目標也多是負載均衡，沒有考慮能耗問題，而且由于Hadoop架構的特殊性，大部分的調度算法無法在Hadoop上直接使用。
　　本論文正是針對上述問題，以Hadoop集

3、群的相關節(jié)能調度技術為主要的研究對象，深入分析了Hadoop集群特點和調度器的不足之處，對如何減少Hadoop集群能耗提出來解決方案。主要研究內(nèi)容包括：首先，分析了Hadoop平臺的結構和框架特征、Hadoop核心組件、編程模型；其次，針對Hadoop平臺的整體架構，通過對集群進行能耗建模，提出了一種動態(tài)Hadoop節(jié)點節(jié)能管理方法，該方法在集群負載較低時，可以有效的動態(tài)休眠部分節(jié)點，減少集群整體能耗；接著，針對一批Hadoop任務，通