Hadoop平臺(tái)基準(zhǔn)性能測(cè)試工具的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、近年來(lái)，隨著云計(jì)算領(lǐng)域的研究和發(fā)展，Hadoop分布式平臺(tái)也一直備受關(guān)注。Hadoop是一個(gè)開(kāi)源的分布式基礎(chǔ)架構(gòu)平臺(tái)，主要包括分布式存儲(chǔ)系統(tǒng)HDFS和分布式計(jì)算框架Map Red uce。隨著業(yè)界對(duì)大數(shù)據(jù)處理的需求和研究，Hadoop平臺(tái)已經(jīng)從版本1發(fā)展到版本2，最主要特點(diǎn)是增加了YARN資源管理組件改進(jìn)了Hadoop平臺(tái)的體系結(jié)構(gòu)。目前，Hadoop平臺(tái)已經(jīng)適用于web搜索，機(jī)器學(xué)習(xí)，商業(yè)分析，生物計(jì)算等多種大數(shù)據(jù)領(lǐng)域。Hadoop使

2、得用戶(hù)可以在不了解分布式底層細(xì)節(jié)的情況下，開(kāi)發(fā)分布式程序。但是，如何高效的使用Hadoop平臺(tái)，提高Hadoop集群資源利用率，改進(jìn)用戶(hù)程序性能等，給用戶(hù)帶來(lái)了挑戰(zhàn)。
　　本文針對(duì)以上問(wèn)題，設(shè)計(jì)和實(shí)現(xiàn)了一個(gè)針對(duì)Hadoop平臺(tái)的基準(zhǔn)性能測(cè)試工具，主要包括三個(gè)組件：全面而又具有代表性的負(fù)載發(fā)生工具、Hadoop集群資源監(jiān)控工具和MapReduce運(yùn)行性能追蹤工具。利用以上工具完成以下測(cè)試內(nèi)容：（1）利用全面的負(fù)載測(cè)試程序集合完成Ha

3、doop平臺(tái)性能的評(píng)測(cè)工作，包括HDFS的讀、寫(xiě)性能，MapReduce針對(duì)不同類(lèi)型負(fù)載性能和YARN平臺(tái)性能。（2）資源監(jiān)控工具可以實(shí)時(shí)觀(guān)察Hadoop平臺(tái)資源利用信息，包括CPU、內(nèi)存、磁盤(pán)和網(wǎng)絡(luò)等，可以完成負(fù)載類(lèi)型分析等工作。（3）性能追蹤工具完成了對(duì)MapReduce程序運(yùn)行過(guò)程信息追蹤，方便用戶(hù)理解負(fù)載運(yùn)行特征，找到性能瓶頸，進(jìn)而優(yōu)化用戶(hù)程序。本文實(shí)現(xiàn)的HDFS讀寫(xiě)性能測(cè)試程序IMP-DFSIO，相對(duì)于Hadoop自帶的Tes