Hadoop平臺基準(zhǔn)性能測試工具的設(shè)計與實現(xiàn).pdf

1、近年來，隨著云計算領(lǐng)域的研究和發(fā)展，Hadoop分布式平臺也一直備受關(guān)注。Hadoop是一個開源的分布式基礎(chǔ)架構(gòu)平臺，主要包括分布式存儲系統(tǒng)HDFS和分布式計算框架Map Red uce。隨著業(yè)界對大數(shù)據(jù)處理的需求和研究，Hadoop平臺已經(jīng)從版本1發(fā)展到版本2，最主要特點(diǎn)是增加了YARN資源管理組件改進(jìn)了Hadoop平臺的體系結(jié)構(gòu)。目前，Hadoop平臺已經(jīng)適用于web搜索，機(jī)器學(xué)習(xí)，商業(yè)分析，生物計算等多種大數(shù)據(jù)領(lǐng)域。Hadoop使

2、得用戶可以在不了解分布式底層細(xì)節(jié)的情況下，開發(fā)分布式程序。但是，如何高效的使用Hadoop平臺，提高Hadoop集群資源利用率，改進(jìn)用戶程序性能等，給用戶帶來了挑戰(zhàn)。
　　本文針對以上問題，設(shè)計和實現(xiàn)了一個針對Hadoop平臺的基準(zhǔn)性能測試工具，主要包括三個組件：全面而又具有代表性的負(fù)載發(fā)生工具、Hadoop集群資源監(jiān)控工具和MapReduce運(yùn)行性能追蹤工具。利用以上工具完成以下測試內(nèi)容：（1）利用全面的負(fù)載測試程序集合完成Ha

3、doop平臺性能的評測工作，包括HDFS的讀、寫性能，MapReduce針對不同類型負(fù)載性能和YARN平臺性能。（2）資源監(jiān)控工具可以實時觀察Hadoop平臺資源利用信息，包括CPU、內(nèi)存、磁盤和網(wǎng)絡(luò)等，可以完成負(fù)載類型分析等工作。（3）性能追蹤工具完成了對MapReduce程序運(yùn)行過程信息追蹤，方便用戶理解負(fù)載運(yùn)行特征，找到性能瓶頸，進(jìn)而優(yōu)化用戶程序。本文實現(xiàn)的HDFS讀寫性能測試程序IMP-DFSIO，相對于Hadoop自帶的Tes