基于Hadoop的云轉(zhuǎn)碼系統(tǒng)研究及性能優(yōu)化.pdf

1、目前，視頻流量已經(jīng)成為互聯(lián)網(wǎng)的主要流量，各種視頻應(yīng)用層出不窮，從數(shù)字高清電視到IPTV?；ヂ?lián)網(wǎng)用戶使用視頻應(yīng)用的終端也日益多樣化，從PC到手機(jī)。然而，不同的網(wǎng)絡(luò)視頻平臺和終端支持的視頻內(nèi)容和格式，如編碼格式、分辨率、幀率等參數(shù)不盡相同。為了滿足不同平臺和用戶的視頻服務(wù)需求，往往需要對視頻進(jìn)行轉(zhuǎn)碼，即進(jìn)行相應(yīng)的編碼格式、分辨率和幀率等格式轉(zhuǎn)換。視頻轉(zhuǎn)碼是一項非常耗時耗資源的工作，隨著視頻數(shù)量的急劇增長，傳統(tǒng)的單機(jī)或者集中式轉(zhuǎn)碼已經(jīng)不能滿足

2、人們對效率和質(zhì)量的要求。而云計算通過集中、分配資源可以提供強(qiáng)大的計算能力，并且有良好的擴(kuò)展性和較高的容錯能力。所以可以將視頻轉(zhuǎn)碼工作轉(zhuǎn)移到云計算平臺上。采用云平臺進(jìn)行視頻轉(zhuǎn)碼，不僅可以承受海量視頻數(shù)據(jù)的存儲、轉(zhuǎn)碼需求，同時由于云計算本身具有的資源聚集特性，取用方便，費用低廉。在眾多的云計算平臺中，Hadoop由于其開源特性，是目前應(yīng)用最為廣泛的云計算平臺。
　　本論文首先設(shè)計和實現(xiàn)了基于Hadoop的云轉(zhuǎn)碼系統(tǒng)。該系統(tǒng)利用MapR

3、educe分布式機(jī)制進(jìn)行視頻轉(zhuǎn)碼。系統(tǒng)包括代理服務(wù)器，視頻轉(zhuǎn)碼模塊，Cache模塊三大組件。代理服務(wù)器負(fù)責(zé)處理用戶的視頻服務(wù)請求，視頻轉(zhuǎn)碼模塊負(fù)責(zé)視頻處理工作，Cache模塊負(fù)責(zé)管理原視頻和轉(zhuǎn)碼后的視頻文件。
　　接著，論文對所實現(xiàn)的轉(zhuǎn)碼系統(tǒng)的性能進(jìn)行了測試和分析。比較該系統(tǒng)與單機(jī)的視頻轉(zhuǎn)碼性能，測試分析了分段數(shù)量和分段大小對系統(tǒng)轉(zhuǎn)碼性能的影響，分析了各個階段在系統(tǒng)執(zhí)行過程中所占的時間比例。
　　在系統(tǒng)的執(zhí)行過程中，視頻文件

4、需要進(jìn)行多次對HDFS進(jìn)行讀寫，當(dāng)前HDFS讀數(shù)據(jù)時副本選擇策略是選擇離客戶端網(wǎng)絡(luò)拓?fù)渚嚯x最近的節(jié)點，當(dāng)熱門副本集中在同一節(jié)點或者一個機(jī)架內(nèi)時，用戶就會對有限的資源進(jìn)行激烈的競爭，造成該節(jié)點或者該機(jī)架的負(fù)載大大增加，從而影響整個集群的性能。為了克服該不足，論文提出了基于負(fù)載均衡的副本選擇策略，使用線性加權(quán)法定量描述節(jié)點的負(fù)載量，選擇負(fù)載量最輕的節(jié)點作為讀取節(jié)點。仿真實驗表明，改進(jìn)的算法有效減少了副本傳輸時間，增加了HDFS集群的吞吐率。