基于Hadoop的海量視頻數(shù)據(jù)分布式處理研究.pdf

1、隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展和科技的進(jìn)步，網(wǎng)絡(luò)視頻數(shù)據(jù)正急劇增加，如何有效的存儲(chǔ)海量的視頻數(shù)據(jù)和高效的處理海量的視頻數(shù)據(jù)成為了當(dāng)前研究的熱點(diǎn)。巨大的數(shù)據(jù)量和處理要求使得單節(jié)點(diǎn)存儲(chǔ)和處理已經(jīng)遠(yuǎn)遠(yuǎn)不能滿足性能需求，需要采用分布式技術(shù)來存儲(chǔ)和處理海量視頻數(shù)據(jù)。因此，本文主要基于分布式處理平臺(tái)的海量數(shù)據(jù)存儲(chǔ)和檢索平臺(tái)的基礎(chǔ)上，設(shè)計(jì)并實(shí)現(xiàn)基于Hadoop的海量視頻數(shù)據(jù)分布式處理的系統(tǒng)，其研究工作主要包括以下三點(diǎn)。
　　首先，針對(duì)海量視頻數(shù)據(jù)的特點(diǎn)，

2、設(shè)計(jì)了海量視頻存儲(chǔ)和處理的整體構(gòu)架體系。系統(tǒng)采用分布式存儲(chǔ)系統(tǒng)(HDFS)存儲(chǔ)海量視頻數(shù)據(jù)，采用MapReduce的架構(gòu)設(shè)計(jì)目標(biāo)圖片特征提取及特征匹配的計(jì)算，采用列式數(shù)據(jù)庫(HBase)存儲(chǔ)視頻摘要數(shù)據(jù)等技術(shù)，通過對(duì)分布式存儲(chǔ)和處理的技術(shù)研究后，從海量視頻數(shù)據(jù)存儲(chǔ)與處理出發(fā)，結(jié)合系統(tǒng)的需求和視頻數(shù)據(jù)的特點(diǎn)，設(shè)計(jì)出基于Hadoop的海量視頻數(shù)據(jù)分布式處理系統(tǒng)。
　　其次，在海量視頻數(shù)的存儲(chǔ)方面，分析系統(tǒng)處理過程中需要的視頻數(shù)據(jù)和存儲(chǔ)

3、需求，設(shè)計(jì)并實(shí)現(xiàn)視頻數(shù)據(jù)存儲(chǔ)、視頻摘要存儲(chǔ)和特征提取等功能。針對(duì)需要大吞吐量的視頻數(shù)據(jù)，采用HDFS分布式存儲(chǔ)系統(tǒng)進(jìn)行存儲(chǔ);針對(duì)視頻數(shù)據(jù)的特點(diǎn)，設(shè)計(jì)出視頻數(shù)據(jù)表和視頻摘要信息的存儲(chǔ)方法，便于存儲(chǔ)在HBase面向列的數(shù)據(jù)庫中，通過視頻摘要信息，系統(tǒng)可以快速檢索到視頻數(shù)據(jù)，通過提取的特征值，可以進(jìn)行快速的處理;針對(duì)存儲(chǔ)與處理間的數(shù)據(jù)交互，本文采用XML文件解決平臺(tái)和應(yīng)用間的差異，最后通過數(shù)據(jù)的讀寫實(shí)驗(yàn)，驗(yàn)證了系統(tǒng)的存儲(chǔ)功能的高效性。

4、　　最后，在視頻數(shù)據(jù)的計(jì)算方面，設(shè)計(jì)出三種提升系統(tǒng)處理效率的方法:單點(diǎn)切割法、分布式切割法、幀分布式法，結(jié)合存儲(chǔ)的視頻數(shù)據(jù)和分布式處理系統(tǒng)的特點(diǎn)，分析三種切割法的優(yōu)缺點(diǎn)，并對(duì)三種切割方法進(jìn)行實(shí)驗(yàn)分析，通過對(duì)比實(shí)驗(yàn)數(shù)據(jù)，得出最優(yōu)的切割方法，選擇更加高效的處理方法，部署在Hadoop分布式處理平臺(tái)上，實(shí)現(xiàn)的海量視頻數(shù)據(jù)分布式處理。通過大量的實(shí)驗(yàn)，驗(yàn)證了系統(tǒng)在存儲(chǔ)性能、計(jì)算性能等方面可行性和高效性，極大的提高了視頻數(shù)據(jù)處理的效率，是海量視頻數(shù)