高速網(wǎng)絡(luò)流量測(cè)量關(guān)鍵問(wèn)題研究.pdf

1、網(wǎng)絡(luò)流量測(cè)量是了解網(wǎng)絡(luò)運(yùn)行狀況和理解網(wǎng)絡(luò)行為的基礎(chǔ)。隨著帶寬的快速增加和互聯(lián)網(wǎng)的普及，將面臨網(wǎng)絡(luò)流量測(cè)量的新挑戰(zhàn)。由于海量網(wǎng)絡(luò)流量數(shù)據(jù)與有限系統(tǒng)資源之間的矛盾存在，傳統(tǒng)的流量測(cè)量算法已經(jīng)很難滿(mǎn)足高速網(wǎng)絡(luò)應(yīng)用需求。近年來(lái)，多核技術(shù)已成為當(dāng)前處理器體系架構(gòu)發(fā)展的必然趨勢(shì)。另外，隨著云計(jì)算技術(shù)的推廣，云計(jì)算平臺(tái)具有對(duì)海量網(wǎng)絡(luò)流量數(shù)據(jù)進(jìn)行并行分布式處理的強(qiáng)大能力。因此，基于多核技術(shù)與云計(jì)算平臺(tái)的并行分布式設(shè)計(jì)成為提高網(wǎng)絡(luò)流量測(cè)量算法性能的有效途

2、徑。盡管網(wǎng)絡(luò)流量測(cè)量算法廣泛應(yīng)用于網(wǎng)絡(luò)安全、網(wǎng)絡(luò)計(jì)費(fèi)及流量工程等領(lǐng)域，但在高速網(wǎng)絡(luò)環(huán)境下還有許多網(wǎng)絡(luò)流量測(cè)量問(wèn)題需要研究與解決。
　　本論文圍繞流量突發(fā)性，提出相關(guān)模型和流量測(cè)量算法，解決高速網(wǎng)絡(luò)環(huán)境下流量測(cè)量面臨的關(guān)鍵問(wèn)題，為網(wǎng)絡(luò)運(yùn)行和管理提供有力支撐。從流量突發(fā)性角度，提出峰值流量測(cè)度，分析網(wǎng)絡(luò)行為和建立合理的容量規(guī)劃模型，為新建校園網(wǎng)的接入帶寬提供準(zhǔn)確評(píng)估;針對(duì)網(wǎng)絡(luò)流量分布的重尾特性和MapReduce算法中負(fù)載不均衡問(wèn)題，

3、提出一種MapReduce框架下基于自適應(yīng)抽樣的大流識(shí)別方法;針對(duì)基于流抽樣的超點(diǎn)檢測(cè)方法存在計(jì)算負(fù)荷重、檢測(cè)精度低、實(shí)時(shí)性差問(wèn)題，提出超點(diǎn)檢測(cè)的并行數(shù)據(jù)流方法;為了滿(mǎn)足長(zhǎng)持續(xù)時(shí)間流檢測(cè)的高速網(wǎng)絡(luò)應(yīng)用需求，設(shè)計(jì)了基于共享數(shù)據(jù)結(jié)構(gòu)的長(zhǎng)持續(xù)時(shí)間流的并行檢測(cè)方法和基于獨(dú)立數(shù)據(jù)結(jié)構(gòu)的長(zhǎng)持續(xù)時(shí)間流的并行檢測(cè)方法，基于獨(dú)立數(shù)據(jù)結(jié)構(gòu)的長(zhǎng)持續(xù)時(shí)間流檢測(cè)方法更好地滿(mǎn)足高速網(wǎng)絡(luò)的應(yīng)用需求。實(shí)驗(yàn)驗(yàn)證了上述模型和算法的有效性。論文的主要工作和創(chuàng)新點(diǎn)為:

4、　　(1)從流量突發(fā)性角度，提出峰值流量測(cè)度，分析網(wǎng)絡(luò)行為和建立一種合理的容量規(guī)劃模型，為新建校園網(wǎng)的接入帶寬提供準(zhǔn)確評(píng)估。首先，通過(guò)假設(shè)檢驗(yàn)和擬合優(yōu)度檢驗(yàn)表明峰值流量服從漸近高斯分布，通過(guò)自相關(guān)性分析表明峰值流量間彼此相互獨(dú)立;其次，研究網(wǎng)絡(luò)內(nèi)在特征對(duì)峰值流量的影響，一方面，通過(guò)統(tǒng)計(jì)學(xué)方法建立方差分析模型，研究接入帶寬與峰值流量之間的關(guān)系，分析表明接入帶寬對(duì)峰值流量的影響較小，另一方面，通過(guò)統(tǒng)計(jì)學(xué)方法建立協(xié)方差分析模型，研究接入帶寬、

5、網(wǎng)絡(luò)用戶(hù)數(shù)與峰值流量之間的關(guān)系，分析表明接入帶寬與網(wǎng)絡(luò)用戶(hù)數(shù)存在較強(qiáng)的相關(guān)性，網(wǎng)絡(luò)用戶(hù)數(shù)是影響峰值流量的主要因子;最后，在上述分析的基礎(chǔ)上建立線(xiàn)性回歸模型及容量規(guī)劃模型。通過(guò)實(shí)驗(yàn)驗(yàn)證容量規(guī)劃模型的有效性。
　　(2)針對(duì)網(wǎng)絡(luò)流量分布的重尾特性和MapReduce算法中負(fù)載不均衡問(wèn)題，提出了一種MapReduce框架下基于自適應(yīng)抽樣的大流識(shí)別方法。由于MapReduce框架中通過(guò)Hash函數(shù)按照分組將任務(wù)分配到每個(gè)reducer，如

6、果分組服從均勻分布，那么每個(gè)reducer被分配相同的任務(wù)數(shù)，reducer之間是負(fù)載均衡的;如果分組服從偏態(tài)分布，那么每個(gè)reducer被分配不相同的任務(wù)數(shù)，導(dǎo)致reducer之間負(fù)載不均衡。另外，通過(guò)自適應(yīng)抽樣技術(shù)得到準(zhǔn)確的流長(zhǎng)分布估計(jì)，同時(shí)可以極大地減少所需的計(jì)算和存儲(chǔ)資源。方法的實(shí)施中，一個(gè)MapReduce作業(yè)通過(guò)自適應(yīng)抽樣過(guò)程獲得原始流長(zhǎng)分布估計(jì)，在此基礎(chǔ)上制定數(shù)據(jù)劃分策略;另一個(gè)MapReduce作業(yè)通過(guò)數(shù)據(jù)劃分策略指導(dǎo)大

7、流識(shí)別。理論分析表明通過(guò)自適應(yīng)抽樣獲得的流長(zhǎng)分布估計(jì)是無(wú)偏的，通過(guò)配置參數(shù)可以控制流長(zhǎng)分布估計(jì)的相對(duì)誤差。實(shí)驗(yàn)結(jié)果表明，與默認(rèn)的基于Hash函數(shù)的數(shù)據(jù)劃分方法和TopCluster相比，提高了大流識(shí)別方法的性能，實(shí)現(xiàn)了reducer之間的負(fù)載均衡。
　　(3)針對(duì)基于流抽樣的超點(diǎn)檢測(cè)方法存在計(jì)算負(fù)荷重、檢測(cè)精度低、實(shí)時(shí)性差問(wèn)題，提出了一種超點(diǎn)檢測(cè)的并行數(shù)據(jù)流方法。隨著多核處理器的發(fā)展，并行設(shè)計(jì)成為算法性能提高的一種有效途徑。首先，

8、為每個(gè)線(xiàn)程建立本地Sketch數(shù)據(jù)結(jié)構(gòu)，當(dāng)報(bào)文到達(dá)時(shí)，通過(guò)多個(gè)Hash函數(shù)運(yùn)算，將Sketch數(shù)據(jù)結(jié)構(gòu)中對(duì)應(yīng)位置為1，當(dāng)測(cè)量時(shí)間周期結(jié)束后，對(duì)多個(gè)本地Sketch數(shù)據(jù)結(jié)構(gòu)進(jìn)行合并;其次，估計(jì)節(jié)點(diǎn)的鏈接度，確定超列;最后，利用定理5.1對(duì)Sketch數(shù)據(jù)結(jié)構(gòu)中任意兩個(gè)超列的組合進(jìn)行逆計(jì)算構(gòu)造節(jié)點(diǎn)的IP地址，估計(jì)節(jié)點(diǎn)的鏈接度，如果節(jié)點(diǎn)鏈接度大于閾值，則認(rèn)為該節(jié)點(diǎn)是超點(diǎn)。重復(fù)上述步驟，直到處理完所有的超列組合。性能分析和實(shí)驗(yàn)結(jié)果表明，該方法具

9、有良好的檢測(cè)精度和較低的開(kāi)銷(xiāo)。
　　(4)為了滿(mǎn)足長(zhǎng)持續(xù)時(shí)間流檢測(cè)的高速網(wǎng)絡(luò)應(yīng)用需求，在多核硬件平臺(tái)上，從共享數(shù)據(jù)結(jié)構(gòu)和獨(dú)立數(shù)據(jù)結(jié)構(gòu)角度設(shè)計(jì)長(zhǎng)持續(xù)時(shí)間流的并行檢測(cè)方法。由于基于共享數(shù)據(jù)結(jié)構(gòu)的長(zhǎng)持續(xù)時(shí)間流檢測(cè)方法中不同線(xiàn)程之間共享數(shù)據(jù)結(jié)構(gòu)（Cuckoo Hash表），共享數(shù)據(jù)結(jié)構(gòu)讀操作遠(yuǎn)多于寫(xiě)操作，引入讀寫(xiě)鎖來(lái)實(shí)現(xiàn)線(xiàn)程之間的同步，導(dǎo)致線(xiàn)程之間的同步開(kāi)銷(xiāo)過(guò)大，不能夠滿(mǎn)足高速網(wǎng)絡(luò)的長(zhǎng)持續(xù)時(shí)間流檢測(cè)應(yīng)用需求。針對(duì)上述問(wèn)題，基于獨(dú)立數(shù)據(jù)結(jié)構(gòu)