基于BSP模型的大圖處理系統(tǒng)數(shù)據(jù)劃分模塊的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、由于圖數(shù)據(jù)量的增長在圖上計(jì)算提取知識(shí)變得越來越具有挑戰(zhàn)性?，F(xiàn)在的圖數(shù)據(jù)集變的非常巨大，如FaceBook、twitter、人人網(wǎng)等的數(shù)據(jù)。傳統(tǒng)的圖處理工具難以完成這些計(jì)算。急需開發(fā)新的處理系統(tǒng)用于海量圖數(shù)據(jù)的計(jì)算。Google基于BSP批量同步模型開發(fā)了Pregel大圖處理系統(tǒng)。這為設(shè)計(jì)開發(fā)圖處理系統(tǒng)提供了思路。而當(dāng)今最為流行的云計(jì)算技術(shù)為此提供了技術(shù)支持。然而任何圖處理系統(tǒng)都不能避免一個(gè)早已存在的問題即圖分割的問題。特別是云計(jì)算環(huán)境下

2、分布式并行處理需要對(duì)處理的數(shù)據(jù)進(jìn)行劃分為多個(gè)分區(qū)。數(shù)據(jù)被分割為多個(gè)分區(qū)由集群中的計(jì)算節(jié)點(diǎn)并行處理。如何實(shí)現(xiàn)一個(gè)好的劃分依然是一個(gè)難點(diǎn)和極大的挑戰(zhàn)。
　　為了解決上述問題，我們借鑒分布式平行處理系統(tǒng)云計(jì)算編程模型Hadoop設(shè)計(jì)思路，基于BSP模型開發(fā)了一個(gè)可以進(jìn)行大圖處理的圖處理系統(tǒng)。本文主要討論系統(tǒng)其中數(shù)據(jù)劃分模塊設(shè)計(jì)與實(shí)現(xiàn)。本文主要貢獻(xiàn)如下。第一，我們分析圖計(jì)算特點(diǎn)，借鑒現(xiàn)有圖處理系統(tǒng)的設(shè)計(jì)思路設(shè)計(jì)實(shí)現(xiàn)了數(shù)據(jù)劃分模塊。提供了完

3、善的用戶接口，用戶可以靈活的設(shè)置?？梢赃x擇使用默認(rèn)的劃分策略或者根據(jù)接口定制他們自己的劃分算法。已經(jīng)整合到系統(tǒng)中并且工作良好;第二，我們實(shí)現(xiàn)了三個(gè)圖數(shù)據(jù)劃分算法，即基于MD5Hash的數(shù)據(jù)劃分算法、針對(duì)取模Hash基于虛擬分區(qū)的平衡優(yōu)化算法、Range劃分算法;第三，我們實(shí)現(xiàn)了對(duì)多存儲(chǔ)系統(tǒng)輸入格式的支持。對(duì)比分析HDFS和HBase的存儲(chǔ)設(shè)計(jì)的相似性，整合了HDFS及HBase輸入格式并提供了統(tǒng)一的接口設(shè)計(jì)。提供了默認(rèn)的輸入格式，同時(shí)用

4、戶根據(jù)他們的需求定制自己的輸入格式;第四，為圖算法的實(shí)現(xiàn)提供了必備的支撐部件，如，基于RPC的多線程數(shù)據(jù)并行發(fā)送、環(huán)形緩沖區(qū)、全局同步及優(yōu)化器等。
　　實(shí)驗(yàn)結(jié)果和實(shí)際應(yīng)用表明實(shí)現(xiàn)的大圖處理系統(tǒng)中數(shù)據(jù)劃分模塊達(dá)到了系統(tǒng)設(shè)計(jì)的目標(biāo)。具有良好的可擴(kuò)展性和穩(wěn)定性。我們從負(fù)載均衡、通信開銷、時(shí)間開銷三個(gè)方面對(duì)比分析了三種不同的數(shù)據(jù)劃分算法的性能。結(jié)果表明優(yōu)化的hash相對(duì)與未優(yōu)化的具有較好的性能。數(shù)據(jù)集較好局部聚集特性的情況下Range劃分