基于分布式數(shù)據(jù)的高斯圖模型結(jié)構(gòu)并行估計.pdf

1、高斯圖模型是一種基于高斯分布假設(shè)的無向圖模型。圖中節(jié)點表示變量，節(jié)點之間的邊界表示變量之間的依賴關(guān)系。高維和復雜結(jié)構(gòu)數(shù)據(jù)下的圖模型學習是當前圖模型研究的熱點和難點問題，具有很高的研究和應用價值，廣泛應用于統(tǒng)計機器學習、數(shù)據(jù)挖掘、計算機視覺和生物信息等領(lǐng)域。隨著大數(shù)據(jù)時代的來臨，數(shù)據(jù)收集和挖掘的能力不斷提升，研究者可以獲得的數(shù)據(jù)量急劇增加。傳統(tǒng)的圖模型結(jié)構(gòu)估計算法是基于獨立計算系統(tǒng)設(shè)計的，現(xiàn)有設(shè)備的條件，無法實現(xiàn)海量數(shù)據(jù)下的圖模型結(jié)構(gòu)估計

2、。
　　為解決上述問題，本文基于傳統(tǒng)高斯圖模型結(jié)構(gòu)估計算法中具有代表性的兩種算法，提出可并行的分布式算法，使現(xiàn)有設(shè)備可以進行更高維度和更復雜情況下的圖模型結(jié)構(gòu)估計。首先本文基于鄰域選擇的算法提出一種可并行的分布式算法(DCD-NS)，該算法在保證求解精度和效率的前提下，可以使MPI集群中各個計算節(jié)點利用部分數(shù)據(jù)完成計算，并對結(jié)果進行匯總，得到完整的圖模型結(jié)構(gòu)估計。但該算法的底層求解過程不可并行，使得該并行分布式策略不具備通用性;為

3、克服上述問題，本文提出一種可并行的分布式塊坐標下降法(PDBCD)，該算法適用于MapReduce的并行模式，通過給定的兩種策略匯總各個計算節(jié)點的計算結(jié)果，可用于對一類優(yōu)化問題的求解。本文對該算法的收斂性、求解效率以及求解精度進行了詳細分析，證明了該算法的有效性;本文將上述并行分布式的優(yōu)化思想與傳統(tǒng)圖模型估計算法中具有代表性的GLasso算法相結(jié)合，提出一種可并行的分布式GLasso算法(DBCD-GLasso)，并在Spark框架下進