高階異構數(shù)據(jù)聚類算法研究.pdf

1、聚類問題是模式分析領域最為基礎的研究問題，其任務是將具有近似特性或關系密切的數(shù)據(jù)劃分到同一個聚簇中。通過聚類分析可以幫助我們理解數(shù)據(jù)內(nèi)部隱藏的知識。傳統(tǒng)的聚類算法主要針對同構數(shù)據(jù)進行研究分析，采用單一的特征集合或同種類型的關系集合描述數(shù)據(jù)集的特性。然而最近隨著IT技術尤其是Internet技術突飛猛進的發(fā)展，大量的異構數(shù)據(jù)集廣泛出現(xiàn)，這些異構數(shù)據(jù)集的特性需要由多種特征集合或多種關系集合進行描述。為了有效利用異構信息，挖掘異構數(shù)據(jù)內(nèi)部的聚

2、簇結構，學術界提出了異構數(shù)據(jù)聚類分析方法，并吸引了廣大科研人員的興趣。本文的研究工作與創(chuàng)新之處主要包括以下幾方面的內(nèi)容：
　　1.為了探測高階異構數(shù)據(jù)內(nèi)部隱藏的層次聚簇模式，針對星型高階異構數(shù)據(jù)，提出了一種高階層次聯(lián)合聚類算法(high-order hierarchical co-clustering algorithm,HHCC)。HHCC算法利用變量相關性度量指標Goodman-Kruskalτ衡量中心類型數(shù)據(jù)對象和每種非中心

3、類型數(shù)據(jù)對象的相關性，分別將相關性較強的中心類型數(shù)據(jù)對象和非中心類型數(shù)據(jù)對象劃分到不同的聚簇中。利用 Goodman-Kruskalτ指標評估聚類質(zhì)量，Goodman-Kruskalτ指標越大，聚類質(zhì)量越高。利用局部迭代搜索方法優(yōu)化Goodman-Kruskalτ指標，在優(yōu)化Goodman-Kruskalτ指標的同時能夠自動調(diào)整每個聚簇分裂的子聚簇數(shù)目。HHCC算法使用top-down的分裂原則，將每個聚簇分裂成使得Goodman-Kr

4、uskalτ指標達到最大的子聚類，最終獲得高階異構數(shù)據(jù)的樹狀層次聚類結果。
　　2.目前多數(shù)高階異構數(shù)據(jù)聯(lián)合聚類算法集中于無監(jiān)督學習，然而在實際問題中可以獲得少量樣本先驗信息。大量研究表明，在聚類過程中有效引入少量部分先驗知識將有利于提高聚類結果的精度。另外，為了發(fā)現(xiàn)高階異構數(shù)據(jù)集中未知的重疊聚簇結構，本文提出了一種高階異構數(shù)據(jù)半監(jiān)督模糊聯(lián)合聚類算法(high-order heterogeneous data semi-super

5、vised fuzzy co-clustering algorithm,SS-HHFC)。為了準確、客觀地描述聚簇交疊部分數(shù)據(jù)對象的聚類結果，SS-HHFC算法引入模糊概念，利用隸屬度描述數(shù)據(jù)屬于某聚簇的程度。由于高階聯(lián)合聚類的目標是將相關性較強的異構數(shù)據(jù)對象劃分到同一個聚簇中，SS-HHFC算法利用聚集度評估異構數(shù)據(jù)聚簇之間的相關性，利用聚集度衡量聚類結果的質(zhì)量。高階聯(lián)合聚類建模為聚集度的最大化問題，并將成對約束先驗信息融入到代價函數(shù)

6、中。為了求解優(yōu)化問題，推導出隸屬度迭代更新公式，設計SS-HHFC算法的計算過程，并從理論和實驗兩方面驗證了SS-HHFC算法的收斂性。
　　3.異構數(shù)據(jù)中往往包含噪聲和離群點數(shù)據(jù)，為了減弱噪聲對聚類效果的影響以及探測離群點數(shù)據(jù)，本文基于非負矩陣分解的提出一種加權異構數(shù)據(jù)聯(lián)合聚類算法(weighted nonnegative matrix factorization for heterogeneous data cocluster

7、ing algorithm，WNMF-HCC)。WNMF-HCC算法利用數(shù)據(jù)對象之間的關聯(lián)關系，將異構數(shù)據(jù)嵌入到低維空間。根據(jù)數(shù)據(jù)對目標函數(shù)的貢獻，對每個異構數(shù)據(jù)對象自動賦予不同的權重，對噪聲和離群點數(shù)據(jù)賦予較低的權重。利用權重不僅可以減弱噪聲對聚類效果的不利影響，而且可以判斷離群點數(shù)據(jù)。并從理論和實驗兩方面驗證了WNMF-HCC算法的收斂性。
　　4.多視角數(shù)據(jù)中往往含有噪聲數(shù)據(jù)，影響聚類效果。為了提高聚類算法對噪聲的魯棒性，本

8、文提出了一種基于可能性C-means的魯棒多視角聚類算法(robust multi-view clustering algorithm based on possibilistic C-means,PCM-RMVC)。由于PCM-RMVC算法不再受隸屬度之和為1的限制，噪聲對所有聚簇的隸屬度均較低，減弱了噪聲數(shù)據(jù)對聚類精度的不利影響，對噪聲具有較強的魯棒性。為了綜合利用每種視角的特征空間信息，PCM-RMVC算法最小化每個視角中數(shù)據(jù)對象