基于全信息熵的高維分類型數(shù)據(jù)子空間算法.pdf

1、高維數(shù)據(jù)聚類是數(shù)據(jù)挖掘領域的重點、難點，特別是高維分類型數(shù)據(jù)的聚類。數(shù)據(jù)的稀疏性以及“維度災難”等因素，使得傳統(tǒng)的相似度度量方法在分類型數(shù)據(jù)之間的相似度都趨于無窮而無法計算，以至于無法對數(shù)據(jù)進行聚類。大多數(shù)分類型數(shù)據(jù)聚類算法通常是在全空間上來進行傳統(tǒng)的相似度的度量，在實際應用中，這對高維分類型數(shù)據(jù)來說幾乎是不可能完成的任務，而利用軟子空間聚類方法來對高維數(shù)據(jù)聚類是最高效的、最實用的方式。高維分類型聚類分析是聚類分析的一個重要的研究分支，

2、已在多個領域得到了很好的應用，諸如文本挖掘，mb挖掘和基因表達等
　　為了解決高維分類型數(shù)據(jù)的聚類問題，本文結合軟子空間聚類的方式，根據(jù)高維分類型數(shù)據(jù)的特征以及特性。本文采用軟子空間聚類方法，深入研究分析了信息熵及全信息熵在聚類分析中的應用，提出了一種基于全信息熵的高維分類型數(shù)據(jù)聚類算法HPCCD。該算法主要分為四個步驟：首先，根據(jù)傳統(tǒng)的相似度將數(shù)據(jù)集劃分若干子簇，即初始化步驟；接著，搜索特征子空間。由于不同子簇有著不同的特征子空

3、間，所以子空間搜索也是高維數(shù)據(jù)挖掘領域中的一個挑戰(zhàn)性難題。在這一步驟中，我們基于全信息熵理論提出了一種新型的特征子空間的搜索方法：先利用信息熵對屬性的重要性進行評估，再利用全信息熵的特性來搜索對于子簇有意義的特征屬性，從而達到特征子空間搜索的目的；然后，計算緊湊度及子簇的全并。再次利用全信息熵能夠反應子簇的內(nèi)部特性的性質(zhì)，并結合權重的分配方法計算兩合并子簇的緊湊度。搜索緊湊度最小的子簇的進行子簇合并，從而達到層次聚類的效果。最后，在Zo