基于相對(duì)熵的投影聚類算法研究.pdf

1、聚類就是將數(shù)據(jù)對(duì)象分組成為多個(gè)類或簇，在同一個(gè)簇中的對(duì)象之間具有較高的相似度，而不同簇中的對(duì)象差別較大。相異度是根據(jù)描述對(duì)象的屬性值來(lái)計(jì)算的。距離是經(jīng)常采用的度量方式。 技術(shù)進(jìn)步使得數(shù)據(jù)收集變得更加簡(jiǎn)單和快速，從而產(chǎn)生了大量復(fù)雜的高維數(shù)據(jù)。由于這種數(shù)據(jù)存在的普遍性，使得對(duì)高維聚類算法的研究有著非常重要的意義。傳統(tǒng)的聚類算法受“維災(zāi)”的影響在處理高維數(shù)據(jù)時(shí)變的異常困難，主要表現(xiàn)為索引結(jié)果效率低、用于相似性度量的距離函數(shù)失效、聚類描

2、述中存在冗余的維以及算法執(zhí)行效率低等問(wèn)題，使得聚類算法的應(yīng)用受到很大的局限性。 發(fā)現(xiàn)高維空間中存在于不同子空間的聚類問(wèn)題一般被稱為投影聚類問(wèn)題。在已有投影聚類算法 EPCH(Efficient Projective Clustering technique by Histogram construction)的基礎(chǔ)上，本文提出了一種基于相對(duì)熵的改進(jìn)算法 REPCH(Relative Entropy based Projectiv

3、e Clustering by Histograms construction)。在數(shù)據(jù)分布的特征空間中，將每一個(gè) d 維子空間劃分成網(wǎng)格結(jié)構(gòu)。根據(jù)網(wǎng)格單元的密度構(gòu)建每一個(gè) d 維子空間的直方圖。直方圖的相對(duì)熵可以反映子空間中數(shù)據(jù)的實(shí)際分布與平均分布之間的相似度。相對(duì)熵會(huì)隨著密集區(qū)域的減少而單調(diào)遞增，并逐漸趨近于 1。根據(jù)這個(gè)原理，直方圖中密集區(qū)域和稀疏區(qū)域可以被識(shí)別。 算法在人工數(shù)據(jù)集上進(jìn)行了大量的實(shí)驗(yàn)，對(duì)算法的聚類質(zhì)量、性能