軟硬結(jié)合的聚類(lèi)算法及其集成的研究.pdf

1、近幾十年來(lái)，隨著科學(xué)技術(shù)的發(fā)展經(jīng)濟(jì)和社會(huì)都取得了極大的進(jìn)步，同時(shí)在各個(gè)領(lǐng)域也產(chǎn)生了海量的數(shù)據(jù)。1989年舉行的第十一屆國(guó)際聯(lián)合人工智能學(xué)術(shù)會(huì)議上知識(shí)發(fā)現(xiàn)(Knowledge Discoveryin Databases，KDD)被首次提出來(lái)。之后，這一學(xué)科受到來(lái)自各個(gè)領(lǐng)域的研究者關(guān)注并產(chǎn)生了學(xué)科交叉，數(shù)據(jù)挖掘(Data Mining)也由此產(chǎn)生。目前數(shù)據(jù)挖掘主要研究的是關(guān)聯(lián)規(guī)則、分類(lèi)、聚類(lèi)、預(yù)測(cè)、Web挖掘等。其中聚類(lèi)(Clusterin

2、g Analysis)是指根據(jù)某種規(guī)則將數(shù)據(jù)對(duì)象劃分為幾個(gè)類(lèi)簇，使在同一個(gè)類(lèi)簇中的對(duì)象之間相似性最高，而在不同類(lèi)簇的對(duì)象相似性最低。聚類(lèi)過(guò)程是將沒(méi)有訓(xùn)練樣本的數(shù)據(jù)集劃分為有意義的不同類(lèi)，屬于無(wú)監(jiān)督學(xué)習(xí)。目前的聚類(lèi)算法有許多種，根據(jù)聚類(lèi)算法的聚類(lèi)法則大致可以將聚類(lèi)算法分為五個(gè)類(lèi)別。每種聚類(lèi)算法都有一定的適用范圍并在某些特定的數(shù)據(jù)集上有較好的表現(xiàn)，但是目前不存在一種聚類(lèi)算法可以對(duì)各種結(jié)構(gòu)的數(shù)據(jù)集進(jìn)行聚類(lèi)?？傮w來(lái)說(shuō)聚類(lèi)算法存在著以下幾種研究難

3、題:如可擴(kuò)展性不強(qiáng)，一些聚類(lèi)算法適合在小數(shù)據(jù)集上工作，但不適合在大數(shù)據(jù)集工作;需要先驗(yàn)知識(shí)去決定輸入?yún)?shù)，例如k-means算法需要輸入類(lèi)別數(shù)k;無(wú)法辨別任意形狀聚類(lèi);缺乏適合于類(lèi)屬性數(shù)據(jù)的聚類(lèi)有效性研究。
　　 集成學(xué)習(xí)(Ensemble Learning)是利用多個(gè)基學(xué)習(xí)器來(lái)解決同一個(gè)問(wèn)題，可以顯著地提高學(xué)習(xí)系統(tǒng)的泛化能力。在此基礎(chǔ)上，2002年Strehl等提出了聚類(lèi)集成(Cluster Ensemble)并給出了定義。聚

4、類(lèi)集成是利用多個(gè)基聚類(lèi)結(jié)果進(jìn)行集成得到一個(gè)新的劃分，這個(gè)劃分最大程度上分享了所有的輸入基聚類(lèi)結(jié)果。目前聚類(lèi)集成的算法有許多種，但根據(jù)集成的方法可以大致劃分為三類(lèi)。聚類(lèi)集成有較好的泛化能力，能夠挖掘出數(shù)據(jù)集的潛在結(jié)構(gòu)。
　　 從聚類(lèi)的結(jié)果來(lái)看，聚類(lèi)可分為兩大類(lèi):軟聚類(lèi)和硬聚類(lèi)。軟聚類(lèi)是將樣本個(gè)體通過(guò)隸屬度標(biāo)識(shí)出與各個(gè)類(lèi)簇的隸屬關(guān)系。硬聚類(lèi)是將樣本個(gè)體劃分為某一特定的類(lèi)簇，與其它的類(lèi)簇并沒(méi)有關(guān)系。從數(shù)學(xué)模型的角度來(lái)看，軟聚類(lèi)是以模糊

5、數(shù)學(xué)為基礎(chǔ)的。本文首先對(duì)聚類(lèi)算法進(jìn)行了研究，進(jìn)一步研究了軟聚類(lèi)與硬聚類(lèi)方法的結(jié)合，提出一種軟硬結(jié)合的聚類(lèi)算法，該算法首先使用模糊數(shù)學(xué)的模糊相似矩陣來(lái)劃分出模糊樣本個(gè)體和一般樣本個(gè)體。之后在實(shí)驗(yàn)中將這種軟硬結(jié)合的聚類(lèi)算法和硬聚類(lèi)K-means算法、軟聚類(lèi)FCM算法進(jìn)行比較，最后實(shí)驗(yàn)結(jié)果表明了在人工數(shù)據(jù)集和UCI數(shù)據(jù)集上這種軟硬結(jié)合的聚類(lèi)算法優(yōu)于單純的硬聚類(lèi)K-means算法和軟聚類(lèi)FCM算法。在聚類(lèi)集成中，本文提出了基于相似性選擇的聚類(lèi)集