基于核學(xué)習(xí)方法的聚類算法研究.pdf

1、數(shù)據(jù)挖掘是一個(gè)多學(xué)科交叉研究領(lǐng)域,與機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)緊密相關(guān)。作為數(shù)據(jù)挖掘核心內(nèi)容之一的聚類是將物理或抽象對(duì)象的集合聚成由類似對(duì)象組成多個(gè)類的過程。這種方法所具有的“無監(jiān)督”性,使它在機(jī)器學(xué)習(xí)、模式識(shí)別等眾多領(lǐng)域有著重要的應(yīng)用。
　　近年來,隨著統(tǒng)計(jì)學(xué)習(xí)理論的不斷完善,基于核學(xué)習(xí)的方法不斷提出。本文以聚類相關(guān)理論為基礎(chǔ),用核學(xué)習(xí)方法來處理數(shù)據(jù)挖掘中的聚類問題,并重點(diǎn)對(duì)核K-均值聚類算法和支持向量聚類算法進(jìn)行研究。
　　核K-

2、均值算法首先將原空間中待聚類的樣本經(jīng)過一個(gè)非線性映射,映射到一個(gè)高維的核空間中,然后在這個(gè)核空間中進(jìn)行K-均值聚類。由于經(jīng)過核函數(shù)的映射,使原來沒有顯現(xiàn)的特征突現(xiàn)出來,從而能夠更好的聚類。
　　在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上,支持向量機(jī)是20世紀(jì)90年代中期提出的一種新的機(jī)器學(xué)習(xí)方法,它將最大間隔原則和核函數(shù)理論結(jié)合在一起,有效解決了機(jī)器學(xué)習(xí)領(lǐng)域中的高維小樣本學(xué)習(xí)難題。支持向量聚類是一種基于支持向量機(jī)的新穎聚類方法,與其它傳統(tǒng)聚類方法相比

3、較,該方法可調(diào)參數(shù)少,容易處理高維數(shù)據(jù),能得到全局最優(yōu)解,具有能處理任意形狀的聚類且無需指定聚類數(shù)目等優(yōu)點(diǎn)。
　　本文主要研究成果包括如下幾個(gè)方面:
　　(1)研究了層次聚類,K-均值聚類和自組織映射聚類3種經(jīng)典聚類算法。
　　(2)基于經(jīng)典的K-均值聚類算法和支持向量機(jī)理論,在核學(xué)習(xí)方法基礎(chǔ)上,研究了核K-均值聚類算法以及支持向量聚類算法,并給出了一種改進(jìn)的支持向量聚類算法。
　　(3)為驗(yàn)證算法的有效性,使用