基于自然最近鄰的無(wú)參聚類(lèi)算法研究.pdf

1、基于自然最近鄰的無(wú)參聚類(lèi)算法研究重慶大學(xué)碩士學(xué)位論文（學(xué)術(shù)學(xué)位）學(xué)生姓名：黃金龍指導(dǎo)教師：朱慶生教授專業(yè)：計(jì)算機(jī)軟件與理論學(xué)科門(mén)類(lèi)：工學(xué)重慶大學(xué)計(jì)算機(jī)學(xué)院二O一四年四月重慶大學(xué)碩士學(xué)位論文中文摘要I摘要數(shù)據(jù)挖掘就是在大量的數(shù)據(jù)中探索出有價(jià)值的模式、規(guī)則和規(guī)律的過(guò)程，即從海量無(wú)規(guī)律的數(shù)據(jù)集中提取出可理解的、之前人們并不清楚的且存在潛在價(jià)值的知識(shí)的過(guò)程。數(shù)據(jù)挖掘的主要任務(wù)包括回歸分析(Regression)、關(guān)聯(lián)分析(Association

2、rulelearning)、分類(lèi)分析(Classification)、聚類(lèi)分析(Clustering)以及異常分析(Outlierdetection)等。其中數(shù)據(jù)聚類(lèi)則是數(shù)據(jù)挖掘中一項(xiàng)非常重要的技術(shù)，是人們?cè)谡J(rèn)識(shí)和挖掘研究對(duì)象之間內(nèi)在聯(lián)系的一種非常常用的方法，它不但可以作為獨(dú)立的數(shù)據(jù)挖掘工具，從知識(shí)庫(kù)中獲取到數(shù)據(jù)結(jié)構(gòu)的分布信息，還可以對(duì)數(shù)據(jù)集進(jìn)行預(yù)處理以方便其它一些數(shù)據(jù)挖掘算法對(duì)數(shù)據(jù)集進(jìn)行數(shù)據(jù)挖掘。聚類(lèi)分析是一種無(wú)監(jiān)督的數(shù)據(jù)挖掘分析算法

3、，無(wú)監(jiān)督的聚類(lèi)分析算法能夠挖掘出輸入數(shù)據(jù)集的內(nèi)部分布結(jié)構(gòu)以及類(lèi)簇信息。目前包括計(jì)算機(jī)模式識(shí)別中的視覺(jué)分析、圖像識(shí)別和分割等領(lǐng)域都在廣泛地應(yīng)用聚類(lèi)分析技術(shù)。同時(shí)聚類(lèi)分析也被應(yīng)用于統(tǒng)計(jì)分析，醫(yī)療信息處理，生物工程，社會(huì)科學(xué)和心理研究等各個(gè)數(shù)據(jù)分析場(chǎng)合。在商務(wù)管理、市場(chǎng)分析、工程設(shè)計(jì)等商業(yè)領(lǐng)域中也應(yīng)用到了數(shù)據(jù)挖掘的聚類(lèi)分析技術(shù)。所謂聚類(lèi)就是將需要處理的整個(gè)數(shù)據(jù)集劃分成多個(gè)不同的類(lèi)簇，類(lèi)簇與類(lèi)簇之間距離或者相異性盡量的大，而使得類(lèi)簇內(nèi)部盡量的緊

4、湊。最近鄰居概念早在1951年就已經(jīng)被提出，一經(jīng)提出就廣泛的受到關(guān)注和研究，且被廣泛應(yīng)用于模式識(shí)別、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘等領(lǐng)域。最著名同時(shí)也是最基礎(chǔ)的兩個(gè)最近鄰居概念就是Stevens所提出的K最近鄰居和ε最近鄰居概念。現(xiàn)如今數(shù)據(jù)挖掘中的很多聚類(lèi)算法、離群檢測(cè)算法等都應(yīng)用到了K最近鄰和ε最近鄰的概念，并提出了許多著名的數(shù)據(jù)挖掘算法，比如KNN分類(lèi)算法、LOF和INFLO離群檢測(cè)算法等。但是隨著K最近鄰和ε最近鄰這兩個(gè)概念的應(yīng)用越來(lái)越深入，

5、K最近鄰和ε最近鄰的不足和缺點(diǎn)也顯露在我們面前。那就是對(duì)于一個(gè)未知的數(shù)據(jù)集，在K最近鄰的概念下每個(gè)數(shù)據(jù)對(duì)象應(yīng)該有多少鄰居才算合適，K值設(shè)為多少才能夠正確地反映出這個(gè)未知數(shù)據(jù)集的結(jié)構(gòu)特性。特別是在如今數(shù)據(jù)以爆炸式增長(zhǎng)的大數(shù)據(jù)時(shí)代，數(shù)據(jù)集的復(fù)雜度變得越來(lái)越高，未知性也越來(lái)越強(qiáng)，在利用基于K最近鄰的數(shù)據(jù)挖掘算法對(duì)數(shù)據(jù)進(jìn)行挖掘時(shí)，K值也越來(lái)越難設(shè)置。ε最近鄰在各個(gè)鄰域中的應(yīng)用也同樣遇到這一問(wèn)題，ε值大小的設(shè)置往往會(huì)對(duì)數(shù)據(jù)的最后挖掘效果產(chǎn)生很大的