KNN分類和FCM聚類中相似性度量的研究.pdf

1、模式識(shí)別成立于二十世紀(jì)二十年代，伴著對(duì)四十年代產(chǎn)生的計(jì)算機(jī)的擴(kuò)大應(yīng)用和五十年代崛起的人工智能系統(tǒng)的不斷發(fā)展，它早已在人們的日常生活中和社會(huì)的各行各業(yè)中扮演了非常重要的角色。因此，它得到了來(lái)自社會(huì)各界的許多著名的學(xué)者對(duì)其理論方法以及實(shí)際應(yīng)用的探索和研究，并且在六十年代初的時(shí)候快速地發(fā)展成為了一門學(xué)科。
　　在模式識(shí)別的研究中有兩個(gè)特別重要的主題分別是分類和聚類，它們?cè)诒姸嗟念I(lǐng)域中都得到了廣泛的實(shí)際應(yīng)用。對(duì)于分類和聚類算法來(lái)說(shuō)，其中的

2、距離度量或者相似性度量的構(gòu)建是一項(xiàng)非?；A(chǔ)性的問(wèn)題。因此，為了確保分類和聚類算法的效果較好，特別關(guān)鍵的一步就是需要選擇到合適的距離度量或者相似性度量。
　　本論文的研究目的就是通過(guò)借鑒LPP算法的基本思想，構(gòu)建出新的相似性度量方法，進(jìn)而提出新的分類和聚類算法。該新構(gòu)建的相似性度量方法能夠反映出數(shù)據(jù)的內(nèi)在結(jié)構(gòu)特征。文中首先對(duì)分類和聚類進(jìn)行了簡(jiǎn)單的概述；其次列舉出了目前分類和聚類算法中經(jīng)常用到的一些相似性度量方法，并重點(diǎn)介紹了歐氏距離

3、和馬氏距離以及它們存在的問(wèn)題；然后對(duì)K近鄰算法、模糊C均值算法以及當(dāng)前備受關(guān)注的一種線性降維算法LPP進(jìn)行了詳細(xì)的介紹，最后依據(jù)LPP算法的基本思想對(duì)K近鄰算法和模糊C均值算法作了改進(jìn)。在歐氏距離中，全部特征之間的不同之處被統(tǒng)一地對(duì)待；在馬氏距離中，雖然數(shù)據(jù)的分布特征被考慮到并且結(jié)果也不會(huì)受到量綱大小的影響，但是它卻夸大了變化微小的變量的作用。并且，這兩種相似性度量都忽視了數(shù)據(jù)的內(nèi)在結(jié)構(gòu)特征。針對(duì)這一存在的問(wèn)題，本論文就借鑒了LPP算法

4、的基本思想，首先對(duì)局部保持散度矩陣作了詳細(xì)的介紹，在此基礎(chǔ)上進(jìn)一步對(duì)類內(nèi)局部保持散度矩陣進(jìn)行了深入的描述，然后依據(jù)這兩個(gè)矩陣構(gòu)建出了新的相似性度量方法，最后利用該新的相似性度量方法提出新的分類和聚類算法，從而提高分類和聚類算法的性能和效率。在本論文的最后，文中所提出的新的分類和聚類算法對(duì)人工擬合數(shù)據(jù)、真實(shí)的UCI數(shù)據(jù)、人臉數(shù)據(jù)以及手寫數(shù)字?jǐn)?shù)據(jù)分別進(jìn)行了實(shí)驗(yàn)。基于交叉驗(yàn)證的實(shí)驗(yàn)結(jié)果以及其它實(shí)驗(yàn)的結(jié)果都表明，相對(duì)于現(xiàn)有的基于歐氏距離和傳統(tǒng)馬