KNN分類和FCM聚類中相似性度量的研究.pdf

1、模式識別成立于二十世紀二十年代，伴著對四十年代產(chǎn)生的計算機的擴大應用和五十年代崛起的人工智能系統(tǒng)的不斷發(fā)展，它早已在人們的日常生活中和社會的各行各業(yè)中扮演了非常重要的角色。因此，它得到了來自社會各界的許多著名的學者對其理論方法以及實際應用的探索和研究，并且在六十年代初的時候快速地發(fā)展成為了一門學科。
　　在模式識別的研究中有兩個特別重要的主題分別是分類和聚類，它們在眾多的領域中都得到了廣泛的實際應用。對于分類和聚類算法來說，其中的

2、距離度量或者相似性度量的構建是一項非?；A性的問題。因此，為了確保分類和聚類算法的效果較好，特別關鍵的一步就是需要選擇到合適的距離度量或者相似性度量。
　　本論文的研究目的就是通過借鑒LPP算法的基本思想，構建出新的相似性度量方法，進而提出新的分類和聚類算法。該新構建的相似性度量方法能夠反映出數(shù)據(jù)的內(nèi)在結構特征。文中首先對分類和聚類進行了簡單的概述；其次列舉出了目前分類和聚類算法中經(jīng)常用到的一些相似性度量方法，并重點介紹了歐氏距離

3、和馬氏距離以及它們存在的問題；然后對K近鄰算法、模糊C均值算法以及當前備受關注的一種線性降維算法LPP進行了詳細的介紹，最后依據(jù)LPP算法的基本思想對K近鄰算法和模糊C均值算法作了改進。在歐氏距離中，全部特征之間的不同之處被統(tǒng)一地對待；在馬氏距離中，雖然數(shù)據(jù)的分布特征被考慮到并且結果也不會受到量綱大小的影響，但是它卻夸大了變化微小的變量的作用。并且，這兩種相似性度量都忽視了數(shù)據(jù)的內(nèi)在結構特征。針對這一存在的問題，本論文就借鑒了LPP算法

4、的基本思想，首先對局部保持散度矩陣作了詳細的介紹，在此基礎上進一步對類內(nèi)局部保持散度矩陣進行了深入的描述，然后依據(jù)這兩個矩陣構建出了新的相似性度量方法，最后利用該新的相似性度量方法提出新的分類和聚類算法，從而提高分類和聚類算法的性能和效率。在本論文的最后，文中所提出的新的分類和聚類算法對人工擬合數(shù)據(jù)、真實的UCI數(shù)據(jù)、人臉數(shù)據(jù)以及手寫數(shù)字數(shù)據(jù)分別進行了實驗?；诮徊骝炞C的實驗結果以及其它實驗的結果都表明，相對于現(xiàn)有的基于歐氏距離和傳統(tǒng)馬