模糊聚類算法研究.pdf

1、聚類分析是數(shù)據(jù)挖掘與知識發(fā)現(xiàn)的核心技術之一。模糊C-均值聚類算法（FCM）是一種基于原型的聚類算法，具有簡單、高效、數(shù)據(jù)適應性強等特點，是聚類分析中使用最為頻繁的算法和研究熱點。其中最受關注的問題為：（1）如何對 FCM算法中目標函數(shù)恰當定義使該目標函數(shù)既能反映類內(nèi)“距離”和類間“距離”要求的原則，又能體現(xiàn)各個特征以及不同樣本的重要性；（2）無論 FCM算法中目標函數(shù)如何定義，均會有相應的聚類原型與之對應，從而收斂速度甚至聚類效果必然依

2、賴初始劃分，如何建立一種基于模糊理論的聚類算法來規(guī)避聚類原型的問題，即從根本上解決對初始劃分的敏感性；（3）如何恰當?shù)娜タ坍嫲氡O(jiān)督FCM算法，使監(jiān)督樣本既能體現(xiàn)其典型性，又不失其局限性；（4）如何減少FCM算法的計算量。
　　針對問題（1）與（4），引入流形學習的相似度度量,從基于判別近鄰嵌入流形學習算法、基于幾何流形距離和基于統(tǒng)計流形距離三方面對FCM聚類算法展開研究。通過算例，基于幾何流形距離的FCM算法能夠有效的識別不規(guī)則簇

3、；基于判別近鄰嵌入流形學習的FCM聚類算法能夠有效的進行特征降維并在人臉識別上取得了良好的效果；基于統(tǒng)計流形距離的FCM聚類算法特別適合處理高維且具有統(tǒng)計特性的樣本聚類，計算量也較小。
　　另外，將數(shù)據(jù)的統(tǒng)計特型與聚類算法相結合，研究了在傳統(tǒng)FCM算法的目標函數(shù)中引入K-L信息熵來規(guī)則化FCM算法，并將距離函數(shù)采用高斯混合分布，應用于圖像的分割，能將背景與目標充分分割開來。同時研究了任意高斯混合分布間的K-L距離度量，得到了更為緊

4、湊的K-L距離度量公式，將其改造成具有對稱性的距離度量，并引入到傳統(tǒng)FCM算法和基于K-L信息熵規(guī)則化FCM算法中，建立了一種新的基于高斯混合分布間對稱K-L距離及KL信息熵規(guī)則化的FCM聚類算法（GMM_PSKL-FCM），應用于圖像聚類和檢索中，不僅可以同時處理多類別的圖像分類，而且大大減少了計算量。
　　針對問題（1）、（2）與（4），首先研究了樣本特征對分類的貢獻來確定其權重，提出了基于類間分離度和類內(nèi)緊縮度的特征加權FC

5、M算法；然后采用加權FCM算法將待分數(shù)據(jù)集分割成多個小類（冗余類），通過每個樣本隸屬于各冗余類的隸屬度值計算冗余類間的貼近度。以冗余類為圖的節(jié)點，以冗余類間的貼近度為節(jié)點間的權重，并采用Zadeh運算下的Floyd算法計算得到具有較強塊對稱性的冗余類間的標準貼近度矩陣，提取其譜特征，再次采用FCM算法對譜特征進行聚類完成冗余類的合并。算例表明，基于譜分析的冗余模糊聚類算法既減少了樣本容量又規(guī)避了聚類原型的影響。
　　針對問題（3）

6、，本文將樣本的先驗知識轉(zhuǎn)化為監(jiān)督樣本的隸屬度約束條件加入到傳統(tǒng)的FCM算法求解問題中，并根據(jù)監(jiān)督樣本的“典型性”賦予其權重，采用HPR(Hestenes-Powell-Rockafellar)乘子法進行求解，建立了一種新的加權半監(jiān)督FCM算法（SSFCM-HPR）。監(jiān)督樣本的“典型性”取決于離它所隸屬的聚類中心的遠近，文中取監(jiān)督樣本的最大與次大隸屬度值之比作為該監(jiān)督樣本的權重。該算法不僅保留了FCM算法對監(jiān)督樣本的模糊劃分性，使其能有效