基于模糊Fisher準(zhǔn)則的聚類與特征降維研究.pdf

1、聚類分析與特征降維是模式識別領(lǐng)域兩個重要的研究課題。聚類分析作為一種重要的非監(jiān)督模式識別工具，可用于多種領(lǐng)域，如數(shù)據(jù)挖掘、生物學(xué)、計算機視覺、文檔分析等。它旨在將最相似的數(shù)據(jù)聚為一類，而將最不相似的數(shù)據(jù)聚為不同的類。特征降維包括特征抽取和特征選擇，在模式識別中起著非常重要的作用，它有助于去除多余特征，降低原始數(shù)據(jù)集的維數(shù)。
　　 本文針對模糊聚類與特征降維中的幾個問題進行了研究，包括基于模糊Fisher準(zhǔn)則的半模糊聚類算法、無監(jiān)

2、督特征抽取以及不平衡數(shù)據(jù)集特征選擇等。
　　 本文的創(chuàng)造性研究成果主要有：
　　 1、將Fisher線性判別擴展為模糊Fisher線性判別，并基于此提出了一種新的聚類算法，稱為基于模糊Fisher準(zhǔn)則的半模糊聚類算法。該算法將鑒別矢量引入迭代更新方程，因此其異于常見的FCM聚類方程形式。嚴格地講，該算法不僅僅基于模糊類內(nèi)散布矩陣，還基于模糊類間散布矩陣，不同于大多數(shù)類似于FCM的聚類只基于模糊類內(nèi)散布矩陣，因此，從以模糊

3、Fisher準(zhǔn)則作為聚類目標(biāo)函數(shù)這個意義上說，F(xiàn)BSC可以視為一個新的模糊聚類算法。實際上，該研究也拓展了Fisher線性判別的應(yīng)用；
　　 2、提出一種將最佳鑒別平面特征抽取技術(shù)擴展到無監(jiān)督模式的方法，其基本思想是通過最優(yōu)化定義的模糊Fisher準(zhǔn)則函數(shù)求得無監(jiān)督模式下的第一個最佳鑒別矢量以及模糊散布矩陣?；诖?，求得最大化模糊Fisher準(zhǔn)則函數(shù)前提下滿足正交、共軛正交或者既正交又共軛正交的第二個鑒別矢量，由這兩個鑒別矢量分

4、別構(gòu)成無監(jiān)督最佳鑒別平面、無監(jiān)督統(tǒng)計不相關(guān)最佳鑒別平面或改進的無監(jiān)督統(tǒng)計不相關(guān)最佳鑒別平面；
　　 3、提出一種將最佳鑒別矢量集擴展到無監(jiān)督模式下的方法，其基本思想是通過定義的模糊Fisher準(zhǔn)則函數(shù)將Fisher線性判別擴展成一種半模糊聚類算法，通過該算法求得最佳鑒別矢量和模糊散布矩陣，進而構(gòu)造出最佳鑒別矢量集。實驗結(jié)果表明，盡管該方法無法優(yōu)于傳統(tǒng)的有監(jiān)督最佳鑒別矢量集技術(shù)，但卻具有與同屬無監(jiān)督特征抽取的主成分分析算法可比的性

5、能；
　　 4、提出了一種針對不平衡數(shù)據(jù)的基于后驗概率的分類器獨立的特征選擇算法。該算法首先引入基于Parzen-window方法估算的不平衡因子，并以Tomek Links中點為初始值進行迭代，找出滿足后驗概率相等的判別邊界點，通過對這些點法向量進行投影計算得到反映各特征重要性的權(quán)值。實驗表明，對于不平衡數(shù)據(jù)，該算法在不降低分類器總體性能地基礎(chǔ)上，不僅可以有效降低維度，節(jié)省計算開銷，而且能夠避免常規(guī)特征選擇算法用于不平衡數(shù)據(jù)時