基于模糊Fisher準(zhǔn)則的聚類(lèi)與特征降維研究.pdf

1、聚類(lèi)分析與特征降維是模式識(shí)別領(lǐng)域兩個(gè)重要的研究課題。聚類(lèi)分析作為一種重要的非監(jiān)督模式識(shí)別工具，可用于多種領(lǐng)域，如數(shù)據(jù)挖掘、生物學(xué)、計(jì)算機(jī)視覺(jué)、文檔分析等。它旨在將最相似的數(shù)據(jù)聚為一類(lèi)，而將最不相似的數(shù)據(jù)聚為不同的類(lèi)。特征降維包括特征抽取和特征選擇，在模式識(shí)別中起著非常重要的作用，它有助于去除多余特征，降低原始數(shù)據(jù)集的維數(shù)。
　　 本文針對(duì)模糊聚類(lèi)與特征降維中的幾個(gè)問(wèn)題進(jìn)行了研究，包括基于模糊Fisher準(zhǔn)則的半模糊聚類(lèi)算法、無(wú)監(jiān)

2、督特征抽取以及不平衡數(shù)據(jù)集特征選擇等。
　　 本文的創(chuàng)造性研究成果主要有：
　　 1、將Fisher線性判別擴(kuò)展為模糊Fisher線性判別，并基于此提出了一種新的聚類(lèi)算法，稱(chēng)為基于模糊Fisher準(zhǔn)則的半模糊聚類(lèi)算法。該算法將鑒別矢量引入迭代更新方程，因此其異于常見(jiàn)的FCM聚類(lèi)方程形式。嚴(yán)格地講，該算法不僅僅基于模糊類(lèi)內(nèi)散布矩陣，還基于模糊類(lèi)間散布矩陣，不同于大多數(shù)類(lèi)似于FCM的聚類(lèi)只基于模糊類(lèi)內(nèi)散布矩陣，因此，從以模糊

3、Fisher準(zhǔn)則作為聚類(lèi)目標(biāo)函數(shù)這個(gè)意義上說(shuō)，F(xiàn)BSC可以視為一個(gè)新的模糊聚類(lèi)算法。實(shí)際上，該研究也拓展了Fisher線性判別的應(yīng)用；
　　 2、提出一種將最佳鑒別平面特征抽取技術(shù)擴(kuò)展到無(wú)監(jiān)督模式的方法，其基本思想是通過(guò)最優(yōu)化定義的模糊Fisher準(zhǔn)則函數(shù)求得無(wú)監(jiān)督模式下的第一個(gè)最佳鑒別矢量以及模糊散布矩陣。基于此，求得最大化模糊Fisher準(zhǔn)則函數(shù)前提下滿足正交、共軛正交或者既正交又共軛正交的第二個(gè)鑒別矢量，由這兩個(gè)鑒別矢量分

4、別構(gòu)成無(wú)監(jiān)督最佳鑒別平面、無(wú)監(jiān)督統(tǒng)計(jì)不相關(guān)最佳鑒別平面或改進(jìn)的無(wú)監(jiān)督統(tǒng)計(jì)不相關(guān)最佳鑒別平面；
　　 3、提出一種將最佳鑒別矢量集擴(kuò)展到無(wú)監(jiān)督模式下的方法，其基本思想是通過(guò)定義的模糊Fisher準(zhǔn)則函數(shù)將Fisher線性判別擴(kuò)展成一種半模糊聚類(lèi)算法，通過(guò)該算法求得最佳鑒別矢量和模糊散布矩陣，進(jìn)而構(gòu)造出最佳鑒別矢量集。實(shí)驗(yàn)結(jié)果表明，盡管該方法無(wú)法優(yōu)于傳統(tǒng)的有監(jiān)督最佳鑒別矢量集技術(shù)，但卻具有與同屬無(wú)監(jiān)督特征抽取的主成分分析算法可比的性

5、能；
　　 4、提出了一種針對(duì)不平衡數(shù)據(jù)的基于后驗(yàn)概率的分類(lèi)器獨(dú)立的特征選擇算法。該算法首先引入基于Parzen-window方法估算的不平衡因子，并以Tomek Links中點(diǎn)為初始值進(jìn)行迭代，找出滿足后驗(yàn)概率相等的判別邊界點(diǎn)，通過(guò)對(duì)這些點(diǎn)法向量進(jìn)行投影計(jì)算得到反映各特征重要性的權(quán)值。實(shí)驗(yàn)表明，對(duì)于不平衡數(shù)據(jù)，該算法在不降低分類(lèi)器總體性能地基礎(chǔ)上，不僅可以有效降低維度，節(jié)省計(jì)算開(kāi)銷(xiāo)，而且能夠避免常規(guī)特征選擇算法用于不平衡數(shù)據(jù)時(shí)