基于核方法的模式分類研究與應(yīng)用.pdf

1、近些年來，基于核函數(shù)的學(xué)習方法(核方法)已經(jīng)成功地用于解決模式分類領(lǐng)域中的各種問題。它具有兩個顯著的特點：首先，是在線性與非線性之間架設(shè)起一座橋梁，即它通過核函數(shù)隱含的將數(shù)據(jù)投影到一個高維核特征空間中，使得線性算法得以在該空間中處理非線性可分的數(shù)據(jù)。其次，是通過巧妙地引入核函數(shù)，使得學(xué)習算法的計算復(fù)雜度不受樣本維數(shù)的影響，從而避免了“維數(shù)災(zāi)難”問題。
　　 多視角人臉檢測問題中的人臉模式與非人臉模式之間，基于內(nèi)容的圖像檢索問題中

2、的圖像視覺特征表征和人們對圖像的語義理解之間，都呈現(xiàn)出復(fù)雜的非線性關(guān)系。本論文圍繞模式分類領(lǐng)域中的這兩個現(xiàn)實應(yīng)用問題，對核方法的加速算法和核函數(shù)優(yōu)化理論展開了較為深入的研究，另外，論文還對圖像檢索中的形狀特征描述、小樣本集情況下的距離度量學(xué)習問題進行了研究。本論文的主要創(chuàng)新點概括如下：
　　 1)提出了一種能夠以多分辨率方式對數(shù)據(jù)進行分類的分類器，即提升核MPP分類器。它具有在分類復(fù)雜度和分類精度之間進行調(diào)節(jié)的機制，從而克服了傳

3、統(tǒng)SVM分類器運算復(fù)雜度大，不適用于實時分類的難題。
　　 2)提出了一種基于經(jīng)驗核空間的多分辨率聚類算法，即KBCL。作為一種非線性聚類算法，KBCL具有存儲開銷少，無需事先指定子類別數(shù)，對初始類別劃分不敏感，能進行多分辨率分析等優(yōu)點。這些優(yōu)點使其適用于對大數(shù)據(jù)量的數(shù)據(jù)集進行聚類分析。
　　 3)采用KBCL聚類算法和提升核MPP分類器，設(shè)計了一種多分辨率樹狀結(jié)構(gòu)的多視角人臉檢測器。該檢測器在學(xué)習過程中能夠自動對人臉樣

4、本集進行多分辨率劃分，并創(chuàng)建對應(yīng)的多分辨率樹狀檢測結(jié)構(gòu)；檢測時能夠以由“粗”到“精”的策略快速、準確地實現(xiàn)對人臉目標的定位。
　　 4)針對高斯核函數(shù)的參數(shù)選擇問題，提出了一種正則化核離差矩陣準則(RKSC)，該準則具有對非奇異線性變換的不變性。因此，采用RKSC準則選出的高斯核參數(shù)，能夠準確反映數(shù)據(jù)在核空間中的分布特性，而不受坐標系統(tǒng)選擇的影響。針對SVM分類器的核選擇問題，提出了一種基于特征空間的類別可分性度量(FCSM)。

5、FCSM度量從理論上可以看作是對半徑間隔界度量的一種簡化近似。因此，通過最小化FCSM度量來優(yōu)化多個高斯核函數(shù)的組合系數(shù)，可以降低SVM分類器的分類錯誤率上限，從而提升SVM分類器的分類能力。這兩種方法在整個參數(shù)選取過程中無需訓(xùn)練和測試分類器，并且也不需要復(fù)雜的二次優(yōu)化過程來求解度量函數(shù)，因此，都能夠以較高的效率完成對核函數(shù)的優(yōu)化。
　　 5)提出了一種基于廣義霍夫變換的圖像形狀特征描述方法，該方法在具有平移、尺度和旋轉(zhuǎn)不變性的

6、同時，還具有較好的魯棒性，可以有效地描述具有局部缺損和部分被遮擋的圖像目標。并且由于霍夫變換方法本身，具有對數(shù)據(jù)庫中的圖像進行初步篩選的能力，這確保了后續(xù)圖像匹配環(huán)節(jié)的高效性。
　　 6)提出了一種基于半監(jiān)督優(yōu)化核偏重鑒別分析(S-KBDA)的距離度量學(xué)習方法。S-KBDA算法能夠同時根據(jù)監(jiān)督樣本提供的鑒別信息，和非監(jiān)督樣本提供的幾何分布信息，來學(xué)習投影矢量，這在一定程度上克服了小樣本集情況下的過學(xué)習問題。另外，S-KBDA算法