基于統(tǒng)計學(xué)習(xí)的模式識別幾個問題及其應(yīng)用研究.pdf

1、基于統(tǒng)計學(xué)習(xí)的模式識別方法是人工智能的一個重要研究領(lǐng)域。目前,統(tǒng)計模式識別已經(jīng)得到了較深入的研究,一些相關(guān)技術(shù)成果已成功高效地應(yīng)用于各種不同的領(lǐng)域。雖然如此,其中依然面臨著許多的挑戰(zhàn),許多問題都還需要進(jìn)步的深入探索和研究,特征降維和核方法就是其中倍受關(guān)注的兩個重要主題。本課題就其中的幾個關(guān)鍵挑戰(zhàn)進(jìn)行了相關(guān)的研究,所研究內(nèi)容主要由四個部分,分述如下。
　　 第一部分由第二章組成。在這一部分中我們針對監(jiān)督局部保持特征提取SLPP算法

2、的小樣本問題,提出了推廣的監(jiān)督局部保持特征提取GSLPP算法。在小樣本情況下,GSLPP算法定義的優(yōu)化問題可以等價的轉(zhuǎn)換到一個低維空間中來求解,從而有效的克服了小樣本問題。而且,在大樣本情況下GSLPP算法等價于SLPP算法。
　　 第二部分由第三章和第四章組成。在這一部分內(nèi)容中,我們主要討論了最小類方差支撐向量機(jī)MCVSVM算法的改進(jìn)問題。針對MCVSVM缺少考慮數(shù)據(jù)的局部結(jié)構(gòu)信息的問題,在第三章中我們提出了最小局部保持類方差

3、支撐向量機(jī)MCLPVSVM算法。該算法不但繼承了傳統(tǒng)支撐向量機(jī)SVM和MCVSVM的優(yōu)點,同時又充分利用了數(shù)據(jù)的內(nèi)在的幾何結(jié)構(gòu)信息,從而實現(xiàn)了泛化能力的進(jìn)一步提高。同時在這一部分內(nèi)容的第四章中,針對MCVSVM算法在小樣本數(shù)據(jù)情況下僅利用了類內(nèi)散度矩陣非零空間中的信息的問題,我們討論了利用類內(nèi)散度矩陣零空間中的信息來提高其泛化能力的問題,即首先在零空間中建立一種新的分類器-NSC,然后再把MCVSVM和NSC進(jìn)行融合,從而進(jìn)一步提出了集

4、成分類器-EC。在EC算法中,綜合利用類內(nèi)散度矩陣非零空間和零空間中的信息來進(jìn)一步提高分類性能,表現(xiàn)出了更強(qiáng)的泛化能力。
　　 第三部分由第五章組成。在這一部分內(nèi)容中,我們依據(jù)支撐向量回歸SVR回歸算法可以通過構(gòu)建SVM分類問題實現(xiàn)的基本思想,把MCVSVM分類算法推廣到回歸估計中,進(jìn)而提出了最小方差支撐向量回歸MVSVR回歸算法。MVSVR繼承了MCVSVM魯棒性和泛化能力強(qiáng)的優(yōu)點,同時其還可轉(zhuǎn)化為一個標(biāo)準(zhǔn)的SVR問題來求解,

5、并且在散度矩陣奇異情況下可以等價轉(zhuǎn)換到新的數(shù)據(jù)空間中求解。
　　 第四部分由第六章組成。在這一部分內(nèi)容中我們從理論上詳細(xì)分析了支撐向量數(shù)據(jù)域描述SVDD算法的原始優(yōu)化問題最優(yōu)解的性質(zhì)。我們首先把SVDD定義的原始優(yōu)化問題等價轉(zhuǎn)化為一個凸約束二次優(yōu)化問題,然后從理論上證明了根據(jù)優(yōu)化問題最優(yōu)解所構(gòu)建的超球圓心具有唯一性,然而超球半徑在一定條件下卻存在不唯一性,并且給出了半徑存在不惟一性的充分必要條件。我們還從對偶優(yōu)化問題的角度分析了