智能識(shí)別中的降維新方法及其應(yīng)用研究.pdf

1、在智能模式識(shí)別領(lǐng)域中，當(dāng)待處理數(shù)據(jù)呈現(xiàn)高維特征時(shí)，往往首先使用有效的特征降維方法對(duì)數(shù)據(jù)進(jìn)行所謂的降維預(yù)處理，以提高智能識(shí)別的有效性，因此近年來(lái)特征提取和特征選擇這兩類主要的特征降維方法得到了廣泛深入地研究，且被較為成功地運(yùn)用到解決具體的模式識(shí)別問(wèn)題中。然而，目前一些經(jīng)典的特征降維方法以及部分改進(jìn)方法在處理具體的智能識(shí)別問(wèn)題時(shí)在一定程度上表現(xiàn)出魯棒性不高、泛化能力不強(qiáng)的特點(diǎn)。所以本課題針對(duì)上述不足，通過(guò)結(jié)合其它智能處理技術(shù)研究新的特征降維

2、方法。所研究?jī)?nèi)容主要涉及如下三個(gè)部分。
　　 第一部分由第二章和第三章組成，這一部分分別討論兩種新穎的特征選擇方法。具體來(lái)說(shuō)，第二章主要針對(duì)勢(shì)支持向量機(jī)P-SVM存在的泛化能力不強(qiáng)的問(wèn)題，通過(guò)引入Fisher判別分析方法中的類內(nèi)散度矩陣，重新構(gòu)造P-SVM的目標(biāo)函數(shù)，從而形成具有較強(qiáng)泛化能力的廣義的勢(shì)支撐特征選擇方法GPSFM。GPSFM方法不但在一定程度上繼承了P-SVM的優(yōu)點(diǎn)，而且還具有特征選擇冗余度低、選擇速度快和適應(yīng)能力

3、強(qiáng)的特點(diǎn)，從而使得該方法表現(xiàn)出了較之于P-SVM更好的特征選擇和分類效果。第三章針對(duì)經(jīng)典的模糊聚類方法FCM存在的對(duì)噪音數(shù)據(jù)和噪音特征敏感的問(wèn)題，采用對(duì)樣本點(diǎn)和樣本特征同時(shí)加權(quán)的方式，重新構(gòu)造FCM方法的目標(biāo)函數(shù)，從而得到具有特征排序功能的魯棒性模糊聚類方法FCA。FCA方法不但具有較為穩(wěn)定的聚類功能，同時(shí)可以通過(guò)特征權(quán)值和樣本權(quán)值來(lái)反映不同特征和不同樣本對(duì)聚類的貢獻(xiàn)程度，從而實(shí)現(xiàn)特征排序，達(dá)到特征選擇的目的。該章中我們還根據(jù)一定的幾何

4、含義去確定特征權(quán)值和樣本權(quán)值參數(shù)合理的取值范圍，并從理論上加以證明。
　　 第二部分由第四章和第五章組成，這一部分分別討論兩種新穎的特征提取方法。具體來(lái)說(shuō)，第四章針對(duì)線性拉普拉斯判別準(zhǔn)則LLD方法存在的小樣本以及如何確定原始樣本空間類型的問(wèn)題，通過(guò)引入語(yǔ)境距離度量并結(jié)合最大間距判別準(zhǔn)則的基本原理提出一種基于語(yǔ)境距離度量的拉普拉斯最大間距判別準(zhǔn)則CLMMC。CLMMC方法不但在一定程度上避免小樣本問(wèn)題，而且由于語(yǔ)境距離度量更關(guān)注輸

5、入樣本簇內(nèi)在的本質(zhì)結(jié)構(gòu)而不是原始樣本空間的類型，從而降低了該準(zhǔn)則對(duì)特定樣本空間的依賴程度。同時(shí)通過(guò)引入計(jì)算語(yǔ)境距離度量的新算法并結(jié)合QR分解的基本原理使得CLMMC在處理高維矢量模式數(shù)據(jù)時(shí)更具適應(yīng)性和效率。本章還從理論上討論CLMMC準(zhǔn)則具有的基本性質(zhì)以及與LLD準(zhǔn)則的內(nèi)在聯(lián)系。第五章針對(duì)最大散度差判別準(zhǔn)則的效果很大程度上依賴參數(shù)η選取，以及該準(zhǔn)則的劃分屬于硬劃分，在一定程度上不能客觀地反映現(xiàn)實(shí)世界的問(wèn)題，通過(guò)引入模糊技術(shù)，重新構(gòu)造一種

6、新的模糊最大散度差判別準(zhǔn)則，并根據(jù)這一新準(zhǔn)則提出一種模糊聚類方法FMSDC。FMSDC方法通過(guò)迭代優(yōu)化過(guò)程中實(shí)現(xiàn)聚類的同時(shí)還可以得到最優(yōu)鑒別矢量，實(shí)現(xiàn)特征降維。并依據(jù)一定的原則合理地設(shè)定參數(shù)η，從而一定程度上降低了該參數(shù)對(duì)劃分結(jié)果穩(wěn)定性的影響。
　　 第三部分由第六章和第七章組成，這一部分主要研究和討論兩種基于類內(nèi)散度的支持向量機(jī)的方法。具體來(lái)說(shuō)，第六章針對(duì)最小類內(nèi)散度支持向量機(jī)MCSVMs面臨的小樣本問(wèn)題，通過(guò)引入張量理論，重

7、新構(gòu)造MCSVMs支持向量機(jī)的目標(biāo)函數(shù)，從而提出基于矩陣模式的最小類內(nèi)散度支持向量機(jī)MCSVMsmatrix以及相應(yīng)的非線性核方法Ker-MCSVMsmatrix。MCSVMsmatrix方法不但克服了MCSVMs方法所面臨的小樣本問(wèn)題，同時(shí)降低了算法本身具有的時(shí)間和空間復(fù)雜度。而且Ker-MCSVMsmatrix方法首次實(shí)現(xiàn)了矩陣模式的非線性化。第七章針對(duì)經(jīng)典SVM方法不能充分地反映樣本內(nèi)在幾何結(jié)構(gòu)以及所蘊(yùn)含的判別信息的問(wèn)題，通過(guò)同時(shí)