基于分治法的鑒別特征提取算法研究與應(yīng)用.pdf

1、　　鑒別分析是一種有效的特征提取算法，已被廣泛應(yīng)用到圖像分類、生物特征識(shí)別等多個(gè)領(lǐng)域。然而，面對(duì)大規(guī)模數(shù)據(jù)時(shí)，由于樣本分布呈現(xiàn)多樣性，傳統(tǒng)鑒別分析的分類性能將受到一定的制約。為了解決該問題，本文借鑒算法理論中“分治法”的基本思想(即把一個(gè)大規(guī)模問題分割為多個(gè)小規(guī)模的子問題)，提出了一系列快速有效的鑒別特征提取新方法。
　　首先，本文提出了基于最優(yōu)子集劃分的線性鑒別(OSDD)方法。該方法的基本思路是，利用聚類的手段把樣本集劃分為

2、多個(gè)樣本子集，從而能有效地從每個(gè)樣本子集分別提取鑒別特征，然后再構(gòu)造統(tǒng)一的投影空間。該方法能極大地減少傳統(tǒng)鑒別分析方法的計(jì)算代價(jià)，然而，其中的難點(diǎn)問題是如何確定最優(yōu)的子集個(gè)數(shù)。針對(duì)這一問題，我們?cè)O(shè)計(jì)了一種廣義穩(wěn)定性準(zhǔn)則，用于度量不同子集劃分情況下鑒別分析方法的適用程度。給定一個(gè)訓(xùn)練樣本集，使用該準(zhǔn)則可以自動(dòng)確定最優(yōu)的子集個(gè)數(shù)。
　　其次，當(dāng)多類樣本線性不可分時(shí)，為了進(jìn)一步增強(qiáng)OSDD的分類能力，我們將其擴(kuò)展到核空間，提出了基于子

3、集劃分的核鑒別(OSKD)方法。該方法在非線性空間中使用核聚類算法劃分子集，然后提取非線性鑒別特征。我們?cè)O(shè)計(jì)的廣義穩(wěn)定性準(zhǔn)則也同樣能在核空間中自動(dòng)尋找最優(yōu)子集個(gè)數(shù)。
　　最后，“分治法”的思想也啟發(fā)我們從其他角度研究鑒別分析技術(shù)。例如，一種常用的策略是把多類問題化簡(jiǎn)為多個(gè)兩類問題。與現(xiàn)有方法不同，我們提出只考慮每類與其部分近鄰類來(lái)提取鑒別特征。為了強(qiáng)化鑒別能力，我們直接在核空間設(shè)計(jì)算法，提出核近鄰類鑒別分析(KADA)方法。其基

4、本思想是：依次處理每個(gè)類別，將該類作為一類，該類的少數(shù)近鄰類作為另一類，然后對(duì)該兩類問題提取一個(gè)最優(yōu)鑒別向量，最后再構(gòu)造統(tǒng)一的投影空間。此外，考慮到鑒別信息的冗余性，我們引入不相關(guān)約束條件，提出統(tǒng)計(jì)不相關(guān)的核近鄰類鑒別分析方法(KUADA)。
　　在AR、FERET、CAS-PEAL等三個(gè)人臉圖像數(shù)據(jù)庫(kù)以及PolyU掌紋圖像數(shù)據(jù)庫(kù)上的實(shí)驗(yàn)結(jié)果充分驗(yàn)證了本文所提方法的有效性。同時(shí)，與傳統(tǒng)方法相比較，本文提出的一系列新算法只需要很少