基于L2,1范數(shù)和L1范數(shù)的魯棒判別特征提取算法研究.pdf

1、LDA(Linear Discriminant Analysis)又稱Fisher線性判別分析(Fisher Linear Dis-criminant Analysis，F(xiàn)LDA)，是子空間學(xué)習(xí)理論中的一種經(jīng)典方法，其目的是尋找投影矩陣，使得投影后的數(shù)據(jù)滿足類內(nèi)離散度最小，同時(shí)類間離散度最大。由于LDA的簡(jiǎn)單性以及好的分類性能，已被廣泛地應(yīng)用到圖像識(shí)別，尤其是人臉識(shí)別中。然而，LDA以二范數(shù)的平方作為相似度衡量準(zhǔn)則，導(dǎo)致偏離比較遠(yuǎn)的點(diǎn)在

2、目標(biāo)函數(shù)中起主要作用，使得LDA在含有噪聲的模式識(shí)別中，性能退化很明顯，魯棒性差。針對(duì)此，論文從線性判別分析入手，深入研究魯棒判別特征提取，實(shí)現(xiàn)了基于L1范數(shù)和L2,1范數(shù)的線性判別分析。論文的主要內(nèi)容有：
　　1.將已有LDA的跡比值(trace ratio)求解問(wèn)題進(jìn)一步歸納，推廣成一般數(shù)學(xué)優(yōu)化問(wèn)題，并給出了相應(yīng)的求解框架和收斂性證明。此求解框架不僅可以適用于LDA模型，同時(shí)還可以應(yīng)用到2DLDA，2DPCA，PCA等模型中，

3、并且與現(xiàn)有求解方法相比能夠整體求出線性投影矩陣。
　　2.針對(duì)現(xiàn)今基于L1范數(shù)的魯棒判別特征提取算法不能有效地最大化目標(biāo)函數(shù)，導(dǎo)致算法性能不好等原因。根據(jù)上述框架，提出了一種非貪婪迭代算法。該算法不僅可以最大目標(biāo)函數(shù)，而且具有好的分類性能。在AR、YaleB、PIE、COIL20庫(kù)上的實(shí)驗(yàn)結(jié)果證明了所提算法的有效性。
　　3.針對(duì)L1范數(shù)的不足，通過(guò)對(duì)LDA的分析，提出了基于L2,1范數(shù)的魯棒判別特征提取模型，在此基礎(chǔ)上，根