圖像分類(lèi)中流形回歸與非負(fù)矩陣分解研究.pdf

1、近年來(lái)，圖像分類(lèi)已應(yīng)用于眾多領(lǐng)域，如信息安全、遠(yuǎn)程遙感、目標(biāo)追蹤等。眾所周知，特征抽取對(duì)數(shù)據(jù)分類(lèi)特別是模式分類(lèi)起著特別重要的作用。特征抽取不僅降低了數(shù)據(jù)的復(fù)雜性而且有效地提高了分類(lèi)精度，但不同的數(shù)據(jù)往往需要不同的特征抽取方法，如何針對(duì)不同的數(shù)據(jù)抽取其有效的特征是目前圖像處理和模式識(shí)別中所需要解決的關(guān)鍵問(wèn)題之一，同時(shí)也是本文的研究重點(diǎn)。
　　本文針對(duì)圖像分類(lèi)，提出了一些新的線性與非線性的分類(lèi)算法。本文研究工作主要概括如下。
　

2、?。?）針對(duì)特征抽取與圖像分類(lèi)，提出了一種新的流形回歸學(xué)習(xí)框架，并在這一框架下提出了流形鑒別回歸學(xué)習(xí)（MDRL）和魯棒流形鑒別回歸學(xué)習(xí)（RMDRL）兩種算法。MDRL引入類(lèi)內(nèi)圖和懲罰圖，利用獲得的投影矩陣將數(shù)據(jù)投影到一個(gè)新的子空間，使得同類(lèi)樣本更緊湊，不同類(lèi)的樣本距離更遠(yuǎn)。通過(guò)添加基于核范數(shù)的正則項(xiàng)，RMDRL學(xué)習(xí)到的低秩變換矩陣能有效提高最小二乘回歸等方法的魯棒性。
　?。?）提出一種新的帶有鑒別性的非負(fù)矩陣分解方法：非負(fù)鑒別矩

3、陣分解(Nonnegative Discriminant Matrix Factorization,NDMF)。NDMF方法將數(shù)據(jù)的低維表達(dá)投影到子空間中用于鑒別子空間的學(xué)習(xí)，并將NMF中的基矩陣與系數(shù)矩陣的信息加以結(jié)合。NDMF方法充分考慮了鑒別性、局部性及基矩陣的正交性。也就是說(shuō)，NDMF方法將非負(fù)約束、正交約束及鑒別性統(tǒng)一到同一目標(biāo)函數(shù)中，并將基矩陣和系數(shù)矩陣結(jié)合在一起作為正則項(xiàng)提高分類(lèi)性能。同時(shí)，本文還給出基于歐氏距離測(cè)度與Ku

4、llback-Leibler(KL)散度的兩種優(yōu)化算法。
　?。?）傳統(tǒng)的NMF方法對(duì)含有噪聲的數(shù)據(jù)分類(lèi)時(shí)，分類(lèi)效果常常不太理想。為解決這個(gè)問(wèn)題，提出了一種新的基于投影學(xué)習(xí)的魯棒NMF框架，即投影魯棒非負(fù)分解（PRNF），該框架給出了現(xiàn)有魯棒NMF方法的總結(jié)。PRNF不僅能夠減弱噪聲對(duì)特征抽取學(xué)習(xí)的影響，而且保留了原始數(shù)據(jù)的幾何結(jié)構(gòu)信息從而能獲得更好的表達(dá)。在PRNF框架下，提出了三種具體的算法。這三種算法分別以l1/2, l1及

5、l2,1范數(shù)作為噪聲矩陣的稀疏約束，且同時(shí)給出這三種算法對(duì)應(yīng)的迭代準(zhǔn)則及收斂性分析。
　?。?）通過(guò)將核方法與回歸分析有效地結(jié)合起來(lái)，本文提出了核線性回歸分類(lèi)（KLRC）算法。由于KLRC通過(guò)非線性映射將數(shù)據(jù)映射到高維的核空間，可以很好地提高樣本的可分性及獲得高于LRC的分類(lèi)精度。作為L(zhǎng)RC的非線性擴(kuò)展，KLRC能夠很好地彌補(bǔ)LRC的不足。
　?。?）為了有效地改進(jìn)基于保持投影方法的魯棒性，運(yùn)用保持投影、稀疏性及低秩性來(lái)構(gòu)造

6、仿射圖，在本文中提出一種全新的降維方法稱為低秩保持投影(LRPP)。首先，假定數(shù)據(jù)是帶有噪聲的，且噪聲矩陣是稀疏的，l2,1與核范數(shù)作為正則約束添加到噪聲矩陣上；其次，將數(shù)據(jù)投影到由LRPP學(xué)習(xí)到的子空間中再進(jìn)行分類(lèi)。LRPP在降維過(guò)程中保留了數(shù)據(jù)的全局結(jié)構(gòu)信息且學(xué)習(xí)到的低秩權(quán)重矩陣降低了噪聲的影響。
　　綜上所述，本文為了提高分類(lèi)效果和算法的魯棒性，根據(jù)不同的應(yīng)用場(chǎng)合提出了相應(yīng)的特征抽取算法。經(jīng)過(guò)大量的實(shí)驗(yàn)表明，本文的方法達(dá)到了