一種新的基于無(wú)損失函數(shù)的深度卷積神經(jīng)網(wǎng)絡(luò)的圖像特征提取方法.pdf

1、作為人工智能的重要技術(shù)之一，圖像識(shí)別技術(shù)已經(jīng)在社會(huì)的各個(gè)領(lǐng)域被廣泛應(yīng)用。例如:集裝箱號(hào)碼圖像自動(dòng)識(shí)別，人臉圖像識(shí)別，病理圖像自動(dòng)識(shí)別等等。對(duì)于一個(gè)成熟的圖像識(shí)別系統(tǒng)，其主要步驟可以分為四步:圖像采集與預(yù)處理，目標(biāo)圖像定位和分割，圖像特征提取，特征識(shí)別與分類。其中，圖像特征提取是其最為重要的組成步驟。提取到的圖像特征的質(zhì)量直接影響著最終的分類結(jié)果。近年來(lái)，隨著深度學(xué)習(xí)的發(fā)展，越來(lái)越多的圖像特征提取采用了深度學(xué)習(xí)技術(shù)。由于深度卷積神經(jīng)網(wǎng)絡(luò)本

2、身獨(dú)特的結(jié)構(gòu)優(yōu)勢(shì)，使其成為眾多給予深度學(xué)習(xí)的圖像識(shí)別程序中最為主流的圖像特征提取手段。然而，由于目前深度學(xué)習(xí)研究趨勢(shì)向著多層次，更復(fù)雜的方向，訓(xùn)練一個(gè)收斂的深度網(wǎng)絡(luò)難度越來(lái)越高，不僅需要調(diào)整越來(lái)越多的參數(shù)，還需要保證其損失函數(shù)的收斂性，有時(shí)候還需要整合一些現(xiàn)有的訓(xùn)練技巧，例如dropout，maxout等。近年來(lái)，隨著簡(jiǎn)單深度學(xué)習(xí)結(jié)構(gòu)的提出，越來(lái)越多的研究人員著眼于這種無(wú)損失函數(shù)的深度學(xué)習(xí)模型。其中，最為著名的是PCANet深度卷積網(wǎng)絡(luò)

3、模型。其無(wú)損失函數(shù)的特性使得網(wǎng)絡(luò)訓(xùn)練的難度大大降低。然而，由于其選擇使用的無(wú)監(jiān)督的主成分分析(Principal ComponentAnalysis，PCA)算法進(jìn)行卷積核的訓(xùn)練，使得最終的圖像識(shí)別效果并不是那么理想。雖然隨后基于監(jiān)督學(xué)習(xí)的線性判別式分析(Linear Discriminant Analysis，LDA)方法來(lái)訓(xùn)練卷積核的深度學(xué)習(xí)模型LDANet被提出，但是由于LDA算法自身正負(fù)樣本分離能力的局限性，使得LDANet模型

4、的圖像識(shí)別結(jié)果并無(wú)顯著提升。并且，因?yàn)槠涮赜械南虏蓸臃绞剑蛊錁O易產(chǎn)生過(guò)度擬合現(xiàn)象。使得訓(xùn)練效果不盡如人意。
　　在此論文中，針對(duì)PCANet與LDANet所出現(xiàn)的問題，主要做出了以下的貢獻(xiàn):
　　1)本文基于PCANet的基本結(jié)構(gòu)，創(chuàng)造性地將Marginal Fisher Analysis(MFA)引入卷積核的訓(xùn)練，提出了一種新的簡(jiǎn)單深度學(xué)習(xí)架構(gòu)MFANet。由于MFA采取監(jiān)督學(xué)習(xí)的方式，并且通過(guò)提取后的特征向量進(jìn)行映射，

5、使得投影后的正樣本之間的距離盡可能小，同時(shí)保證負(fù)樣本之間的距離盡可能大。使得卷積同類圖像所得的特征與卷積后的異類圖像特征在新的特征空間得以有效分離。本文運(yùn)用標(biāo)準(zhǔn)數(shù)據(jù)集:字符識(shí)別數(shù)據(jù)集ICDAR2003，測(cè)試所提出的深度模型的識(shí)別性能，并且通過(guò)和一些流行的圖像特征提取模型進(jìn)行比較，最終的圖像分類的結(jié)果表明MFANet模型的特征提取能力比其他深度模型要好。
　　2)本文提出了一種新的下采樣方法:基于概率的塊級(jí)隨機(jī)直方圖化，來(lái)解決基于P