基于圖的半監(jiān)督分類算法研究.pdf

1、在許多機(jī)器學(xué)習(xí)的實(shí)際任務(wù)中，獲得足夠的有標(biāo)記樣本是非常昂貴和費(fèi)時的，而大量的未標(biāo)記樣本容易獲得。在少量有標(biāo)記樣本上使用監(jiān)督式學(xué)習(xí)方法，訓(xùn)練出的學(xué)習(xí)器泛化能力不強(qiáng)，容易出現(xiàn)過擬合現(xiàn)象。另一方面，當(dāng)使用無監(jiān)督式學(xué)習(xí)方法時，會極大地浪費(fèi)有標(biāo)記樣本包含的標(biāo)簽信息。半監(jiān)督學(xué)習(xí)能夠綜合利用有標(biāo)記樣本和無標(biāo)記樣本來提高學(xué)習(xí)器的泛化能力，已經(jīng)得到了廣泛的研究與應(yīng)用?；趫D的半監(jiān)督分類算法因?yàn)榉诸愋阅芎?、目?biāo)函數(shù)是凸函數(shù)、求解容易等優(yōu)勢獲得了更多的關(guān)注。

2、圖構(gòu)造是基于圖的半監(jiān)督分類的重要前提工作，圖是決定基于圖的半監(jiān)督分類性能的關(guān)鍵因素之一。然而，如何構(gòu)造一個能夠真實(shí)地反映樣本分布的圖是相當(dāng)困難的。稀疏表示最近被應(yīng)用于圖構(gòu)造，基于稀疏表示構(gòu)造的圖對高維樣本中的噪聲特征表現(xiàn)魯棒。但是，傳統(tǒng)稀疏表示構(gòu)造圖采用全部樣本作為字典集，時間花費(fèi)大。此外，流形假設(shè)是基于圖的半監(jiān)督分類的基本假設(shè)之一。它的定義是：同一個局部鄰域內(nèi)的樣本具有相似的性質(zhì)，因此其標(biāo)記也應(yīng)該相似。然而，當(dāng)兩個樣本相互靠近，跨越不

3、同類別的邊界時，流形假設(shè)可能不總適用。結(jié)果，僅僅基于流形假設(shè)的分類方法可能誤分邊界樣本。
　　針對基于圖的半監(jiān)督分類算法存在的上述問題，本文在現(xiàn)有研究成果基礎(chǔ)上，提出三種基于圖的半監(jiān)督分類算法。論文的具體工作如下：
　?。?）提出一種基于局部稀疏表示的半監(jiān)督分類算法（SSC-LSR）。SSC-LSR首先使用樣本的k近鄰作為字典集去計(jì)算每個樣本的稀疏重構(gòu)系數(shù)，而不是將所有可用樣本作為字典集，再基于這些稀疏重構(gòu)系數(shù)構(gòu)造一個局部稀

4、疏表示圖。最后在這個圖上訓(xùn)練廣泛使用的高斯隨機(jī)場與和諧函數(shù)（GFHF）分類器，預(yù)測未標(biāo)記樣本的標(biāo)記。在兩個公共人臉數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，SSC-LSR分類精度比傳統(tǒng)方法高。
　?。?）提出一種基于局部子空間稀疏表示的半監(jiān)督分類算法（SSC-LSSR）。SSC-LSSR首先把樣本分成若干個隨機(jī)子空間，在每個隨機(jī)子空間上構(gòu)造局部稀疏表示圖。然后，在構(gòu)造的圖上訓(xùn)練一個基于圖的半監(jiān)督分類器。最后把這些分類器通過投票策略集成一個分類器，預(yù)

5、測未標(biāo)記樣本或新來樣本的標(biāo)記。在兩個公共人臉數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，SSC-LSSR分類精度比相關(guān)方法高，并且時間花費(fèi)較少。
　?。?）提出一種基于判別性正則化的半監(jiān)督分類算法（SSCDR）。SSCDR首先分別構(gòu)造一個k近鄰圖來捕捉樣本的局部流形結(jié)構(gòu)，和一個判別圖來嵌入約束聚類學(xué)習(xí)的判別性信息。然后將兩個圖納入設(shè)計(jì)的判別性正則化框架，預(yù)測未標(biāo)記樣本或新來樣本的標(biāo)記。在UCI和人臉數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，SSCDR分類精度比相關(guān)方法