結(jié)合標(biāo)記相關(guān)性的多標(biāo)記分類算法研究.pdf

1、在傳統(tǒng)的監(jiān)督學(xué)習(xí)中，每個對象只隸屬于一個標(biāo)記。然而，在現(xiàn)實世界中，一個對象可能同時與多個標(biāo)記相關(guān)。例如，一幅圖像可能同時具有“海洋”、“水”等標(biāo)記，一篇文檔可能同時標(biāo)記為“H7N9”、“禽流感”、“發(fā)熱”和“咳嗽”等。機(jī)器學(xué)習(xí)中的多標(biāo)記學(xué)習(xí)是研究此類問題的一種學(xué)習(xí)框架，備受研究者的關(guān)注，而如何充分挖掘和利用標(biāo)記之間的相關(guān)性是其核心研究內(nèi)容。研究者們提出了一系列利用標(biāo)記相關(guān)性的多標(biāo)記學(xué)習(xí)方法并在許多領(lǐng)域得以成功應(yīng)用，但大多考慮成對標(biāo)記之間

2、的相關(guān)性且有些假設(shè)標(biāo)記相關(guān)性是對稱的，而針對標(biāo)記相關(guān)性的挖掘和利用的研究工作，尤其是高階非對稱的標(biāo)記相關(guān)性，還相對較少。為此，本文圍繞“高階非對稱的標(biāo)記相關(guān)性利用”和“通過學(xué)習(xí)自動挖掘標(biāo)記之間的相關(guān)性并加以利用”這兩個方面展開研究，主要工作如下:
　　1.提出了一種標(biāo)記相關(guān)性和多標(biāo)記分類的兩階段學(xué)習(xí)算法(TMLC)。該算法先采用l1稀疏編碼方法，在標(biāo)記空間中求出高階非對稱的標(biāo)記相關(guān)性矩陣;再構(gòu)建基于標(biāo)記相關(guān)性的多標(biāo)記分類和特征選擇

3、統(tǒng)一學(xué)習(xí)模型框架。在多標(biāo)記數(shù)據(jù)集上的實驗結(jié)果驗證了TMLC算法的有效性。
　　2.提出了一種標(biāo)記協(xié)方差和多標(biāo)記分類的聯(lián)合學(xué)習(xí)算法(JLSML)。該算法引入一個虛擬標(biāo)記作為樣本的相關(guān)標(biāo)記集和不相關(guān)標(biāo)記集的自然分割點(diǎn)，并構(gòu)建標(biāo)記協(xié)方差和多標(biāo)記分類的聯(lián)合學(xué)習(xí)模型，將標(biāo)記協(xié)方差的學(xué)習(xí)、分類模型的訓(xùn)練以及標(biāo)記集的分割統(tǒng)一在該模型框架中。在多標(biāo)記數(shù)據(jù)集上的實驗結(jié)果驗證了JLSML算法的有效性。
　　3.提出了標(biāo)記相關(guān)性和多標(biāo)記分類的聯(lián)合

4、學(xué)習(xí)算法(JMLLC和SLMLC)。本文試圖通過學(xué)習(xí)自動發(fā)現(xiàn)和利用高階非對稱的標(biāo)記相關(guān)性，并且構(gòu)建標(biāo)記相關(guān)性和多標(biāo)記分類聯(lián)合學(xué)習(xí)模型框架，提出了JMLLC和SLMLC算法。JMLLC算法同時學(xué)習(xí)標(biāo)記相關(guān)性矩陣和權(quán)重矩陣，并選擇了兩種不同的損失函數(shù)（羅杰斯特回歸與最小二乘損失函數(shù)）。SLMLC算法將權(quán)重矩陣分成稀疏矩陣與低秩矩陣的和，其中稀疏矩陣用來獲得各個標(biāo)記所特有的特征子集而低秩矩陣用于獲得所有標(biāo)記所共享的特征子空間;然后在統(tǒng)一學(xué)習(xí)模

5、型中同時學(xué)習(xí)高階非對稱的標(biāo)記相關(guān)性矩陣、稀疏矩陣以及低秩矩陣。在多標(biāo)記數(shù)據(jù)集上的實驗結(jié)果驗證了JMLLC和SLMLC算法的有效性。
　　4.提出了一種缺失標(biāo)記下基于特征選擇的多標(biāo)記分類算法(MLMF)。在某些實際應(yīng)用中，獲得具有完全標(biāo)記的樣本較困難，大量的樣本只有部分標(biāo)記（即有些標(biāo)記是缺失的)。此外，大多數(shù)多標(biāo)記分類算法通常難以同時處理缺失標(biāo)記和標(biāo)記相關(guān)性。為此，本文提出了MLMF算法，同時考慮缺失標(biāo)記和標(biāo)記相關(guān)性并加入了權(quán)重矩陣