基于多核學習的多標簽特征降維算法研究.pdf

1、在多標簽分類問題中，單個樣本可能包含一個或多個標簽。多標簽數據集中通常包含不相關特征、冗余特征和噪聲特征，這可能影響分類器的性能，導致計算復雜度增高。所以有必要在分類之前對樣本進行降維處理。
　　有學者發(fā)現核學習與分類器結合，能夠有效地提高分類器的性能。所以核學習迅速被引入到其他領域，比如特征降維等。當特征降維與核學習相合時，其效果取決于核映射（核參數），如何選擇合適的核函數又成為特征降維的新問題。為了解決這個問題，本文將多核學習

2、與傳統(tǒng)的兩種特征降維方法相結合，提出基于多核學習的主成分分析法(MK-PCA)和基于多核學習的多標簽判別分析(MK-MLDA)。
　　MK-PCA算法將傳統(tǒng)的無監(jiān)督降維算法主成分分析與多核學習相結合。通過研究發(fā)現1-范數約束的基核系數不能得到最優(yōu)解，所以本文選擇2-范數約束的核系數形式。特別地，當采用RBF核時，目標模型的解為平均核稱平均核主成分分析(Av-KPCA)。為了充分利用多核學習，本文引入了信息熵正則化以保證盡可能地保證

3、有效的核映射。通過實驗說明，在不需要調節(jié)核參數的情況下，MK-PCA算法和Av-KPCA算法在多項指標上能夠取得與單核相當甚至更優(yōu)的性能。
　　MK-MLDA算法將傳統(tǒng)的監(jiān)督降維算法線性判別分析與多核學習相結合。線性判別分析是一種廣泛使用的單標簽監(jiān)督特征降維方法，為了使其能夠處理多標簽問題，有學者提出多標簽線性判別分析。由于核學習的優(yōu)異性能，本文把核學習引入到多標簽判別分析中形成單核判別分析KMLDA和多核判別分析模型MK-MLD