成對約束下半監(jiān)督特征選擇算法研究.pdf

1、特征選擇是機器學習領域的研究的重要內容之一。隨著應用于機器學習領域的數據維數不斷升高,數據存儲、運算,都消耗了大量的計算機資源。為了節(jié)省資源,避免所謂“維數災難”的出現,變量和特征的降維技術在許多研究課題和實際應用中(如:網絡文檔的文本處理,基因表達序列分析,組合化數據等等),都有著非常重要的意義。
　　 半監(jiān)督特征選擇算法是針對于含有少量監(jiān)督信息和大量無標記數據的樣本集的特征選擇算法。現有多數半監(jiān)督特征選擇方法是基于類標記這種

2、監(jiān)督信息形式的,而在實際應用中,成對約束分類信息作為一種先驗知識的形式往往比較容易獲得,成對約束下的半監(jiān)督特征選擇算法并不多見。本文主要針對成對約束下的半監(jiān)督特征選擇算法進行了相關的研究,主要研究工作如下:
　　 (1)提出了一種成對約束下基于假設間隔的半監(jiān)督特征選擇算法Csimba。該算法利用成對約束條求解使假設間隔最大的特征,以此進行特征排序。在UCI數據集的實驗表明提出的算法是有效的。
　　 (2)提出了一種成對約

3、束下基于特征相關性的半監(jiān)督特征選擇算法ICSMI。算法利用互信息和信息熵估計特征間的相關性,可以降低特征子集的冗余度,增強了特征的有效性。在UCI數據集的實驗表明提出的算法是有效的。
　　 (3)提出了一種成對約束擴展方法RCE。該方法利用Relevant-Set Correlation聚類模型對于成對約束包含的樣本點進行聚類,從而擴展成對約束集。利用擴展后的成對約束集并運用ICSMI進行特征選擇,從而使ICSMI算法在初始成對