機器學習中的兩階段特征選擇方法研究.pdf

1、隨著大數(shù)據(jù)時代的到來，如何快速處理數(shù)據(jù)并從中發(fā)掘有用的信息成為目前急需解決的問題。特征選擇作為機器學習和數(shù)據(jù)挖掘領域的一個重要的預處理步驟，越來越受到學者們的關注，而算法已經(jīng)不是處理海量數(shù)據(jù)的瓶頸。近年來，許多研究表明無關特征與冗余特征大大的影響了機器學習算法的準確性和運行效率，因此需要選擇合適的特征選擇算法，才能從海量數(shù)據(jù)中選擇最有效的特征，更加高效地為機器學習算法服務。
　　本文主要對機器學習中的兩階段特征選擇方法進行研究，從

2、高維特征中選擇最有利于機器學習算法的特征，提高算法效率，降低運行時間。本文的研究內(nèi)容主要分為如下幾個部分：
　　首先，從特征選擇的分類出發(fā)，根據(jù)特征選擇方法對機器學習算法的依賴關系，可以將其分為Filter模型和Wrapper模型。Filter模型具有快速高效、使用范圍廣的特點，可以對不相關特征進行檢測和刪除；Wrapper模型具有準確率高、生成特征子集較優(yōu)的特點，可以得到較小的不含冗余特征的子集。根據(jù)兩種特征選擇模型各自的優(yōu)點，

3、可以采用兩階段的特征選擇方法。
　　其次，對于高維的二值數(shù)據(jù)，針對其只包含有0和1兩種數(shù)值的特點，定義了差異標準值作為特征與類別相關程度的度量。相比于傳統(tǒng)的方法，這種分析方法提高了相關性分析的效率。
　　再次，對于冗余特征的檢測，從相關性分析的角度出發(fā)，提出了基于最大信息系數(shù)的非線性相關性分析方法，可以定量地衡量出特征和特征之間非線性關系，使得最終獲得的子集維數(shù)進一步降低。通過主成分分析法進行降維，在一定程度上也可以減少冗余