基于進(jìn)化算法的特征選擇研究.pdf

1、特征選擇是指從初始特征全集中，依據(jù)既定規(guī)則篩選出特征子集的過程。通過剔除冗余特征，以達(dá)到降低算法復(fù)雜度和提高算法性能的目的。特征選擇是解決維數(shù)災(zāi)難問題的有效手段，在機(jī)器學(xué)習(xí)中扮演著重要角色。研究特征選擇具有重要的理論及應(yīng)用價(jià)值，特別是對(duì)于大數(shù)據(jù)時(shí)代的機(jī)器學(xué)習(xí)。
　　本研究在離散值特征選擇問題上，提出了兩種不同的基于進(jìn)化算法的特征選擇方法。第一種方法用相對(duì)分類信息熵作為適應(yīng)度函數(shù)，度量特征子集的重要性，理論證明了這種度量的可行性，用

2、進(jìn)化算法（遺傳算法、粒子群算法）尋找最優(yōu)特征子集。第二種方法和第一種方法類似，不同的是用不一致率作為適應(yīng)度函數(shù)，度量特征子集的重要性。本文通過比較研究這兩種方法，得到了如下結(jié)論：當(dāng)采用相同的適應(yīng)度函數(shù)時(shí)，用粒子群搜索最優(yōu)特征子集與用遺傳算法搜索最優(yōu)特征子集相比，前者在測(cè)試精度和收斂速度兩方面均優(yōu)于后者；當(dāng)采用不同的適應(yīng)度函數(shù)時(shí)，選擇相對(duì)分類信息熵作為適應(yīng)度函數(shù)的進(jìn)化特征選擇方法要優(yōu)于選擇不一致率作為適應(yīng)度函數(shù)的進(jìn)化特征選擇方法。另外，研