分類問題的智能優(yōu)化算法及其應(yīng)用研究.pdf

1、智能優(yōu)化算法（Intelligent optimization algorithms）通過模仿生物的智能行為來實現(xiàn)優(yōu)化功能。例如，遺傳算法（Genetic Algorithm,GA）模仿生物種群中自然選擇的機制來求解優(yōu)化問題；粒子群優(yōu)化算法模仿鳥群覓食遷移中，個體與群體協(xié)調(diào)一致的機理來指導(dǎo)優(yōu)化搜索等。智能優(yōu)化方法具有簡單通用、魯棒性強和適于并行等優(yōu)點，在模式識別、智能控制、并行搜索、聯(lián)想記憶等方面得到了廣泛的應(yīng)用。
　　支持向量機

2、（Support Vector Machines,SVM）是一種應(yīng)用廣泛的數(shù)據(jù)分類技術(shù)，當(dāng)高斯核支持向量機應(yīng)用于各種各樣的數(shù)據(jù)分類領(lǐng)域時，首先面臨的至關(guān)緊要的問題是：怎樣選擇懲罰參數(shù)C和核參數(shù)?（即怎樣進(jìn)行支持向量機模型選擇），怎樣優(yōu)化輸入特征子集以提高分類準(zhǔn)確率和減小特征子集。通過用戶使用枚舉法進(jìn)行參數(shù)選擇，往往降低支持向量機分類性能，得出的分類準(zhǔn)確率很低，不能滿足分類要求。采用網(wǎng)格搜索算法進(jìn)行支持向量機參數(shù)優(yōu)化，由于一定程度地提高了

3、分類準(zhǔn)確率，初步滿足分類要求。隨著數(shù)據(jù)分類領(lǐng)域?qū)Ψ诸悳?zhǔn)確率的要求不斷提高，采用智能優(yōu)化算法和支持向量機的結(jié)合同時優(yōu)化輸入特征子集和支持向量機參數(shù)，進(jìn)一步提高了分類準(zhǔn)確率。本論文在上述研究工作的基礎(chǔ)上，將支持向量機的漸進(jìn)性能融入智能優(yōu)化算法，提出了基于特征染色體的遺傳算法、基于特征粒子的粒子群優(yōu)化算法、基于特征抗體的克隆選擇算法，分別構(gòu)建提出的算法和支持向量機的混合系統(tǒng)以同時優(yōu)化輸入特征子集和支持向量機參數(shù)，取得了更高的準(zhǔn)確率、更小的特征

4、子集和更少的處理時間。通過將支持向量機的漸進(jìn)性能融入智能優(yōu)化算法，構(gòu)建智能優(yōu)化算法和支持向量機的混合系統(tǒng)解決上述問題是本論文的基本研究方法。
　　本論文以分類問題的智能優(yōu)化算法及其應(yīng)用研究、智能優(yōu)化算法和支持向量機混合研究為課題，本論文的貢獻(xiàn)和創(chuàng)新點概括如下：
　?。?）基于特征染色體的遺傳算法
　　基于遺傳算法的原理和搜索機制，將支持向量機的漸進(jìn)性能融入遺傳算法，通過生成特征染色體操作將遺傳算法的搜索導(dǎo)向到超參數(shù)空間

5、中的最佳泛化誤差直線，提出一種基于特征染色體的遺傳算法，構(gòu)造基于特征染色體的遺傳算法和支持向量機混合系統(tǒng)以同時進(jìn)行特征選擇和參數(shù)設(shè)置的優(yōu)化。對提出的算法的收斂性進(jìn)行了分析。與類似方法相比，提出的算法不僅具有更高的分類準(zhǔn)確率和更小的特征子集，而且具有更少的處理時間。
　?。?）基于特征粒子的粒子群優(yōu)化算法
　　基于粒子群優(yōu)化算法的原理和搜索機制，通過生成特征粒子操作將支持向量機的漸進(jìn)性能融入粒子群優(yōu)化算法，提出一種基于特征粒子

6、的粒子群優(yōu)化算法，構(gòu)造基于特征粒子的粒子群優(yōu)化算法和支持向量機混合系統(tǒng)以同時進(jìn)行特征選擇和參數(shù)設(shè)置的優(yōu)化。分析了提出算法的復(fù)雜度。實驗指出，提出的算法具有更高的分類準(zhǔn)確率、更小的特征子集和更少的處理時間。
　　（3）基于特征抗體的克隆選擇算法
　　基于克隆選擇算法的原理和搜索機制，通過生成特征抗體操作將支持向量機漸進(jìn)性能引入克隆選擇算法，提出一種基于特征抗體的克隆選擇算法，構(gòu)造基于特征抗體的克隆選擇算法和支持向量機混合系統(tǒng)以

7、同時進(jìn)行特征選擇和參數(shù)優(yōu)化。通過算法性能對比實驗，得出提出的算法具有更高的分類準(zhǔn)確率和更小的特征子集。
　?。?）混合智能優(yōu)化算法研究
　　提出一種基于特征染色體的遺傳算法和量子遺傳算法的混合算法，構(gòu)造基于特征染色體的遺傳算法、量子遺傳算法和支持向量機混合系統(tǒng)，給出了詳細(xì)的實驗結(jié)果和算法性能對比，驗證了該算法是一種有效的方法。除此之外，還提出一種基于特征抗體的克隆選擇算法和差分進(jìn)化算法的混合算法，構(gòu)造基于特征抗體的克隆選擇算

8、法、差分進(jìn)化算法和支持向量機混合系統(tǒng)，給出了詳細(xì)的實驗結(jié)果和算法性能對比，實驗指出提出的算法是一種有用的方法。
　?。?）智能優(yōu)化算法應(yīng)用研究
　　根據(jù)微陣列基因表達(dá)數(shù)據(jù)的特點，提出一種基于特征染色體的遺傳算法包裝法、信噪比過濾法和支持向量機混合系統(tǒng)的信息基因搜索方法，以同時搜索到基因數(shù)量少而分類準(zhǔn)確率高的信息基因子集，實驗結(jié)果表明，與其它優(yōu)秀的腫瘤分類方法相比，提出的方法在信息基因數(shù)量及分類準(zhǔn)確率方面具有明顯的優(yōu)越性。另外