Boosting方法在基因微陣列數(shù)據(jù)判別分析中的應(yīng)用.pdf

1、本研究在系統(tǒng)介紹了Boosting的基本思想，以及它的兩種算法——AdaBoost和LogitBoost的基本過程的基礎(chǔ)上，采用這兩種Boosting算法對模擬數(shù)據(jù)和維度較低的資料建立判別預(yù)測模型，并與另兩種集成算法(Bagging和Random-Forest)和三種傳統(tǒng)判別分析方法(Fisher’s線性判別、Fisher’s二次判別和logistic回歸判別)的預(yù)測效果進行了比較。 本研究根據(jù)基因微陣列數(shù)據(jù)的特殊性，對兩個網(wǎng)絡(luò)

2、數(shù)據(jù)庫——白血病數(shù)據(jù)和乳腺癌數(shù)據(jù)進行了分析，思路如下：(1)使用FDR控制程序校正P值，以P≤0.05或P≤0.01為標準篩選基因變量，使得維度小于樣本含量，建立判別預(yù)測模型，將Boosting方法與兩種集成算法和三種傳統(tǒng)的方法相比較；(2)按照P值的排序選擇不同數(shù)目的基因預(yù)測變量，分別建立判別預(yù)測模型，考察Boosting的相對優(yōu)勢(包括預(yù)測精度和敏感性)；(3)提取主成分，作主成分判別分析，考察Boosting方法的優(yōu)勢。以上均用交

3、叉驗證思路考察模型的預(yù)測效果和預(yù)測結(jié)果的穩(wěn)定性。 本研究主要結(jié)論： 1.Boosting的總體預(yù)測效果普遍優(yōu)于Bagging、Random-Forest以及傳統(tǒng)的判別分析方法，在高維的基因微陣列數(shù)據(jù)的判別分類中優(yōu)勢明顯，且在維度較低的資料中同樣具有一定優(yōu)勢。 2.當各預(yù)測變量之間具有高度相關(guān)性時，Boosting判別的預(yù)測效果優(yōu)于Bagging、Random-Forest以及傳統(tǒng)的判別分析方法。 3.以決

4、策樹為基礎(chǔ)分類器的LogitBoost判別可以處理帶有缺失值數(shù)據(jù)的資料，使判別效果更優(yōu)。 4.LogitBoost判別在得到較優(yōu)的預(yù)測效果的同時還可進行多因素的分析和變量的篩選。 5.在基因微陣列數(shù)據(jù)的判別分析中，Boosting對于預(yù)測變量的個數(shù)并不十分敏感，即其預(yù)測效果不會根據(jù)預(yù)測變量的個數(shù)發(fā)生明顯的變化。迭代次數(shù)在50～100輪左右即可達到較優(yōu)的預(yù)測效果。 6.AdaBoost和LogitBoost兩種算法

5、相對優(yōu)勢并不明顯，在處理低維數(shù)據(jù)LogitBoost較AdaBoost稍有優(yōu)勢；AdaBoost達到較優(yōu)的預(yù)測效果所需的迭代次數(shù)通常比LogitBoost多；LogitBoost的預(yù)測精度隨迭代次數(shù)的增加呈現(xiàn)了較明顯的先升高再降低的趨勢，而AdaBoost的這種趨勢并不明顯，有時在降低后會再有一個較高的上升。 根據(jù)本研究的結(jié)果，初步提出基因微陣列數(shù)據(jù)判別分析的策略： (a)選維：以FDR多重比較控制程序篩選基因，使得到的