Boosting方法在基因微陣列數(shù)據(jù)判別分析中的應(yīng)用.pdf

1、本研究在系統(tǒng)介紹了Boosting的基本思想，以及它的兩種算法——AdaBoost和LogitBoost的基本過(guò)程的基礎(chǔ)上，采用這兩種Boosting算法對(duì)模擬數(shù)據(jù)和維度較低的資料建立判別預(yù)測(cè)模型，并與另兩種集成算法(Bagging和Random-Forest)和三種傳統(tǒng)判別分析方法(Fisher’s線性判別、Fisher’s二次判別和logistic回歸判別)的預(yù)測(cè)效果進(jìn)行了比較。 本研究根據(jù)基因微陣列數(shù)據(jù)的特殊性，對(duì)兩個(gè)網(wǎng)絡(luò)

2、數(shù)據(jù)庫(kù)——白血病數(shù)據(jù)和乳腺癌數(shù)據(jù)進(jìn)行了分析，思路如下：(1)使用FDR控制程序校正P值，以P≤0.05或P≤0.01為標(biāo)準(zhǔn)篩選基因變量，使得維度小于樣本含量，建立判別預(yù)測(cè)模型，將Boosting方法與兩種集成算法和三種傳統(tǒng)的方法相比較；(2)按照P值的排序選擇不同數(shù)目的基因預(yù)測(cè)變量，分別建立判別預(yù)測(cè)模型，考察Boosting的相對(duì)優(yōu)勢(shì)(包括預(yù)測(cè)精度和敏感性)；(3)提取主成分，作主成分判別分析，考察Boosting方法的優(yōu)勢(shì)。以上均用交

3、叉驗(yàn)證思路考察模型的預(yù)測(cè)效果和預(yù)測(cè)結(jié)果的穩(wěn)定性。 本研究主要結(jié)論： 1.Boosting的總體預(yù)測(cè)效果普遍優(yōu)于Bagging、Random-Forest以及傳統(tǒng)的判別分析方法，在高維的基因微陣列數(shù)據(jù)的判別分類中優(yōu)勢(shì)明顯，且在維度較低的資料中同樣具有一定優(yōu)勢(shì)。 2.當(dāng)各預(yù)測(cè)變量之間具有高度相關(guān)性時(shí)，Boosting判別的預(yù)測(cè)效果優(yōu)于Bagging、Random-Forest以及傳統(tǒng)的判別分析方法。 3.以決

4、策樹(shù)為基礎(chǔ)分類器的LogitBoost判別可以處理帶有缺失值數(shù)據(jù)的資料，使判別效果更優(yōu)。 4.LogitBoost判別在得到較優(yōu)的預(yù)測(cè)效果的同時(shí)還可進(jìn)行多因素的分析和變量的篩選。 5.在基因微陣列數(shù)據(jù)的判別分析中，Boosting對(duì)于預(yù)測(cè)變量的個(gè)數(shù)并不十分敏感，即其預(yù)測(cè)效果不會(huì)根據(jù)預(yù)測(cè)變量的個(gè)數(shù)發(fā)生明顯的變化。迭代次數(shù)在50～100輪左右即可達(dá)到較優(yōu)的預(yù)測(cè)效果。 6.AdaBoost和LogitBoost兩種算法

5、相對(duì)優(yōu)勢(shì)并不明顯，在處理低維數(shù)據(jù)LogitBoost較AdaBoost稍有優(yōu)勢(shì)；AdaBoost達(dá)到較優(yōu)的預(yù)測(cè)效果所需的迭代次數(shù)通常比LogitBoost多；LogitBoost的預(yù)測(cè)精度隨迭代次數(shù)的增加呈現(xiàn)了較明顯的先升高再降低的趨勢(shì)，而AdaBoost的這種趨勢(shì)并不明顯，有時(shí)在降低后會(huì)再有一個(gè)較高的上升。 根據(jù)本研究的結(jié)果，初步提出基因微陣列數(shù)據(jù)判別分析的策略： (a)選維：以FDR多重比較控制程序篩選基因，使得到的