基于屬性組合的隨機森林.pdf

1、在機器學習領域的分類問題中，對于待分類的樣例，當我們用于判斷其類別的屬性個數(shù)很多時，用傳統(tǒng)的分類算法建立分類器，消耗較多的計算機時間和空間。近年來，研究學者們對數(shù)據(jù)集的屬性組合進行了相關的研究，提出了很多種屬性組合構造分類器的新思想，但是構建的屬性組合分類器大多是在一個數(shù)據(jù)集上挑選屬性組合建立一個分類器。由于選擇屬性組合的標準不同，各自又形成了不同的分類器，并且每一種構建方法都有其優(yōu)點和缺點。同時，集成分類器的思想也有新的研究成果。本文

2、基于學者們的已做工作，我們進行總結和創(chuàng)新，做了以下工作。
　　 本文首先提出用屬性組合構建分類器的研究目的和意義?；谝恍?shù)據(jù)集中，條件屬性過多這一特點，在本文中首先采用將數(shù)據(jù)集進行聚類的方法將相似的訓練樣例進行分堆，以便于更好的針對每一堆相似的樣例挑選屬性組合，生成針對于不同性質樣例的分類器，并闡述了使用此種方法的優(yōu)點。其次，基于學者們近年來的工作，闡述了多變量決策樹的理論和方法。我們采用較少的、有針對性的對每一個數(shù)據(jù)聚類堆進

3、行隨機選擇的屬性，生成多棵多變量決策樹。最后，根據(jù)每一個聚類堆構建的多棵多變量決策樹形成隨機森林來進行分類器的加權集成，從而試圖覆蓋數(shù)據(jù)集中的所有概念，進一步保證了分類的精度。通過以上工作，我們可以處理數(shù)據(jù)量大并且條件屬性較多的數(shù)據(jù)集，通過選擇較少的屬性和屬性組合構建多棵多變量決策樹從而完成分類器的集成。通過實驗證明，這種方法可以有效降低決策樹這種分類器的規(guī)模，減小分類規(guī)則的數(shù)目，并且有效減小建樹的時間開銷，同時在一定程度上保證分類的準