基于屬性加權(quán)和歸約的樸素貝葉斯算法研究.pdf

1、數(shù)據(jù)挖掘就是從大量的數(shù)據(jù)中提取出人們感興趣的知識的一個復(fù)雜過程。在數(shù)據(jù)挖掘的眾多領(lǐng)域中，數(shù)據(jù)分類是其中的重要研究領(lǐng)域之一。分類就是一種對數(shù)據(jù)的分析手段，它的主要作用就是利用分類函數(shù)或分類模型把數(shù)據(jù)庫中的各個數(shù)據(jù)項指定給某個給定的類中。分類有很多算法，其中貝葉斯算法是基于貝葉斯定理而展開的，具有堅實的數(shù)學(xué)理論基礎(chǔ)。貝葉斯分類算法主要利用先驗概率通過一系列的計算來得出后驗概率。這種方法非常簡單，而且利于理解，因此，貝葉斯算法被人們深入研究并

2、應(yīng)用于許多領(lǐng)域。貝葉斯算法又可以分為樸素貝葉斯算法和貝葉斯網(wǎng)絡(luò)。本文的重點是對基于屬性加權(quán)和歸約的樸素貝葉斯算法進(jìn)行研究。
　　 本研究主要內(nèi)容包括：⑴基于屬性加權(quán)的樸素貝葉斯算法研究。樸素貝葉斯算法具有簡單、高效等特點，但是它完全忽略了屬性之間的依賴關(guān)系，在屬性之間依賴程度較高時，對分類效果的影響比較嚴(yán)重。針對樸素貝葉斯算法要求屬性相互獨(dú)立的前提，提出了一種基于屬性加權(quán)的方法來削弱屬性獨(dú)立這個限定。在屬性加權(quán)方法中，采用了協(xié)方

3、差理論和卡方擬合統(tǒng)計量兩種方法綜合確定權(quán)重系數(shù)。協(xié)方差理論主要通過屬性值的協(xié)方差來表達(dá)屬性之間的關(guān)聯(lián)，卡方擬合統(tǒng)計量則是采用屬性出現(xiàn)的頻數(shù)來確定權(quán)重系數(shù)，綜合兩種方法確定最終的權(quán)重系數(shù)。這樣同時考慮了屬性值和屬性出現(xiàn)頻數(shù)兩個方面，比較好地表達(dá)了屬性之間的依賴關(guān)系。通過三組對比實驗證明，改進(jìn)的算法在分類正確率方面有一定的提高。⑵基于歸約的樸素貝葉斯算法研究。樸素貝葉斯算法只是對離散的數(shù)據(jù)有比較理想的分類效果，對于連續(xù)型數(shù)據(jù)和高維數(shù)據(jù)等都要