基于屬性加權(quán)和歸約的樸素貝葉斯算法研究.pdf

1、數(shù)據(jù)挖掘就是從大量的數(shù)據(jù)中提取出人們感興趣的知識(shí)的一個(gè)復(fù)雜過程。在數(shù)據(jù)挖掘的眾多領(lǐng)域中，數(shù)據(jù)分類是其中的重要研究領(lǐng)域之一。分類就是一種對(duì)數(shù)據(jù)的分析手段，它的主要作用就是利用分類函數(shù)或分類模型把數(shù)據(jù)庫中的各個(gè)數(shù)據(jù)項(xiàng)指定給某個(gè)給定的類中。分類有很多算法，其中貝葉斯算法是基于貝葉斯定理而展開的，具有堅(jiān)實(shí)的數(shù)學(xué)理論基礎(chǔ)。貝葉斯分類算法主要利用先驗(yàn)概率通過一系列的計(jì)算來得出后驗(yàn)概率。這種方法非常簡(jiǎn)單，而且利于理解，因此，貝葉斯算法被人們深入研究并

2、應(yīng)用于許多領(lǐng)域。貝葉斯算法又可以分為樸素貝葉斯算法和貝葉斯網(wǎng)絡(luò)。本文的重點(diǎn)是對(duì)基于屬性加權(quán)和歸約的樸素貝葉斯算法進(jìn)行研究。
　　 本研究主要內(nèi)容包括：⑴基于屬性加權(quán)的樸素貝葉斯算法研究。樸素貝葉斯算法具有簡(jiǎn)單、高效等特點(diǎn)，但是它完全忽略了屬性之間的依賴關(guān)系，在屬性之間依賴程度較高時(shí)，對(duì)分類效果的影響比較嚴(yán)重。針對(duì)樸素貝葉斯算法要求屬性相互獨(dú)立的前提，提出了一種基于屬性加權(quán)的方法來削弱屬性獨(dú)立這個(gè)限定。在屬性加權(quán)方法中，采用了協(xié)方

3、差理論和卡方擬合統(tǒng)計(jì)量?jī)煞N方法綜合確定權(quán)重系數(shù)。協(xié)方差理論主要通過屬性值的協(xié)方差來表達(dá)屬性之間的關(guān)聯(lián)，卡方擬合統(tǒng)計(jì)量則是采用屬性出現(xiàn)的頻數(shù)來確定權(quán)重系數(shù)，綜合兩種方法確定最終的權(quán)重系數(shù)。這樣同時(shí)考慮了屬性值和屬性出現(xiàn)頻數(shù)兩個(gè)方面，比較好地表達(dá)了屬性之間的依賴關(guān)系。通過三組對(duì)比實(shí)驗(yàn)證明，改進(jìn)的算法在分類正確率方面有一定的提高。⑵基于歸約的樸素貝葉斯算法研究。樸素貝葉斯算法只是對(duì)離散的數(shù)據(jù)有比較理想的分類效果，對(duì)于連續(xù)型數(shù)據(jù)和高維數(shù)據(jù)等都要