基于互信息的Bayes網(wǎng)絡(luò)分類器的構(gòu)建.pdf

1、數(shù)據(jù)挖掘又稱數(shù)據(jù)庫中知識(shí)發(fā)現(xiàn)(KDD),是從數(shù)據(jù)集中識(shí)別出有效的、新穎的、潛在有用的,以及最終可解釋的模式的非平凡過程,是一種從原始數(shù)據(jù)中獲取隱含信息的工具之一.它的主要功能包括分類預(yù)測(cè)、關(guān)聯(lián)規(guī)則、聚類、時(shí)序分析等.Bayes網(wǎng)絡(luò)是分類預(yù)測(cè)的成功模型之一.該文討論的是如何建構(gòu)Bayes網(wǎng)絡(luò)分類器的問題,其主要研究?jī)?nèi)容和創(chuàng)新如下:首先,該文從Bayes網(wǎng)絡(luò)的基本理論出發(fā),在國內(nèi)外相關(guān)工作的基礎(chǔ)上,發(fā)現(xiàn)建構(gòu)Bayes網(wǎng)絡(luò)存在若干問題.第一,

2、要想得到準(zhǔn)確的Bayes網(wǎng)絡(luò)結(jié)構(gòu),即要得到很好的符合數(shù)據(jù)庫中數(shù)據(jù)信息的Bayes網(wǎng)絡(luò)結(jié)構(gòu),需要用戶指定參數(shù),這對(duì)用戶來說是比較困難的;第二,要自動(dòng)找到一個(gè)最佳的網(wǎng)絡(luò)結(jié)構(gòu)是一個(gè)NP難題.第三,通過不斷修改網(wǎng)絡(luò)參數(shù)來建構(gòu)Bayes網(wǎng)絡(luò)結(jié)構(gòu),是一個(gè)漫長(zhǎng)的過程.針對(duì)這些問題,該文提出了在沒有用戶參與的情況下,僅僅根據(jù)數(shù)據(jù)庫中數(shù)據(jù)信息,以Shannon信息論為依據(jù),用互信息作為衡量?jī)蓚€(gè)隨機(jī)變量間的依賴程度的測(cè)度,快速建構(gòu)準(zhǔn)確的Bayes網(wǎng)絡(luò)結(jié)構(gòu)的

3、思想.然后,分別針對(duì)不同的情況,提出三個(gè)建構(gòu)算法:1)提出了當(dāng)描述數(shù)據(jù)的屬性均為離散取值時(shí),用互信息衡量屬性間的依賴關(guān)系,建立了Bayes網(wǎng)絡(luò)結(jié)構(gòu)的樸素BNC算法.2)提出了EBNC算法.EBNC算法引進(jìn)gini系數(shù),用它對(duì)連續(xù)取值的隨機(jī)變量的取值進(jìn)行最優(yōu)二分,使之離散化.然后再運(yùn)用樸素BNC算法對(duì)經(jīng)過預(yù)處理的屬性集建構(gòu)網(wǎng)絡(luò).3)提出了OSBNC算法.OSBNC算法用HBN-Tree記錄數(shù)據(jù)流的中的有用信息,使得算法能夠在只掃描一遍數(shù)據(jù)