貝葉斯網(wǎng)絡研究.pdf

1、貝葉斯網(wǎng)絡是研究不確定性問題的重要方法之一。它基于概率和統(tǒng)計理論，具有堅實的數(shù)學基礎。由于具有自然的表達方式、強大的推理能力和方便的決策機制等許多優(yōu)點，貝葉斯網(wǎng)絡在許多領域得到了廣泛的應用。本文在貝葉斯網(wǎng)絡基礎理論框架的基礎上，主要研究了以下幾個方面的內容：基于信息幾何理論的貝葉斯網(wǎng)絡研究、樸素貝葉斯分類器的提升、規(guī)則方法與貝葉斯網(wǎng)絡結合文本信息抽取研究、層次貝葉斯網(wǎng)絡文本分類器。本文的主要貢獻如下：(1)分析了貝葉斯網(wǎng)絡這一特殊類型的

2、概率分布簇所對應的統(tǒng)計流形的特點：由于貝葉斯網(wǎng)絡引入了條件獨立性，從而降低了流形的維度，簡化了統(tǒng)計流形上的Riemman度量矩陣。提出了基于信息幾何理論的不完備數(shù)據(jù)條件下貝葉斯網(wǎng)絡的參數(shù)學習算法：貝葉斯網(wǎng)絡的自然梯度學習算法(NGBN)。推導出了離散型、連續(xù)型、條件Gaussian網(wǎng)、父節(jié)點連續(xù)而子節(jié)點離散等不同的貝葉斯網(wǎng)絡類型其自然梯度的計算公式。通過理論分析和試驗，說明了自然梯度學習比歐式梯度學習更合理，更快速。(2)提出了一種通過

3、在原有屬性的基礎上重新構造屬性集，從而提高屬性間的條件獨立性的方式來提高樸素貝葉斯分類器性能的新方法：基于Fisher分構建樸素貝葉斯分類器(FS—NBC)。新屬性集的分量為貝葉斯網(wǎng)概率分布函數(shù)的對數(shù)對每個分布參數(shù)的偏微分。我們證明了在一定條件下，經(jīng)過Fisher分映射后得到的新屬性集是條件獨立的，并從理論上分析了對于無先驗信息的多項分布和原屬性集已經(jīng)是條件獨立的情況下新屬性集的獨立性。試驗表明該方法較好地提高了樸素貝葉斯分類器的性能。

4、 (3)提出了一種新的文本信息抽取算法：結合規(guī)則的動態(tài)貝葉斯信息抽取網(wǎng)(RDBIEN)。在半結構化文本抽取任務中，主要有兩種技術手段：一種是基于規(guī)則的方法，另一種是基于概率的方法。基于規(guī)則的方法是處理確定性問題的重要手段，它具有充分吸取專家經(jīng)驗和更為直觀、更易于獲得的優(yōu)點。而基于概率的方法則更魯棒，性能更高。我們把規(guī)則方法與貝葉斯網(wǎng)絡相結合，既保持了概率方法的魯棒性等優(yōu)點，又結合了規(guī)則方法在吸取專家經(jīng)驗等方面的優(yōu)點。試驗表明該算法具有較