貝葉斯網(wǎng)絡在數(shù)據(jù)挖掘中的應用研究.pdf

1、貝葉斯網(wǎng)絡以其豐富的概率表達能力、綜合先驗知識的增量學習特性以及穩(wěn)固的數(shù)學基礎已經(jīng)在許多領域內(nèi)得到了廣泛應用，成為當前機器學習和數(shù)據(jù)挖掘的研究熱點之一，其關鍵技術之一是貝葉斯網(wǎng)絡的結構學習，這也是本課題的主要研究方向。由于貝葉斯網(wǎng)絡結構的復雜度隨論域中結點個數(shù)的增加呈指數(shù)上升，如何構建最佳貝葉斯網(wǎng)絡成為NP難題。本課題將從數(shù)據(jù)庫信息出發(fā)，利用多種優(yōu)化算法，從而完成構建最佳貝葉斯網(wǎng)絡的工作，并進行算法的性能比較分析。 主要研究內(nèi)容

2、和成果包括： 1、驗證基于數(shù)據(jù)庫信息構建貝葉斯網(wǎng)絡的遺傳算法。該方法以實例數(shù)據(jù)庫作為樣本信息，利用遺傳算法全局尋優(yōu)的特性，從大量結構模型中快速搜索最佳結構模型，從而完成貝葉斯網(wǎng)絡結構的構建。該方法避免了只使用專家知識所帶來的主觀偏見，又避免了缺乏樣本信息的大量盲目搜索。試驗表明，該方法充分利用了遺傳算法的尋優(yōu)能力，可以較好地完成構建最佳貝葉斯網(wǎng)絡的工作。 2、提出基于數(shù)據(jù)庫信息構建貝葉斯網(wǎng)絡的免疫遺傳算法。在實際應用標準

3、遺傳算法時，若算法的終止條件設計不恰當，往往出現(xiàn)早熟收斂和收斂性能差等缺點，因此本課題提出利用免疫遺傳算法對此加以改進。該方法將生命科學中免疫的原理與遺傳算法相結合，從而提高算法的整體性能，并有選擇、有目的地利用待求解問題中的一些專家知識來抑制優(yōu)化過程中種群退化現(xiàn)象的出現(xiàn)。試驗表明，改進后的算法在搜索效率上較標準遺傳算法有了很大提高，并且有效地抑制了早熟現(xiàn)象。另外，標準遺傳算法在出現(xiàn)最優(yōu)結果之后出現(xiàn)了振蕩現(xiàn)象，而免疫遺傳算法較好地避免了

4、此問題。 3、提出基于MDL理論構建貝葉斯網(wǎng)絡的GASA混合優(yōu)化算法?；诰幋a理論的最小描述長度(MDL)原理可以有效地兼顧網(wǎng)絡結構的復雜性和數(shù)據(jù)的描述精度兩方面。本課題中將以MDL作為遺傳算法的評分函數(shù)，利用遺傳算法與模擬退火算法相結合的混合優(yōu)化算法來完成構建最佳貝葉斯網(wǎng)絡的工作。試驗表明，相對GA盡管混合優(yōu)化算法自適應地增加了一定的優(yōu)化步數(shù)，但以MDL作為評分函數(shù)，減少了計算復雜度，因此比利用GA構建貝葉斯網(wǎng)絡的方法在時間性

5、能上有所提高，并且GASA混合優(yōu)化算法在搜索過程中波動率小，可以避免早熟現(xiàn)象的產(chǎn)生，優(yōu)化結果可靠。 4、進一步改進基于MDL理論構建貝葉斯網(wǎng)絡的GASA混合優(yōu)化算法。MDL理論可以有效地平衡網(wǎng)絡結構的復雜性和數(shù)據(jù)描述的精確性，但不具備處理先驗知識的能力，沒有利用網(wǎng)絡結構的繼承性，有較大局限性。針對這一問題，本課題對MDL理論加以改進，增加一項目標網(wǎng)絡結構與先驗網(wǎng)絡結構差異度的指標，從而使MDL準則能利用先驗知識，實現(xiàn)復雜性、精確