基于選擇性集成學習的離群點檢測研究.pdf

1、離群點檢測是數(shù)據(jù)挖掘中一個非常重要的研究方向。離群點是指明顯異常于其他對象，與當前的模型不一致或有偏差的數(shù)據(jù)。離群點檢測主要是為了發(fā)現(xiàn)潛在的、有意義、有價值的知識，它在欺詐檢測、入侵檢測、醫(yī)療圖像識別、天文觀測和農(nóng)業(yè)病蟲害檢測等諸多領(lǐng)域都有著廣泛的應用。然而，現(xiàn)有的離群點檢測方法還面臨著很多問題。一方面，由于存在數(shù)據(jù)稀疏和高維度等問題，現(xiàn)有的方法難以從高維數(shù)據(jù)中有效地檢測出離群點；另一方面，現(xiàn)有方法的泛化能力還比較差，對于新數(shù)據(jù)的檢測性

2、能和檢測效率不高。
　　集成學習將多個不同的單一模型組合成一個復合模型，利用這些單個模型之間的差異，可以有效改善集成模型的泛化性能。不同于傳統(tǒng)的集成學習，選擇性集成學習只選擇一部分準確率高且差異性大的基學習器來構(gòu)建集成學習器，在降低學習系統(tǒng)的計算與存儲開銷的同時，有望獲得更好的泛化性能。針對當前的離群點檢測方法所存在的問題，本文基于選擇性集成學習來開展離群點檢測的研究，重點研究了高維數(shù)據(jù)下的離群點檢測問題，以及離群點檢測算法的泛化

3、性能的提升問題。首先，針對高維數(shù)據(jù)下的離群點檢測所面臨的問題，提出了近似約簡的概念，并由此提出一種基于近似約簡的集成學習算法。另外，還提出了一種基于近似約簡和最佳抽樣的選擇性集成學習算法；其次，為了提升離群點檢測算法的泛化性能，提出了一種基于多模態(tài)擾動的選擇性集成學習算法。另外，還提出了一種基于隨機貪心選擇的選擇性集成算法。本文將上述算法分別應用于離群點檢測中。實驗結(jié)果表明，相對于傳統(tǒng)的算法，本文提出的算法具有更好的離群點檢測性能。

4、r>　　本文的工作主要包括以下幾個方面：
　　首先，對粗糙集中的約簡概念進行了擴展，提出一種近似約簡的概念，并由此提出一種基于近似約簡的集成學習算法ELAR。ELAR算法在對高維數(shù)據(jù)進行有效降維的同時，可以獲得較好的離群點檢測性能。實驗結(jié)果表明，ELAR算法的檢測準確率和時間復雜度均好于現(xiàn)有的算法。
　　其次，在上面所提出的近似約簡的基礎(chǔ)上，進一步提出了一種基于近似約簡和最佳抽樣的選擇性集成學習算法SE_AROS。實驗結(jié)果表

5、明，SE_AROS算法的性能要好于傳統(tǒng)的算法。
　　然后，針對集成學習中單模態(tài)擾動所存在的問題，提出了一種基于多模態(tài)擾動的選擇性集成學習算法ELSR。ELSR算法采用抽樣技術(shù)以及粗糙集中的屬性約簡方法來進行多模態(tài)擾動，可以獲得一組差異性大的基學習器。在多個數(shù)據(jù)集上的實驗結(jié)果證實，與其他算法相比，ELSR算法具有更好的離群點檢測性能。
　　最后，針對基于貪心法的選擇性集成學習算法易過早陷入局部最優(yōu)的問題，提出了一種基于隨機貪心