基于選擇性集成學(xué)習(xí)的離群點(diǎn)檢測(cè)研究.pdf

1、離群點(diǎn)檢測(cè)是數(shù)據(jù)挖掘中一個(gè)非常重要的研究方向。離群點(diǎn)是指明顯異常于其他對(duì)象，與當(dāng)前的模型不一致或有偏差的數(shù)據(jù)。離群點(diǎn)檢測(cè)主要是為了發(fā)現(xiàn)潛在的、有意義、有價(jià)值的知識(shí)，它在欺詐檢測(cè)、入侵檢測(cè)、醫(yī)療圖像識(shí)別、天文觀測(cè)和農(nóng)業(yè)病蟲(chóng)害檢測(cè)等諸多領(lǐng)域都有著廣泛的應(yīng)用。然而，現(xiàn)有的離群點(diǎn)檢測(cè)方法還面臨著很多問(wèn)題。一方面，由于存在數(shù)據(jù)稀疏和高維度等問(wèn)題，現(xiàn)有的方法難以從高維數(shù)據(jù)中有效地檢測(cè)出離群點(diǎn)；另一方面，現(xiàn)有方法的泛化能力還比較差，對(duì)于新數(shù)據(jù)的檢測(cè)性

2、能和檢測(cè)效率不高。
　　集成學(xué)習(xí)將多個(gè)不同的單一模型組合成一個(gè)復(fù)合模型，利用這些單個(gè)模型之間的差異，可以有效改善集成模型的泛化性能。不同于傳統(tǒng)的集成學(xué)習(xí)，選擇性集成學(xué)習(xí)只選擇一部分準(zhǔn)確率高且差異性大的基學(xué)習(xí)器來(lái)構(gòu)建集成學(xué)習(xí)器，在降低學(xué)習(xí)系統(tǒng)的計(jì)算與存儲(chǔ)開(kāi)銷的同時(shí)，有望獲得更好的泛化性能。針對(duì)當(dāng)前的離群點(diǎn)檢測(cè)方法所存在的問(wèn)題，本文基于選擇性集成學(xué)習(xí)來(lái)開(kāi)展離群點(diǎn)檢測(cè)的研究，重點(diǎn)研究了高維數(shù)據(jù)下的離群點(diǎn)檢測(cè)問(wèn)題，以及離群點(diǎn)檢測(cè)算法的泛化

3、性能的提升問(wèn)題。首先，針對(duì)高維數(shù)據(jù)下的離群點(diǎn)檢測(cè)所面臨的問(wèn)題，提出了近似約簡(jiǎn)的概念，并由此提出一種基于近似約簡(jiǎn)的集成學(xué)習(xí)算法。另外，還提出了一種基于近似約簡(jiǎn)和最佳抽樣的選擇性集成學(xué)習(xí)算法；其次，為了提升離群點(diǎn)檢測(cè)算法的泛化性能，提出了一種基于多模態(tài)擾動(dòng)的選擇性集成學(xué)習(xí)算法。另外，還提出了一種基于隨機(jī)貪心選擇的選擇性集成算法。本文將上述算法分別應(yīng)用于離群點(diǎn)檢測(cè)中。實(shí)驗(yàn)結(jié)果表明，相對(duì)于傳統(tǒng)的算法，本文提出的算法具有更好的離群點(diǎn)檢測(cè)性能。

4、r>　　本文的工作主要包括以下幾個(gè)方面：
　　首先，對(duì)粗糙集中的約簡(jiǎn)概念進(jìn)行了擴(kuò)展，提出一種近似約簡(jiǎn)的概念，并由此提出一種基于近似約簡(jiǎn)的集成學(xué)習(xí)算法ELAR。ELAR算法在對(duì)高維數(shù)據(jù)進(jìn)行有效降維的同時(shí)，可以獲得較好的離群點(diǎn)檢測(cè)性能。實(shí)驗(yàn)結(jié)果表明，ELAR算法的檢測(cè)準(zhǔn)確率和時(shí)間復(fù)雜度均好于現(xiàn)有的算法。
　　其次，在上面所提出的近似約簡(jiǎn)的基礎(chǔ)上，進(jìn)一步提出了一種基于近似約簡(jiǎn)和最佳抽樣的選擇性集成學(xué)習(xí)算法SE_AROS。實(shí)驗(yàn)結(jié)果表

5、明，SE_AROS算法的性能要好于傳統(tǒng)的算法。
　　然后，針對(duì)集成學(xué)習(xí)中單模態(tài)擾動(dòng)所存在的問(wèn)題，提出了一種基于多模態(tài)擾動(dòng)的選擇性集成學(xué)習(xí)算法ELSR。ELSR算法采用抽樣技術(shù)以及粗糙集中的屬性約簡(jiǎn)方法來(lái)進(jìn)行多模態(tài)擾動(dòng)，可以獲得一組差異性大的基學(xué)習(xí)器。在多個(gè)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果證實(shí)，與其他算法相比，ELSR算法具有更好的離群點(diǎn)檢測(cè)性能。
　　最后，針對(duì)基于貪心法的選擇性集成學(xué)習(xí)算法易過(guò)早陷入局部最優(yōu)的問(wèn)題，提出了一種基于隨機(jī)貪心