基于核偏最小二乘分類(lèi)的垃圾郵件過(guò)濾研究.pdf

1、電子郵件已經(jīng)成為人們同常生活中通信、交流的重要手段，但垃圾郵件占用大量的傳輸、存儲(chǔ)和運(yùn)算資源，造成巨大的資源浪費(fèi)，對(duì)信息安全系統(tǒng)的有效性形成重大挑戰(zhàn)，垃圾郵件嚴(yán)重危害互聯(lián)網(wǎng)發(fā)展。因此有效地區(qū)分合法郵件和垃圾郵件成為一項(xiàng)緊迫的任務(wù)。 近年來(lái)，有關(guān)垃圾郵件過(guò)濾技術(shù)的研究逐漸興起，常見(jiàn)的過(guò)濾方法有黑白名單技術(shù)、規(guī)則過(guò)濾等，但這些方法都具有一定的局限性。規(guī)則的建立需要相關(guān)領(lǐng)域知識(shí)，規(guī)則的增加需要大量的時(shí)間，這些都需要靠反垃圾郵件的專(zhuān)業(yè)人

2、士來(lái)制定。同時(shí)制定好的規(guī)則是公開(kāi)的，使得垃圾郵件制造者容易掌握這些規(guī)則繞過(guò)過(guò)濾器來(lái)發(fā)送垃圾郵件。目前，垃圾郵件過(guò)濾成為研究的熱點(diǎn)。許多機(jī)器學(xué)習(xí)方法已經(jīng)應(yīng)用到了垃圾郵件過(guò)濾領(lǐng)域，但由于每封郵件中的詞很少，對(duì)大量郵件進(jìn)行處理時(shí)很容易產(chǎn)生高維的特征空間，而其中大部分詞出現(xiàn)的次數(shù)很少，從而會(huì)產(chǎn)生嚴(yán)重的數(shù)據(jù)稀疏性；同時(shí)，郵件中經(jīng)常出現(xiàn)同義詞或者近義詞，而且很多郵件的內(nèi)容非常類(lèi)似，因此在郵件的內(nèi)容之間容易出現(xiàn)嚴(yán)重的多重相關(guān)性。偏最小二乘方法可以很好

3、的解決這些問(wèn)題，但是郵件的內(nèi)容之間的多重相關(guān)性往往不是線性的，而更多的是錯(cuò)綜復(fù)雜的非線性關(guān)系，本文通過(guò)在偏最小二乘方法引入核函數(shù)，去處理這一類(lèi)的非線性問(wèn)題。 本文用到基于核偏最小二乘分類(lèi)（Kernel PLS Classification）方法的基本思想是：通過(guò)定義特征變換后樣本在特征空間中的內(nèi)積來(lái)實(shí)現(xiàn)一種特征變換，把數(shù)據(jù)映射到可再生希爾伯特空間中，使得這個(gè)非線性問(wèn)題可以在被映射的空間上線性描述。在選取適當(dāng)?shù)暮撕瘮?shù)后，在原始空間

4、帶參數(shù)的核函數(shù)相對(duì)于在可再生希爾伯特空間中帶參數(shù)的內(nèi)積，使其線性分類(lèi)更加容易。它是一種整體非線性化方式進(jìn)行機(jī)器學(xué)習(xí)。 為了檢驗(yàn)我們提出的方法在垃圾郵件過(guò)濾中的性能，本文采用希臘學(xué)者Androutsopoulos提供的Enron-Spam數(shù)據(jù)集進(jìn)行了郵件過(guò)濾實(shí)驗(yàn)，同時(shí)在實(shí)驗(yàn)中為了凸顯出郵件的主題與正文內(nèi)容對(duì)過(guò)濾的影響，簡(jiǎn)單地對(duì)每篇郵件的主題出現(xiàn)的詞和正文內(nèi)容出現(xiàn)的詞設(shè)置了不同權(quán)重。并與目前常用的幾種方法進(jìn)行了對(duì)比實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明