基于核偏最小二乘分類的垃圾郵件過濾研究.pdf

1、電子郵件已經(jīng)成為人們同常生活中通信、交流的重要手段，但垃圾郵件占用大量的傳輸、存儲和運算資源，造成巨大的資源浪費，對信息安全系統(tǒng)的有效性形成重大挑戰(zhàn)，垃圾郵件嚴重危害互聯(lián)網(wǎng)發(fā)展。因此有效地區(qū)分合法郵件和垃圾郵件成為一項緊迫的任務。 近年來，有關垃圾郵件過濾技術的研究逐漸興起，常見的過濾方法有黑白名單技術、規(guī)則過濾等，但這些方法都具有一定的局限性。規(guī)則的建立需要相關領域知識，規(guī)則的增加需要大量的時間，這些都需要靠反垃圾郵件的專業(yè)人

2、士來制定。同時制定好的規(guī)則是公開的，使得垃圾郵件制造者容易掌握這些規(guī)則繞過過濾器來發(fā)送垃圾郵件。目前，垃圾郵件過濾成為研究的熱點。許多機器學習方法已經(jīng)應用到了垃圾郵件過濾領域，但由于每封郵件中的詞很少，對大量郵件進行處理時很容易產生高維的特征空間，而其中大部分詞出現(xiàn)的次數(shù)很少，從而會產生嚴重的數(shù)據(jù)稀疏性；同時，郵件中經(jīng)常出現(xiàn)同義詞或者近義詞，而且很多郵件的內容非常類似，因此在郵件的內容之間容易出現(xiàn)嚴重的多重相關性。偏最小二乘方法可以很好

3、的解決這些問題，但是郵件的內容之間的多重相關性往往不是線性的，而更多的是錯綜復雜的非線性關系，本文通過在偏最小二乘方法引入核函數(shù)，去處理這一類的非線性問題。 本文用到基于核偏最小二乘分類（Kernel PLS Classification）方法的基本思想是：通過定義特征變換后樣本在特征空間中的內積來實現(xiàn)一種特征變換，把數(shù)據(jù)映射到可再生希爾伯特空間中，使得這個非線性問題可以在被映射的空間上線性描述。在選取適當?shù)暮撕瘮?shù)后，在原始空間

4、帶參數(shù)的核函數(shù)相對于在可再生希爾伯特空間中帶參數(shù)的內積，使其線性分類更加容易。它是一種整體非線性化方式進行機器學習。 為了檢驗我們提出的方法在垃圾郵件過濾中的性能，本文采用希臘學者Androutsopoulos提供的Enron-Spam數(shù)據(jù)集進行了郵件過濾實驗，同時在實驗中為了凸顯出郵件的主題與正文內容對過濾的影響，簡單地對每篇郵件的主題出現(xiàn)的詞和正文內容出現(xiàn)的詞設置了不同權重。并與目前常用的幾種方法進行了對比實驗，實驗結果表明