基于偏最小二乘方法的垃圾郵件過(guò)濾研究.pdf

1、隨著電子郵件應(yīng)用越來(lái)越普遍，垃圾郵件問(wèn)題已經(jīng)有愈演愈烈之勢(shì)，嚴(yán)重地影響了電子郵件的正常使用。因此，垃圾郵件過(guò)濾技術(shù)的研究有著十分重要的實(shí)用價(jià)值。 近年來(lái)，基于機(jī)器學(xué)習(xí)方法自動(dòng)構(gòu)建個(gè)性化的過(guò)濾模型已經(jīng)成為垃圾郵件過(guò)濾研究重點(diǎn)之一。運(yùn)用機(jī)器學(xué)習(xí)方法，也就是預(yù)先人工判定郵件的類(lèi)別，將垃圾郵件過(guò)濾當(dāng)作文本分類(lèi)的一個(gè)分支來(lái)處理。因?yàn)橛?xùn)練過(guò)程中同時(shí)使用了正常郵件和垃圾郵件的特征，所以最終生成的過(guò)濾器可以自適應(yīng)不同用戶(hù)的郵件分布。許多機(jī)器學(xué)習(xí)

2、方法已經(jīng)應(yīng)用到了垃圾郵件過(guò)濾領(lǐng)域，取得了較為滿(mǎn)意的結(jié)果，但由于每封郵件中的詞很少，對(duì)大量郵件進(jìn)行處理時(shí)很容易產(chǎn)生高維的特征空間，而其中大部分詞出現(xiàn)的次數(shù)很少，從而會(huì)產(chǎn)生嚴(yán)重的數(shù)據(jù)稀疏性；同時(shí)，郵件中經(jīng)常出現(xiàn)同義詞或者近義詞，而且很多郵件的內(nèi)容非常類(lèi)似，因此在郵件的內(nèi)容之間容易出現(xiàn)嚴(yán)重的多重相關(guān)性。針對(duì)這些問(wèn)題，本文提出一種基于偏最小二乘（PLS）的特征抽取方法。 新方法的基本思想是：通過(guò)分析郵件原始特征與對(duì)應(yīng)類(lèi)別之間的關(guān)系求解二

3、者之間協(xié)方差的最大化問(wèn)題。對(duì)高維的原始特征進(jìn)行多次線(xiàn)性組合的迭代處理，并用偏最小二乘回歸函數(shù)進(jìn)行擬合，分別提取出最能反映原高維數(shù)據(jù)的特征向量組合，從而達(dá)到降低特征維數(shù)和克服多重相關(guān)性的目的。然后應(yīng)用交叉有效性算法得到最佳的特征維數(shù)后用提取出的向量構(gòu)造新的向量空間。 本文采用CEAS2006的基準(zhǔn)數(shù)據(jù)集——Enron—Spam數(shù)據(jù)集進(jìn)行了過(guò)濾實(shí)驗(yàn)，并與目前常用的X2特征選擇方法進(jìn)行了對(duì)比實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明，新方法在較低維數(shù)上可以獲