IB方法在垃圾郵件過濾問題中的應(yīng)用研究.pdf

1、IB方法是一種基于信息論的數(shù)據(jù)分析方法,其將數(shù)據(jù)模式分析視為一個(gè)數(shù)據(jù)壓縮的過程。若給定源變量與相關(guān)變量的聯(lián)合概率分布,IB方法在對源變量進(jìn)行壓縮的同時(shí),可使得壓縮變量最大化地保存相關(guān)變量的信息,進(jìn)而有效的發(fā)現(xiàn)數(shù)據(jù)集內(nèi)所隱含的內(nèi)在模式。IB方法被廣泛應(yīng)用于需進(jìn)行特征提取和信息壓縮的領(lǐng)域,且均得到了較好的結(jié)果。
　　 垃圾郵件問題是困擾人們?nèi)粘Ｉ詈蛯W(xué)習(xí)的嚴(yán)重網(wǎng)絡(luò)問題,給人們帶來了很多不便。目前常用的垃圾郵件過濾方法由于沒有充分考慮

2、到不平衡類特征描述特殊化的問題,不能很好的對作為稀有類的垃圾郵件進(jìn)行特征提取,因此難以得到優(yōu)秀的過濾效果。如果使用已有算法提高垃圾郵件類的分類準(zhǔn)確率,就要以犧牲召回率為代價(jià),反之亦然,因此構(gòu)建一個(gè)最大化準(zhǔn)確率和召回率的模型是垃圾郵件過濾算法的一個(gè)主要挑戰(zhàn)。
　　 針對垃圾郵件過濾過程中召回率、準(zhǔn)確率不能同時(shí)提升的問題,本文提出了基于IB方法的單類垃圾郵件過濾算法。該算法將垃圾郵件過濾問題轉(zhuǎn)化為單類分類問題進(jìn)行求解,并使用基于IB

3、方法的信息損失函數(shù)對單類進(jìn)行特征提取。將垃圾郵件過濾問題轉(zhuǎn)化為單類分類分類問題,使訓(xùn)練數(shù)據(jù)來源于單一數(shù)據(jù)源,能夠有效地避免噪聲對訓(xùn)練過程的影響;使用IB方法對垃圾郵件類進(jìn)行特征提取,利用互信息可以提取與垃圾郵件相關(guān)性最高的一些屬性特征,并為垃圾郵件類構(gòu)造高效的壓縮代表,解決了稀有類描述高度特殊化的難題。為了驗(yàn)證基于IB方法的單類垃圾郵件過濾方法的有效性,本文將其與樸素貝葉斯分類器以及Logitboosting方法在Ling-Spam數(shù)據(jù)