分類問題中的新類識別與分類器更新方法研究.pdf

1、多年來隨著分類理論的深入研究，各種分類應(yīng)用諸如光學字符識別、語音識別、文本及圖像分類等也都在逐步開展，并取得了很多很好的成果。分類理論在這些問題上的成功應(yīng)用，鼓舞人們把分類廣泛地用于諸如客戶資信評估、網(wǎng)絡(luò)入侵檢測、垃圾郵件檢測等在線分類系統(tǒng)。隨著分類理論的廣泛應(yīng)用，分類研究面臨一些新的問題，其中較嚴重的一個就是“訓練數(shù)據(jù)集與待分類數(shù)據(jù)集獨立同分布”的假設(shè)在很多應(yīng)用中得不到滿足。在客戶資信評估、網(wǎng)絡(luò)入侵檢測、垃圾郵件檢測等應(yīng)用中，很可能會

2、隨著系統(tǒng)的運行而不斷出現(xiàn)新的類別。當新類別出現(xiàn)時，原有的分類系統(tǒng)便因為數(shù)據(jù)分布發(fā)生的顯著變化而失效，由此帶來的分類錯誤往往會導致很嚴重的損失。 當待分類數(shù)據(jù)中出現(xiàn)客觀新類時，傳統(tǒng)分類器無法應(yīng)對。針對這個問題，本文提出了從待分類數(shù)據(jù)中識別新類，并在之后對分類器進行自動更新的自適應(yīng)分類方法。依照這個思路，本文開展了三方面工作，并得出以下成果。 1)針對待分類數(shù)據(jù)中出現(xiàn)的客觀新類，本文提出使用類別描述進行新類識別的方法，并分別

3、給出基于邊界和基于概率密度函數(shù)兩種方式來實現(xiàn)，其中，邊界方式使用支持向量數(shù)據(jù)描述來實現(xiàn)，而概率密度方式使用高斯混合模型來實現(xiàn)。實驗結(jié)果表明識別準確率受數(shù)據(jù)分布和距離尺度選擇的影響很大，兩種方法在UCI數(shù)據(jù)集的4個數(shù)據(jù)集上的平均識別準確率分別是44.249％和38.358％。 2)對使用邊界描述方式進行新類識別的實驗結(jié)果進行分析發(fā)現(xiàn)，識別率過低的原因在于樣本間的距離不能很好反映樣本間的相似程度，針對該問題本文提出尺度變換的映射思想

4、，引入尺度學習方法，從訓練樣本中學習適合于當前數(shù)據(jù)集的尺度，使得相似樣本距離較近，而不相似樣本距離較遠。在UCI數(shù)據(jù)集上的實驗結(jié)果表明，加入尺度學習后，基于邊界的新類識別的平均準確率從44.249％提高至68.329％。 3)針對新類及其代表樣本被識別出后如何更新現(xiàn)有分類器的問題，本文提出可繼承數(shù)據(jù)挖掘的思想，根據(jù)兩次相鄰學習的相似性和知識變化的漸進性特點，提出可供分類器更新使用的中間計算，并基于此提出并實現(xiàn)了類別增量的決策樹學