基于支持向量機的文本分類的研究.pdf

1、統(tǒng)計學(xué)習(xí)理論作為一種專門的小樣本學(xué)習(xí)理論，在解決小樣本、非線性及高維模式識別等問題中表現(xiàn)出了許多特有的優(yōu)勢。同時，在其理論基礎(chǔ)上發(fā)展出了很多實際的學(xué)習(xí)方法。支持向量機(SVM)就是最具代表性的一個，它專門針對有限樣本情況，得到現(xiàn)有信息下的最優(yōu)解，很大程度上解決了模型選擇、過學(xué)習(xí)、非線性、維數(shù)災(zāi)難等問題。核函數(shù)方法正是在支持向量機的研究中提出并逐步得到發(fā)展的一種構(gòu)造非線性變換的方法。由于核函數(shù)的好壞直接影響著支持向量機的性能，因此有關(guān)核函

2、數(shù)的研究也就成為支持向量機研究中需要解決的核心問題之一。 本文的研究工作主要包括以下幾個方面： (1)回顧了統(tǒng)計學(xué)習(xí)理論研究的基本問題及主要內(nèi)容，介紹了支持向量機的發(fā)展和國內(nèi)外研究現(xiàn)狀，對目前存在的問題進行了總結(jié)。 (2)結(jié)合大量的實驗，揭示出文本的各種特征對最終分類性能的影響程度，并分析比較了不同的核函數(shù)在文本分類中的分類性能，以及各種核函數(shù)參數(shù)選擇和文本特征的聯(lián)系。為構(gòu)造適合文本分類的新的核函數(shù)、文本分類中的

3、核參數(shù)的選擇和改進現(xiàn)有的核函數(shù)提供了很好的指導(dǎo)。 (3)在分析現(xiàn)有參數(shù)調(diào)整方法的基礎(chǔ)之上，結(jié)合文本特征，提出了一種改進的參數(shù)調(diào)整算法，并主要應(yīng)用于徑向基核和組合核的參數(shù)調(diào)整。實驗表明，該方法能夠有效地調(diào)整支持向量機的參數(shù)，提高支持向量機的泛化性能。 (4)研究了應(yīng)用基于樣本分布的核函數(shù)參數(shù)優(yōu)化方法解決文本分類器徑向基核函數(shù)的參數(shù)優(yōu)化問題，提出了一種簡化算法，依據(jù)該算法在Rellters-21578上實現(xiàn)了文本分類器的徑向