基于Probit模型的相關(guān)向量機(jī)分類器設(shè)計(jì)及應(yīng)用.pdf

1、現(xiàn)階段比較常用的分類器有支持向量機(jī)(SVM)和相關(guān)向量機(jī)(RVM)。SVM是Cortes和Vapnik于1995年首次提出的，在解決小樣本、非線性及高維模式識(shí)別中表現(xiàn)出許多特有的優(yōu)勢(shì)。RVM是Tipping于2001年在貝葉斯框架的基礎(chǔ)上提出的，其函數(shù)形式和SVM相同。與SVM相比，RVM可以得到準(zhǔn)確的預(yù)測(cè)模型，不用估計(jì)誤差參數(shù)、輸出是判為各類的概率值、核函數(shù)不需滿足Mercer條件。SVM和RVM最初用于解決兩類數(shù)據(jù)的分類問題，但現(xiàn)實(shí)

2、生活中我們更多遇到的是多類分類問題，如何有效地將兩類分類器推廣到多類分類是值得研究的課題?，F(xiàn)已有的方法大都通過構(gòu)建多個(gè)兩類分類器進(jìn)行多類分類。本文在前人工作的基礎(chǔ)上，基于Probit模型對(duì)現(xiàn)有的RVM分類器進(jìn)行改進(jìn)，將其應(yīng)用于兩類及多類數(shù)據(jù)的分類中。
　　 本研究主要內(nèi)容包括：介紹了貝葉斯學(xué)習(xí)的一些理論，包括貝葉斯理論和變分貝葉斯理論；介紹了兩類RVM分類器的實(shí)現(xiàn)。從傳統(tǒng)RVM分類器入手，引出基于Probit模型的兩類RVM分類

3、器，并基于變分貝葉斯理論進(jìn)行后驗(yàn)參數(shù)求解及預(yù)測(cè)分布的推導(dǎo)，最后基于人工合成數(shù)據(jù)、UCI公共數(shù)據(jù)和雷達(dá)實(shí)測(cè)數(shù)據(jù)對(duì)分類器的性能進(jìn)行評(píng)估；研究了多類RVM分類器。首先介紹傳統(tǒng)多類RVM分類器，然后給出我們基于Probit模型實(shí)現(xiàn)多類RVM分類器的方法，并基于變分貝葉斯理論進(jìn)行后驗(yàn)參數(shù)求解及預(yù)測(cè)分布的推導(dǎo)，最后基于人工合成數(shù)據(jù)、UCI公共數(shù)據(jù)和雷達(dá)實(shí)測(cè)數(shù)據(jù)對(duì)分類器的性能進(jìn)行評(píng)估。為了在今后研究中使用提出的RVM分類器的方便，我們基于VC與MAT