監(jiān)督和半監(jiān)督支持向量機(jī)研究.pdf

1、支持向量機(jī)是基于統(tǒng)計(jì)學(xué)習(xí)理論的一種機(jī)器學(xué)習(xí)算法，近年來(lái)由于其良好的分類和回歸性能、較強(qiáng)的泛化能力受到廣泛的關(guān)注，在理論研究、算法的實(shí)現(xiàn)和求解上都取得了重大進(jìn)展，成為機(jī)器學(xué)習(xí)的前言課題。
　　支持向量機(jī)將機(jī)器學(xué)習(xí)問(wèn)題轉(zhuǎn)化為最優(yōu)化規(guī)劃，并應(yīng)用優(yōu)化理論構(gòu)造求解算法，從而得到最優(yōu)解。轉(zhuǎn)化后的無(wú)約束支持向量機(jī)的目標(biāo)函數(shù)含有不可微項(xiàng)，所以不能應(yīng)用快速算法求解，于是產(chǎn)生了基于光滑函數(shù)的監(jiān)督和半監(jiān)督支持向量機(jī)研究。本文主要從光滑技術(shù)的方法和角度進(jìn)

2、行研究，主要內(nèi)容如下:
　　1、對(duì)光滑支持向量分類機(jī)進(jìn)行研究。約束支持向量機(jī)的目標(biāo)函數(shù)是非光滑不可微的，而傳統(tǒng)的優(yōu)化算法大多要用到目標(biāo)函數(shù)和約束條件的一階或二階可導(dǎo)條件。本文提出一類基于貝塞爾曲線的光滑支持向量分類機(jī)BSSVM模型和基于旋轉(zhuǎn)雙曲線的RHSSVM模型，它們都具有二階可微性，可采用快速的Newton-Armijo算法進(jìn)行求解。理論和實(shí)驗(yàn)都證明了提出的BSSVM和RHSSVM兩種算法比已有模型在分類精度和訓(xùn)練時(shí)間上有改進(jìn)

3、和提升。同時(shí)，節(jié)省了存儲(chǔ)空間，有效地處理了高維、大數(shù)據(jù)的分類問(wèn)題。
　　2、對(duì)光滑支持向量回歸機(jī)進(jìn)行研究。建立無(wú)約束支持向量機(jī)回歸模型，應(yīng)用光滑技術(shù)，給出了基于貝塞爾曲線的ε-不敏感光滑支持向量回歸機(jī)ε-BSSVR模型和基于旋轉(zhuǎn)雙曲線的ε-RHSSVR模型。對(duì)非線性樣本，本文采用了核函數(shù)技術(shù)，將輸入樣本映射到高維希爾伯特空間，在高維特征空間進(jìn)行線性回歸，對(duì)于高維數(shù)據(jù)，采用簡(jiǎn)約支持向量機(jī)技術(shù)，在不降低回歸性能的前提下，減少了運(yùn)算數(shù)量

4、。提出的兩種模型，在理論和數(shù)據(jù)仿真上都給出了比較，結(jié)果說(shuō)明ε-BSSVR和ε-RHSSVR模型在回歸精度和訓(xùn)練時(shí)間上都優(yōu)于已有的模型。
　　3、對(duì)于光滑半監(jiān)督支持向量機(jī)進(jìn)行研究。半監(jiān)督支持向量機(jī)的目標(biāo)函數(shù)為非凸非光滑的，為了提高▽ TSVM的分類性能和求解速度，引進(jìn)了光滑函數(shù)，給出了基于貝塞爾曲線的光滑半監(jiān)督支持向量機(jī)BSS3VM模型。該光滑函數(shù)對(duì)非凸非光滑部分進(jìn)行了逼近，逼近精度高于已有的近似高斯函數(shù)，理論和數(shù)據(jù)仿真都說(shuō)明了該模