半監(jiān)督支持向量機學習算法研究.pdf

1、支持向量機是Vapnik等在統(tǒng)計學習理論基礎上發(fā)展起來的針對小樣本的新型機器學習方法。該方法由于具有較強的泛化能力、方便對高維數據操作而得到了日益廣泛的研究和應用。傳統(tǒng)的基于監(jiān)督學習的分類方法，雖然能夠有效地解決各種實際問題，但是需要手工對大量樣本進行標記以獲取足夠的訓練樣本，代價高，效率低。因此，根據實際需要研究人員又提出了基于半監(jiān)督學習的分類方法。這類方法能夠自動（或半自動）地對有標簽樣本和無標簽樣本的混合樣本集進行數據分類，在提高

2、效率的同時擴大了算法的適用范圍。然而，半監(jiān)督支持向量機學習是機器學習領域中相對比較新的理論，它在很多方面尚不成熟、不完善，需要進一步地研究和改進。本文主要從半監(jiān)督支持向量機兩分類學習算法、基準學習算法以及多分類學習算法三方面對半監(jiān)督支持向量機學習算法展開研究，充分發(fā)揮半監(jiān)督支持向量機的優(yōu)勢和潛力。
　　 首先，針對半監(jiān)督支持向量機學習算法訓練時間代價大的問題，提出最小二乘支持向量機半監(jiān)督學習算法。在迭代過程中以最小二乘支持向量機

3、為學習模型，充分利用和發(fā)揮最小二乘支持向量機學習算法訓練速度快、效率高等優(yōu)點提高半監(jiān)督支持向量機算法的訓練速度。然后，采用區(qū)域標注法對無標簽樣本進行迭代的標注，提高無標簽樣本的標注效率，在迭代過程中將有標簽樣本集和半標記樣本集一同進行訓練。仿真實驗結果表明，最小二乘支持向量機半監(jiān)督學習算法可以有效的降低訓練時間。
　　 其次，針對由局部最優(yōu)化引起的半監(jiān)督支持向量機學習算法在同一數據集上參數敏感、最優(yōu)解差異大，以及基于全局最優(yōu)化技

4、術的基準學習算法時間復雜度高的問題，提出一種改進的分枝定界半監(jiān)督支持向量機學習算法。該算法重新對結點的下界進行定義，將偽對偶函數的值作為結點的下界，避免了計算量較大的0-1二次規(guī)劃，降低了各結點計算下界的時間復雜度；同時，依據無標簽樣本的樣本可信度確定分枝結點，避免了多次支持向量機訓練，提高了算法的訓練速度。仿真實驗分析表明該算法同其它半監(jiān)督支持向量機學習算法相比具有精度高、參數不敏感的優(yōu)點，并且具有較快的訓練速度。本文利用多主機協(xié)同訓

5、練實現(xiàn)算法的并行化，提出一種分枝定界半監(jiān)督支持向量機并行學習算法，仿真實驗表明該算法具有較好的加速比，在訓練速度上有明顯的提升。
　　 最后，針對半監(jiān)督學習中有標簽樣本數據較少，多分類問題實施困難，多分類精度低的問題，提出一種半監(jiān)督支持向量數據域描述多分類學習算法。算法通過定義非目標樣本的隸屬度得到非目標樣本的接受標簽與拒絕標簽，在此基礎上采用半監(jiān)督支持向量數據域描述學習算法構造多個超球體，將一個k分類問題轉化為k個單分類問題，