多類支持向量機算法的研究和改進.pdf

1、支持向量機作為近十年來最為成功的機器學習方法，在很多應(yīng)用領(lǐng)域取得了很好的成績，包括文本分類，手寫字符的識別，人臉識別等等。它和其他機器學習方法最大的不同在于，它遵循了統(tǒng)計學習理論中的一些要求，包括結(jié)構(gòu)風險最小化。從理論上它的期望誤差有一個上界。支持向量機非常成功，但美中不足的是它本質(zhì)上是解決兩類問題的，但實際生活中更多的還是多類問題。用支持向量機解決多類問題仍然需要很多研究工作。 現(xiàn)有的用支持向量機解決多類問題的手段主要有兩種：

2、一是把多類問題轉(zhuǎn)換成為若干兩類問題；二是構(gòu)造真正意義上的多類支持向量機，即把所有數(shù)據(jù)一起考慮。本文對多類支持向量機的原理和實現(xiàn)方法進行了研究，并在此基礎(chǔ)上對算法進行了改進。 在本文中我們提出了兩種改進方案，分別針對多類支持向量機算法中不同的部分：懲罰因子C和子問題。前一種改進方案的主要的想法是考慮類與類之間的關(guān)系，比如類與類之間的距離，并把這種關(guān)系整合到原來的多類支持向量機中。后一種方案的主要想法是平衡多類支持向量機中的各個子問