SVM中兩類常用分類方法的關系研究.pdf

1、支持向量機是基于統(tǒng)計學習理論，借助最優(yōu)化方法來解決機器學習問題的新工具。最近，支持向量機方法已經成為機器學習領域研究的熱點。它將機器學習問題轉化為求解最優(yōu)化問題，并應用最優(yōu)化理論構造算法來解決凸二次規(guī)劃問題。論文主要是利用最優(yōu)化理論中的原始問題與對偶問題解的關系和KKT條件，對支持向量機中兩類最常用分類方法： SVC和 SVC的解的關系問題進行研究和論證；所得的結果為其它各種方法之間的關系研究提供了理論上、思想上的依據和啟發(fā)。

2、論文首先詳細地論述了支持向量機的基本思想和各種常用的支持向量機方法，然后通過深入分析，發(fā)現現有的方法對各種方法之間的關系從最優(yōu)化理論的角度考慮甚少，因此文章針對這一問題，應用最優(yōu)化理論進行深入研究，主要的研究成果如下： 1) 推導并證明了SVM模型是非嚴格凸的二次規(guī)劃問題時，解可能不唯一性情形，但是各個解的分量之和是相等的； 2) 定義了一個關于 SVC對偶問題的解算子 和參數 的新函數，該函數是參數 定義域內的一個恒取

3、正數的連續(xù)非增的函數；同時在新定義的這個函數和參數 之間建立了一一對應關系，使得 SVC和 SVC有相同的最優(yōu)解集； 3) 論證了 SVC解的存在性問題； 4) 為了證明定理引入并證明了SVM的兩種方法 SVC和 SVC解集相同的充分條件的引理， SVC的對偶問題解集存在的充要條件引理以及解集相同的存在性、唯一性等結論。 目前，對支持向量機的研究主要是針對統(tǒng)計學習理論以及各種應用領域的研究，而從最優(yōu)化理論的角度去