雙正則最大間隔規(guī)劃算法研究.pdf

1、最大間隔規(guī)劃模型能夠將人工智能中的規(guī)劃問題轉化成機器學習中的結構化預測問題。其主要思想是對人類的示教行為進行建模，從而能夠更方便的將人類的經(jīng)驗“傳授”給機器。然而，當問題中的特征維度非常高時，傳統(tǒng)的最大間隔規(guī)劃算法將面臨著一些無關特征的干擾。為了解決高維度的規(guī)劃問題，本文在線性最大間隔規(guī)劃的基礎上同時考慮特征選擇問題，首次提出了基于雙正則最大間隔規(guī)劃算法。
　　本文調查了最大間隔規(guī)劃問題以及特征選擇問題的發(fā)展現(xiàn)狀，并詳細介紹了最大

2、間隔規(guī)劃問題以及特征選擇問題中的相關背景知識。從最大間隔規(guī)劃問題的目標函數(shù)出發(fā)，可以把該問題看成一個帶正則項的結構風險函數(shù)最小化問題。為了使示教學習過程中能夠自動的去除無關特征項，我們在目標函數(shù)上加上一個能夠進行特征選擇的懲罰項，從而形成一個帶有雙正則的結構風險函數(shù)最小化問題。根據(jù)所增加的不同稀疏懲罰項，本文提出了兩種雙正則最大間隔規(guī)劃模型。一種是基于lasso的雙正則最大間隔規(guī)劃，另一種是基于MCP的雙正則最大間隔規(guī)劃。對于這兩種模型