支持向量回歸機理論及其工業(yè)應用研究.pdf

1、基于數(shù)據(jù)的機器學習是現(xiàn)代智能信息處理技術(shù)十分重要的一個方面,主要研究如何從一些觀測數(shù)據(jù)出發(fā)得出目前尚不能通過原理分析得到的規(guī)律,從而利用這些規(guī)律去分析、認識客觀對象,并對未來數(shù)據(jù)或無法觀測的數(shù)據(jù)進行預測。
　　支持向量機是在統(tǒng)計學習理論基礎上發(fā)展起來的一種新的機器學習方法。它最先由Vapnik及其合作者在20世紀90年代提出,近年來無論是從理論研究、算法實現(xiàn)還是應用方面都有了突飛猛進的發(fā)展。
　　然而,作為一種相對年輕的技術(shù)

2、,支持向量機在許多方面仍不完善。因此進一步發(fā)展和完善支持向量機的理論和方法,以及拓展支持向量機在實際中的應用范圍具有十分重要的意義。本文針對支持向量回歸機理論和應用兩方面進行研究和探索,主要工作包括以下幾個方面:
　　1)提出了一種基于信息幾何的支持向量回歸機核函數(shù)構(gòu)建算法。支持向量機的性能在很大程度上依賴于核函數(shù)的選取,然而目前對于核函數(shù)的選擇還缺乏理論指導。在從信息幾何角度分析核函數(shù)幾何結(jié)構(gòu)的基礎上,提出一種核函數(shù)構(gòu)建算法,使

3、得核函數(shù)能充分利用樣本數(shù)據(jù)的信息,從而提高支持向量回歸機的性能;在鋼水溫度預報中的應用表明了方法的有效性。
　　2)證明了核框架下SILF-SVR與普通Kriging的等價性關(guān)系。從數(shù)值分析的角度看,支持向量回歸機是一種數(shù)據(jù)插值方法。在給出一種由新的“統(tǒng)一”損失函數(shù)(SILF)得到的支持向量回歸機的“統(tǒng)一”表達式(SILF-SVR)后,證明了其與另一種數(shù)據(jù)插值方法——普通Kriging的等價性;并根據(jù)兩者的等價性關(guān)系給出一種核函數(shù)

4、參數(shù)的選擇方法。
　　3)提出了一種基于領(lǐng)域知識的支持向量回歸機算法。標準的支持向量機是完全基于數(shù)據(jù)的,也即是說,由標準的支持向量機算法得到的模型與問題的領(lǐng)域知識無關(guān),完全取決于訓練數(shù)據(jù)本身。然而實際中我們總可以得到一定的領(lǐng)域知識,為了解決此問題,提出了一種集成領(lǐng)域知識的訓練算法;在此基礎之上給出了一種信息融合的框架。
　　4)研究了基于區(qū)間信息的支持向量回歸機。在實際獲取樣本時,由于受到各種條件的限制，樣本數(shù)據(jù)一般是不精確