SVR與K-LSE在系統(tǒng)辯識(shí)中的應(yīng)用.pdf

1、支持向量機(jī)是九十年代中期發(fā)展起來(lái)的一種新的機(jī)器學(xué)習(xí)技術(shù)，它是以統(tǒng)計(jì)學(xué)習(xí)理論為基礎(chǔ)，重點(diǎn)研究在小樣本條件下的統(tǒng)計(jì)規(guī)律和學(xué)習(xí)方法。相對(duì)于傳統(tǒng)的以足夠多的樣本數(shù)為前提的統(tǒng)計(jì)學(xué)，它具有很多的優(yōu)點(diǎn)，能夠在樣本容量有限的情況下取得比較理想的效果，很好地解決了小樣本、非線性、局部極小值等實(shí)際問(wèn)題，成為近代學(xué)者們研究的熱點(diǎn)。 系統(tǒng)辨識(shí)是現(xiàn)代控制理論一個(gè)相當(dāng)重要的部分，其應(yīng)用非常廣泛。傳統(tǒng)的辨識(shí)方法如極大似然法、最小二乘法等在線性系統(tǒng)中的應(yīng)用已經(jīng)

2、相當(dāng)成熟，但是對(duì)于具有明顯的非線性特性的對(duì)象，用線性模型是無(wú)法描述對(duì)象的特征的。新發(fā)展起來(lái)的神經(jīng)網(wǎng)絡(luò)亦有許多不足[]25 29 ?，所以本文針對(duì)支持向量機(jī)與最小二乘法的優(yōu)缺點(diǎn)提出了K-LSE算法。本文首先比較系統(tǒng)地介紹了統(tǒng)計(jì)學(xué)習(xí)理論支持向量機(jī)的基本原理，重點(diǎn)討論了支持向量機(jī)的核變換思想。 其次介紹了經(jīng)典的最小二乘估計(jì)理論，并在支持向量機(jī)核變換思想的基礎(chǔ)之上通過(guò)理論推導(dǎo)，提出了K-LSE 算法，并從直觀上給出了它的幾何意義。K-L