SVR與K-LSE在系統(tǒng)辯識中的應(yīng)用.pdf

1、支持向量機是九十年代中期發(fā)展起來的一種新的機器學(xué)習(xí)技術(shù)，它是以統(tǒng)計學(xué)習(xí)理論為基礎(chǔ)，重點研究在小樣本條件下的統(tǒng)計規(guī)律和學(xué)習(xí)方法。相對于傳統(tǒng)的以足夠多的樣本數(shù)為前提的統(tǒng)計學(xué)，它具有很多的優(yōu)點，能夠在樣本容量有限的情況下取得比較理想的效果，很好地解決了小樣本、非線性、局部極小值等實際問題，成為近代學(xué)者們研究的熱點。 系統(tǒng)辨識是現(xiàn)代控制理論一個相當(dāng)重要的部分，其應(yīng)用非常廣泛。傳統(tǒng)的辨識方法如極大似然法、最小二乘法等在線性系統(tǒng)中的應(yīng)用已經(jīng)

2、相當(dāng)成熟，但是對于具有明顯的非線性特性的對象，用線性模型是無法描述對象的特征的。新發(fā)展起來的神經(jīng)網(wǎng)絡(luò)亦有許多不足[]25 29 ?，所以本文針對支持向量機與最小二乘法的優(yōu)缺點提出了K-LSE算法。本文首先比較系統(tǒng)地介紹了統(tǒng)計學(xué)習(xí)理論支持向量機的基本原理，重點討論了支持向量機的核變換思想。 其次介紹了經(jīng)典的最小二乘估計理論，并在支持向量機核變換思想的基礎(chǔ)之上通過理論推導(dǎo)，提出了K-LSE 算法，并從直觀上給出了它的幾何意義。K-L