新型雙隱層極限學習機及其應用.pdf

1、近年來，智能手表，智能手環(huán)等一系列可穿戴式智能設備逐漸受到越來越多人們的關注和喜愛。精致小巧是這些便攜設備的優(yōu)點。但是，不可否認的是，在這眾多的可穿戴設備之中，總有一些設備因為存儲空間有限而達不到令客戶滿意的分類精度。為了解決這個問題，本文提出了一種新型的雙隱層極限學習機（Two-hidden-layer Extreme Learning Machine，TELM）。這種算法是在基本的極限學習機（Extreme Learning Mac

2、hine，ELM）的單隱層前饋神經(jīng)網(wǎng)絡（Single-hidden-layer Feedforward Neural Network，SLFN）結構的基礎之上，又添加了一個隱層。所以，從結構上來說，它屬于一種雙隱層前饋神經(jīng)網(wǎng)絡（Two-hidden-layer Feedforward Neural Network，TLFN）算法。具體說來，就是它的第一層隱層的參數(shù)（輸入層與第一層隱層的之間的連接權值、第一層隱層的偏置）同基本的極限學習機

3、一樣是隨機產(chǎn)生的。而它的第二層隱層的參數(shù)（第一層隱層與第二層隱層的之間的連接權值、第二層隱層的偏置）是通過我們引入的一種新穎的參數(shù)求解方法計算得出的。實驗表明，相比于ELM及一些多隱層ELM算法，該算法僅需設置較少的隱層節(jié)點，就可達到較高的精度，并且具有較強的魯棒性?？梢詾橐恍┍銛y智能設備在有限的存儲容量條件下，精度如何大幅提高提供了一條行之有效的解決方案。算法的實用性較強。本文主要完成了以下工作：
　　首先，簡述了極限學習機的研

4、究背景及意義。
　　其次，著重介紹了極限學習機的一些基本原理及概念，并對傳統(tǒng)的極限學習機的優(yōu)缺點進行了較為詳細的分析與論述。在此基礎上，又對近年來不斷涌現(xiàn)的一些極限學習機的改進算法和與之相關的應用進行了綜述。
　　再次，重點論述了本文提出的一種新型的雙隱層極限學習機（Two-hidden-layer Extreme Learning Machine，TELM）的算法思想，基本原理及相關推導等。在這一算法中，它第一層隱層的參數(shù)

5、同傳統(tǒng)的極限學習機一樣是隨機產(chǎn)生的，這樣做既保留了傳統(tǒng)的ELM的特色，又保證了算法的較快的訓練速度。而 TELM第二層隱層的參數(shù)的求解是通過我們引入的一種新穎的參數(shù)求解方法算出的。通過這種參數(shù)求解方法來尋求一個輸入空間與輸出空間的更好的映射關系，從而提高算法的精度。在實驗測評部分，通過對3個不同性質的優(yōu)化函數(shù)進行的擬合實驗、對 Vowel、Satellite、Segment、Pendigits、Optdigits這5個不同維數(shù)，不同類別

6、數(shù)的簡單數(shù)據(jù)集以及對一個數(shù)據(jù)量較大，維數(shù)較高的復雜數(shù)據(jù)集——MNIST數(shù)據(jù)集進行的分類實驗，表明：該算法僅需設置較少的隱層節(jié)點，就可獲得較高的訓練精度和測試精度，同時，也證明了該算法的可行性和實用性。
　　最后，為了測試這種雙隱層極限學習機解決實際問題的能力，又將該算法應用到了新興的腕部靜脈認證系統(tǒng)（Wrist Vein Recognition System）中去，通過與傳統(tǒng)的ELM作對比實驗，結果表明：相比于ELM，TELM不但