版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
1、隨著網(wǎng)絡(luò)的發(fā)展,許多應(yīng)用領(lǐng)域獲取新的數(shù)據(jù)變得很容易。但是對(duì)于傳統(tǒng)的批量學(xué)習(xí)技術(shù)來說,如何從日益增加的新數(shù)據(jù)中得到有用信息是一個(gè)難題。隨著數(shù)據(jù)規(guī)模的不斷增加,對(duì)時(shí)間和空間的需求也會(huì)迅速增加,最終會(huì)導(dǎo)致學(xué)習(xí)的速度趕不上數(shù)據(jù)更新的速度。機(jī)器學(xué)習(xí)是一個(gè)解決此問題的有效方法。然而傳統(tǒng)的機(jī)器學(xué)習(xí)是批量學(xué)習(xí)方式,需要在進(jìn)行學(xué)習(xí)之前,準(zhǔn)備好所有的數(shù)據(jù)。為了能滿足在線學(xué)習(xí)的需求,需要拋棄以前的學(xué)習(xí)結(jié)果,重新訓(xùn)練和學(xué)習(xí),這對(duì)時(shí)間和空間的需求都很高,因此,迫
2、切需要研究增量學(xué)習(xí)方法,可以漸進(jìn)的進(jìn)行知識(shí)更新,且能修正和加強(qiáng)以前的知識(shí),使得更新后的知識(shí)能適應(yīng)新增加的數(shù)據(jù)。
本文分別對(duì)奇異值分解和模糊神經(jīng)網(wǎng)絡(luò)的增量學(xué)習(xí)進(jìn)行了深入地研究和探討,主要工作及貢獻(xiàn)如下:
1.提出無協(xié)方差的增量奇異值分解
傳統(tǒng)的奇異值分解(Singular Value Decomposition:SVD)采用批量計(jì)算方法,需要在計(jì)算之前將所有數(shù)據(jù)準(zhǔn)備好,因此無法滿足在線處理需求。本
3、文提出了一種無協(xié)方差奇異值分解(Candid Covariance Incremental Singular Value Decomposition: CCISVD)方法。該方法通過當(dāng)前樣本估計(jì)樣本協(xié)方差陣,提出了從順序到達(dá)的樣本中增量求取協(xié)方差陣的第一個(gè)特征向量的方法,從而避免了樣本協(xié)方差陣的求解,從理論和直觀上分析了該方法的可行性。在求解其他特征值的過程中,從當(dāng)前估計(jì)的特征向量的補(bǔ)空間中尋找樣本,從而始終保證了求取的特征向量的正交性
4、,節(jié)約了時(shí)間和空間成本。
2.提出免修剪連續(xù)增量學(xué)習(xí)模糊神經(jīng)網(wǎng)絡(luò)模型
模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)識(shí)別很耗時(shí)。為了避免產(chǎn)生冗余規(guī)則,通過把修剪策略引入模糊規(guī)則的增加過程來提高學(xué)習(xí)效率,本文提出一種免修剪增量連續(xù)學(xué)習(xí)算法,利用誤差下降率,來定義規(guī)則對(duì)系統(tǒng)的輸出貢獻(xiàn),作為規(guī)則的增長標(biāo)準(zhǔn),從而在規(guī)則的增長過程中避免產(chǎn)生冗余規(guī)則。同時(shí),由于計(jì)算規(guī)則對(duì)系統(tǒng)的輸出貢獻(xiàn)是根據(jù)當(dāng)前輸入數(shù)據(jù),從而實(shí)現(xiàn)了增量學(xué)習(xí)。
3.提出
5、優(yōu)化修剪的增量極速學(xué)習(xí)模糊神經(jīng)網(wǎng)絡(luò)算法
ELM(Extreme Learning Machine)是為訓(xùn)練單層前饋人工神經(jīng)網(wǎng)絡(luò)(Singular Layer Fuzzy Neural,SLFNs)的一個(gè)簡單而有效的學(xué)習(xí)算法,該網(wǎng)絡(luò)的神經(jīng)元隨機(jī)產(chǎn)生。理論和實(shí)驗(yàn)都表明ELM準(zhǔn)確而快速。為了能實(shí)現(xiàn)在線增量學(xué)習(xí),本文對(duì)ELM進(jìn)行了擴(kuò)展。該算法中,模糊規(guī)則的前件參數(shù)和初始規(guī)則數(shù)量隨機(jī)產(chǎn)生,然后使用SVD對(duì)規(guī)則按照重要性排序,通過留一
6、法(Leave-One-Out; LOO)選擇出最佳的模糊規(guī)則數(shù),最后模糊規(guī)則的后件參數(shù)通過基于風(fēng)險(xiǎn)最小化分析計(jì)算得出。仿真實(shí)驗(yàn)結(jié)果表明,與其他算法相比有較好的魯棒性,在準(zhǔn)確率和計(jì)算速度上都具有優(yōu)勢(shì)。
4.提出基于規(guī)則影響的自適應(yīng)增量模糊神經(jīng)網(wǎng)絡(luò)模型
在模糊神經(jīng)網(wǎng)絡(luò)中,一個(gè)模糊規(guī)則可能初始時(shí)比較活躍,之后慢慢變得對(duì)系統(tǒng)的貢獻(xiàn)很小。本文提出一種基于規(guī)則影響的增量學(xué)習(xí)模糊神經(jīng)網(wǎng)絡(luò)(Self Adaptive In
7、cremental Learning-Fuzzy Neural Network),引入模糊規(guī)則影響的概念,基于當(dāng)前數(shù)據(jù)計(jì)算模糊規(guī)則對(duì)系統(tǒng)輸出的影響,作為模糊規(guī)則增長或刪除的標(biāo)準(zhǔn)。并且將規(guī)則的增長標(biāo)準(zhǔn)同系統(tǒng)的準(zhǔn)確性聯(lián)系起來,只有該模糊規(guī)則對(duì)系統(tǒng)的貢獻(xiàn)值大于某個(gè)閾值,才考慮增加一條新規(guī)則,同時(shí)還檢測已有規(guī)則庫中規(guī)則對(duì)系統(tǒng)的影響值,如果低于某個(gè)閾值,說明該規(guī)則已經(jīng)變得不再活躍,則刪除該規(guī)則。無論是新增規(guī)則還是已有規(guī)則都通過擴(kuò)展的卡爾曼算法更新
8、參數(shù)。通過仿真實(shí)驗(yàn)表明該方法能獲得比其他高代價(jià)的技術(shù)更簡單的結(jié)構(gòu)、更短的訓(xùn)練時(shí)間和較好的泛化性能。
5.基于增量模糊神經(jīng)網(wǎng)絡(luò)和小波的人臉識(shí)別
為了能提高樣本質(zhì)量從而提高識(shí)別準(zhǔn)確率,本文提出一種新的提取人臉圖像特征的方法。首先使用Harr小波對(duì)人臉進(jìn)行分解,小波變換后的高頻部分是人臉很重要的特征,這部分將作為人臉特征向量保存起來。然后使用Fisher線性鑒別分析(Fisher Linear Discrimina
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 基于神經(jīng)網(wǎng)絡(luò)集成的增量式學(xué)習(xí).pdf
- 基于RBF神經(jīng)網(wǎng)絡(luò)的集成增量學(xué)習(xí)方法研究.pdf
- 模糊支持向量機(jī)的增量學(xué)習(xí)算法研究.pdf
- 基于決策邏輯的增量學(xué)習(xí)算法研究.pdf
- 覆蓋算法的增量學(xué)習(xí)研究.pdf
- 基于SOM神經(jīng)網(wǎng)絡(luò)和模糊聚類的Web日志增量挖掘研究.pdf
- 復(fù)雜網(wǎng)絡(luò)社區(qū)檢測的種群增量學(xué)習(xí)算法研究.pdf
- 模糊神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法的設(shè)計(jì).pdf
- 基于SVM的人臉識(shí)別增量學(xué)習(xí)算法研究.pdf
- 基于負(fù)相關(guān)神經(jīng)網(wǎng)絡(luò)集成的增量學(xué)習(xí)及其在人臉檢測方面的應(yīng)用.pdf
- 基于協(xié)同PSO算法的模糊辨識(shí)與神經(jīng)網(wǎng)絡(luò)學(xué)習(xí).pdf
- AUV模糊神經(jīng)網(wǎng)絡(luò)混合學(xué)習(xí)算法的控制研究.pdf
- 支持向量機(jī)增量學(xué)習(xí)算法研究.pdf
- 基于增量學(xué)習(xí)SVM分類算法的研究與應(yīng)用.pdf
- 模糊神經(jīng)網(wǎng)絡(luò)的性能及其學(xué)習(xí)算法研究.pdf
- 基于超限學(xué)習(xí)機(jī)的幾種增量算法研究.pdf
- 增量支持向量機(jī)學(xué)習(xí)算法研究.pdf
- 支持向量機(jī)的增量學(xué)習(xí)算法研究.pdf
- 基于增量學(xué)習(xí)的視頻跟蹤.pdf
- 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法研究.pdf
評(píng)論
0/150
提交評(píng)論