深度學(xué)習(xí)在預(yù)后評(píng)估中的應(yīng)用研究.pdf

1、深度學(xué)習(xí)(Deep Learning，DL)包含多個(gè)隱藏層，是一種模擬人腦機(jī)制，將數(shù)據(jù)從底層映射到高層進(jìn)行特征提取的一個(gè)學(xué)習(xí)過(guò)程。由于其在復(fù)雜函數(shù)表示和復(fù)雜數(shù)據(jù)分類上具有較好的效果和效率，已成功地應(yīng)用于語(yǔ)言識(shí)別、圖像識(shí)別等領(lǐng)域。深度學(xué)習(xí)的學(xué)習(xí)方法分為有監(jiān)督和無(wú)監(jiān)督學(xué)習(xí)。其中，卷積神經(jīng)網(wǎng)絡(luò)屬于有監(jiān)督學(xué)習(xí)模型;深度置信網(wǎng)絡(luò)屬于無(wú)監(jiān)督學(xué)習(xí)模型，它是深度學(xué)習(xí)中的最經(jīng)典的學(xué)習(xí)模型，本文主要針對(duì)深度置信網(wǎng)絡(luò)進(jìn)行深入研究。
　　傳統(tǒng)的深度置信網(wǎng)

2、絡(luò)利用重構(gòu)誤差作為網(wǎng)絡(luò)評(píng)價(jià)指標(biāo)。雖然重構(gòu)誤差能在一定程度上反應(yīng)網(wǎng)絡(luò)對(duì)訓(xùn)練樣本的擬合度，但并不可靠。最大信息系數(shù)(MIC)能用來(lái)確定兩個(gè)屬性間的相關(guān)度，并較穩(wěn)健，不易受異常值的影響，因此可利用MIC作為網(wǎng)絡(luò)評(píng)價(jià)指標(biāo)。于是，本文提出一種基于MIC的深度置信網(wǎng)絡(luò)方法，一方面用MIC對(duì)數(shù)據(jù)進(jìn)行降維預(yù)處理，保留相關(guān)度較大的屬性，提高數(shù)據(jù)與網(wǎng)絡(luò)的擬合度;另一方面將MIC作為網(wǎng)絡(luò)評(píng)價(jià)標(biāo)準(zhǔn)，改進(jìn)重構(gòu)誤差的不可靠性。在手寫識(shí)別數(shù)據(jù)集MNIST和USPS上

3、進(jìn)行仿真實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明基于MIC的深度置信網(wǎng)絡(luò)能有效降低網(wǎng)絡(luò)分類誤差。
　　研究中還發(fā)現(xiàn)，深度置信網(wǎng)絡(luò)中的網(wǎng)絡(luò)參數(shù)，如學(xué)習(xí)率，較難設(shè)定，當(dāng)值過(guò)大時(shí)，收斂速度較快但易造成網(wǎng)絡(luò)不穩(wěn)定，當(dāng)值偏小時(shí)，雖可避免網(wǎng)絡(luò)的不穩(wěn)定性，但收斂速度較慢。因此，在網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程中，找到一個(gè)適當(dāng)?shù)膶W(xué)習(xí)率是非常重要的。傳統(tǒng)方法往往是根據(jù)經(jīng)驗(yàn)或者多次學(xué)習(xí)獲得網(wǎng)絡(luò)參數(shù)，遺傳算法可以通過(guò)其自身全局最優(yōu)解的特性，尋找網(wǎng)絡(luò)最佳參數(shù)。因次，本文提出了一種基于遺傳算法

4、的深度置信網(wǎng)絡(luò)參數(shù)自尋優(yōu)方法，一方面通過(guò)遺傳算法中選擇交叉變異等算子多步迭代找到最佳學(xué)習(xí)率，提高網(wǎng)絡(luò)學(xué)習(xí)速率以及網(wǎng)絡(luò)的精度;另一方面保留能量值最小情況下的網(wǎng)絡(luò)參數(shù)，初始化網(wǎng)絡(luò)，提高網(wǎng)絡(luò)與訓(xùn)練樣本的擬合度。在手寫識(shí)別數(shù)據(jù)集MNIST和USPS上進(jìn)行仿真實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明了基于遺傳算法的深度置信網(wǎng)絡(luò)收斂速率較快且精度高。
　　ICU預(yù)后評(píng)估對(duì)于緩解醫(yī)療資源的緊缺，以及在合理分配資源上具有重要的意義。本文將深度置信網(wǎng)絡(luò)算法應(yīng)用于ICU數(shù)