基于深度學(xué)習(xí)的分類預(yù)測方法研究及應(yīng)用.pdf

1、深度學(xué)習(xí)是人工智能的一個(gè)重要分支，也是近年來數(shù)據(jù)挖掘的新方向。深度學(xué)習(xí)脫胎于人工神經(jīng)網(wǎng)絡(luò)，其隱藏層層數(shù)比淺層神經(jīng)網(wǎng)絡(luò)更多，這也是“深度”一詞的由來。與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)不同，深度學(xué)習(xí)增加了無監(jiān)督學(xué)習(xí)。深度學(xué)習(xí)在分類預(yù)測的應(yīng)用上有很大的研究空間。
　　本文的目的是研究深度學(xué)習(xí)算法在分類預(yù)測上的應(yīng)用，具體應(yīng)用方向是使用深度學(xué)習(xí)算法根據(jù)學(xué)生開題前的信息預(yù)測學(xué)生寫出優(yōu)秀論文的可能性。通過本文應(yīng)用課題的研究，在開題時(shí)，學(xué)校和導(dǎo)師就可以及時(shí)挖掘出有

2、潛力寫出優(yōu)秀畢業(yè)論文的學(xué)生，然后用接下來的時(shí)間重點(diǎn)培養(yǎng)這些學(xué)生。這一分類預(yù)測應(yīng)用研究可以為擅長處理大數(shù)據(jù)和高維數(shù)據(jù)的深度學(xué)習(xí)算法在面對(duì)數(shù)據(jù)集存有缺陷時(shí)如何發(fā)揮可行性和優(yōu)越性提供參考。
　　本文使用棧式降噪編碼器這種深度學(xué)習(xí)算法進(jìn)行深度學(xué)習(xí)的應(yīng)用。棧式降噪編碼器采用多個(gè)降噪自動(dòng)編碼器疊加的形式構(gòu)成深度學(xué)習(xí)模型的隱藏層，并使用softmax regression分類器作為深度學(xué)習(xí)模型的輸出層。算法的核心是先進(jìn)行無監(jiān)督逐層降噪預(yù)訓(xùn)練，在

3、無監(jiān)督預(yù)訓(xùn)練的基礎(chǔ)上進(jìn)行有監(jiān)督學(xué)習(xí)。深度學(xué)習(xí)應(yīng)用的輸入樣本來源于學(xué)生信息數(shù)據(jù)庫。面對(duì)學(xué)生信息數(shù)量較少，正負(fù)樣本不平衡等問題，本文在數(shù)據(jù)處理經(jīng)驗(yàn)不足的情況，參考批量學(xué)習(xí)和在線學(xué)習(xí)的優(yōu)缺點(diǎn)，充分利用冗余樣本，增大少數(shù)類樣本的比重，解決樣本數(shù)量不足的問題。本文還采用人工重復(fù)屬性的方式來增加樣本維度。
　　本文中深度學(xué)習(xí)的預(yù)測結(jié)果可以輕易達(dá)到90％以上的正確率。本文給出了不同參數(shù)設(shè)置下算法具體的分類預(yù)測結(jié)果，這些結(jié)果可以清楚的說明深度學(xué)習(xí)

4、參數(shù)對(duì)分類預(yù)測結(jié)果的影響。本文還給出了深度學(xué)習(xí)算法在樣本冗余和屬性增維下的分類預(yù)測結(jié)果，以此來說明大數(shù)據(jù)和高維數(shù)據(jù)可以給深度學(xué)習(xí)更大的探索空間。
　　本文使用學(xué)生信息數(shù)據(jù)集和不需要進(jìn)行數(shù)據(jù)處理的UCI機(jī)器學(xué)習(xí)數(shù)據(jù)集作為深度學(xué)習(xí)的輸入數(shù)據(jù)集。本文通過對(duì)比試驗(yàn)證明了深度學(xué)習(xí)算法比起純粹的無監(jiān)督學(xué)習(xí)算法，純粹的有監(jiān)督學(xué)習(xí)算法，普通的機(jī)器學(xué)習(xí)算法和普通的神經(jīng)網(wǎng)絡(luò)算法具有優(yōu)越性。本文還證明了深度學(xué)習(xí)算法是經(jīng)驗(yàn)?zāi)Ｐ?。?shù)據(jù)集的維度越高，樣本數(shù)量