機(jī)器學(xué)習(xí)及其神經(jīng)網(wǎng)絡(luò)分類器優(yōu)化設(shè)計(jì).pdf

1、機(jī)器學(xué)習(xí)以知識(shí)的自動(dòng)獲取和產(chǎn)生為研究目標(biāo),是人工智能領(lǐng)域研究的熱點(diǎn)問題之一.分類器的優(yōu)化設(shè)計(jì)一直是機(jī)器學(xué)習(xí)、模式識(shí)別和數(shù)據(jù)挖掘等領(lǐng)域研究的核心問題,它在圖像識(shí)別、語(yǔ)音理解、自然語(yǔ)言處理、醫(yī)療診斷及Web頁(yè)面的分類等領(lǐng)域具有廣泛的應(yīng)用.如何提高分類器對(duì)環(huán)境的適應(yīng)能力,是分類器優(yōu)化設(shè)計(jì)的關(guān)鍵問題.應(yīng)用機(jī)器學(xué)習(xí)方法實(shí)現(xiàn)分類器的優(yōu)化設(shè)計(jì),是機(jī)器學(xué)習(xí)和人工智能界的一個(gè)重要研究課題. 本文以機(jī)器學(xué)習(xí)及其在神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)中的應(yīng)用為研究?jī)?nèi)容

2、,重點(diǎn)研究了機(jī)器學(xué)習(xí)在求解神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)中的網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化和樣本選擇優(yōu)化問題的方法.本文的主要研究工作如下: 1)從分類器設(shè)計(jì)的角度出發(fā),討論了機(jī)器學(xué)習(xí)的最新發(fā)展方向及面臨的具體問題,并對(duì)近年來出現(xiàn)的一些新機(jī)器學(xué)習(xí)方法進(jìn)行了分析和研究. 2)研究了流形學(xué)習(xí)的分類器網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化設(shè)計(jì)問題,針對(duì)利用神經(jīng)網(wǎng)絡(luò)對(duì)同一對(duì)象的非線性結(jié)構(gòu)樣本集進(jìn)行分類和識(shí)別時(shí),如何合理地設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)的問題,提出了一個(gè)新穎的基于低維參數(shù)空間估計(jì)的神經(jīng)網(wǎng)

3、絡(luò)結(jié)構(gòu)設(shè)計(jì)的方法.該方法以流形學(xué)習(xí)為基礎(chǔ),結(jié)合samm饑系數(shù)有效估計(jì)出低維參數(shù)空間大小,并將此對(duì)應(yīng)到神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)分組設(shè)計(jì)的隱節(jié)點(diǎn)分組數(shù)目上,從而設(shè)計(jì)出具有一定泛化能力的網(wǎng)絡(luò)結(jié)構(gòu). 3)研究了主動(dòng)學(xué)習(xí)的分類器樣本優(yōu)化選擇準(zhǔn)則:針對(duì)模糊神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)過程中所遇到的樣本采樣與標(biāo)記過程耗時(shí)長(zhǎng)、代價(jià)大的問題,提出了一個(gè)新穎的模糊神經(jīng)網(wǎng)絡(luò)樣本主動(dòng)選擇準(zhǔn)則,以最小一最大邊界法以及確定樣本的不確定性閾值兩個(gè)新概念來定義樣本的選擇標(biāo)準(zhǔn),確保選

4、擇其中信息量盡可能大的樣本進(jìn)行標(biāo)記,使得網(wǎng)絡(luò)設(shè)計(jì)過程中對(duì)未標(biāo)記樣本的標(biāo)記工作量和時(shí)間大為減少. 4)未標(biāo)記樣本的模糊神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì):針對(duì)已標(biāo)記和未標(biāo)記樣本的混合分類問題,提出了一種基于非刻度一多維度收縮的、新的排序一模糊神經(jīng)網(wǎng)絡(luò)分類器模型.該模型首先利用非刻度一多維度收縮法對(duì)輸入的所有樣本進(jìn)行了排序,然后獲得樣本間的相似性測(cè)度值,并利用該相似性測(cè)度值指導(dǎo)隨后的分類器超盒擴(kuò)張與壓縮過程,從而使得該模型不僅提高了對(duì)未標(biāo)記樣本進(jìn)行