幾種典型機(jī)器學(xué)習(xí)方法及其應(yīng)用研究.pdf

1、隨著信息技術(shù)的高速發(fā)展,人們已在很多應(yīng)用領(lǐng)域積累了大量的數(shù)據(jù),對(duì)這些數(shù)據(jù)進(jìn)行分析并學(xué)習(xí)數(shù)據(jù)中蘊(yùn)含的知識(shí),成為了這些應(yīng)用領(lǐng)域的共同要求。機(jī)器學(xué)習(xí)是當(dāng)前人工智能領(lǐng)域的熱點(diǎn)研究方向之一,它本身也是一個(gè)應(yīng)用驅(qū)動(dòng)的學(xué)科。已有的研究成果表明,很多應(yīng)用問(wèn)題采用機(jī)器學(xué)習(xí)的方法來(lái)解決是一種行之有效的渠道或手段。本文針對(duì)若干典型的應(yīng)用問(wèn)題,采用或提出合適的機(jī)器學(xué)習(xí)方法進(jìn)行處理,取得了較好的效果。本文工作主要包括以下四個(gè)方面的內(nèi)容:1.類別不平衡學(xué)習(xí)、代價(jià)敏

2、感學(xué)習(xí)及其在交叉銷(xiāo)售上的應(yīng)用研究。交叉銷(xiāo)售已成為企業(yè)盈利的重要手段,如何解決其數(shù)據(jù)中普遍同時(shí)存在的類別不平衡和代價(jià)敏感問(wèn)題是準(zhǔn)確預(yù)測(cè)交叉銷(xiāo)售客戶的關(guān)鍵,也是難點(diǎn)之一。為解決上述應(yīng)用問(wèn)題,本文結(jié)合類別不平衡學(xué)習(xí)和代價(jià)敏感學(xué)習(xí)技術(shù),提出了一種使用最優(yōu)閾值投票的方法。該方法首先結(jié)合過(guò)抽樣和欠抽樣技術(shù)獲取多個(gè)類別平衡的訓(xùn)練數(shù)據(jù)集,然后在每個(gè)平衡數(shù)據(jù)集上分別訓(xùn)練得到多個(gè)底層學(xué)習(xí)器,最后利用所提出的基于最優(yōu)閾值的投票集成方法集成底層學(xué)習(xí)器得到?jīng)Q策模

3、型。在PAKDD2007數(shù)據(jù)挖掘競(jìng)賽的交叉銷(xiāo)售數(shù)據(jù)集上的實(shí)驗(yàn)驗(yàn)證了該方法的有效性。
　　 2.半監(jiān)督學(xué)習(xí)及其在指紋圖像分割上的應(yīng)用研究。指紋圖像分割是自動(dòng)指紋識(shí)別系統(tǒng)預(yù)處理中的關(guān)鍵技術(shù)之一。傳統(tǒng)的分割方法需要大量已標(biāo)記的指紋圖像作為訓(xùn)練數(shù)據(jù),但實(shí)際應(yīng)用中獲取標(biāo)記樣本比較繁瑣和耗時(shí)。本文根據(jù)半監(jiān)督學(xué)習(xí)的思想,提出了一種基于協(xié)同訓(xùn)練的指紋圖像分割方法,以綜合利用已標(biāo)記和未標(biāo)記的指紋圖像。該方法在基于像素水平的Coherence、Me

4、an、Variance特征體系下,使用標(biāo)記盒和支持向量機(jī)作為基分類器進(jìn)行協(xié)同訓(xùn)練。在FVC2002指紋庫(kù)上的實(shí)驗(yàn)結(jié)果表明,該方法能夠在標(biāo)記信息較少的情況下取得較好的性能,并且在處理低質(zhì)量指紋圖像時(shí)也表現(xiàn)出了較強(qiáng)的魯棒性。
　　 3.距離度量學(xué)習(xí)及其在基于內(nèi)容的圖像檢索(content-basedimageretrieval,CBIR)上的應(yīng)用研究。在CBIR應(yīng)用中,一個(gè)關(guān)鍵步驟就是度量圖像間的距離或相似度。距離度量學(xué)習(xí)可以為給定

5、的任務(wù)學(xué)習(xí)到恰當(dāng)?shù)木嚯x度量準(zhǔn)則并已被成功地應(yīng)用于很多領(lǐng)域。然而,現(xiàn)有的多數(shù)距離度量學(xué)習(xí)均是離線式的方法,并不適用于CBIR的在線應(yīng)用環(huán)境；現(xiàn)有的少數(shù)在線式距離度量學(xué)習(xí)方法也無(wú)法有效地利用圖像庫(kù)中充裕的未標(biāo)記圖像信息。為解決上述問(wèn)題,本文提出了一種在線式的半監(jiān)督距離度量學(xué)習(xí)方法并應(yīng)用至CBIR中。該方法針對(duì)每個(gè)用戶查詢及其后續(xù)的相關(guān)反饋學(xué)習(xí)一個(gè)距離度量準(zhǔn)則。檢索任務(wù)被設(shè)計(jì)成一系列的凸優(yōu)化問(wèn)題,本文也給出了閉式解以實(shí)現(xiàn)快速求解。該方法根據(jù)用

6、戶的查詢和反饋信息來(lái)產(chǎn)生約束信息,并基于Qsim的思想有效利用了圖像庫(kù)中的未標(biāo)記圖像。在COREL圖像庫(kù)上的實(shí)驗(yàn)也驗(yàn)證了該方法的有效性。
　　 4.相關(guān)特征映射及其在CBIR上的應(yīng)用研究。CBIR系統(tǒng)的最終目的就是依據(jù)用戶的查詢?yōu)橛脩羲阉飨嚓P(guān)圖像,其搜索的準(zhǔn)確性和可靠性在很大程度上取決于系統(tǒng)內(nèi)部的排序方法。本文提出了一種基于相關(guān)特征映射技術(shù)的排序方法。分析顯示,映射之后的空間能更好地適用于CBIR的排序任務(wù)。本文也設(shè)計(jì)了一個(gè)新的