改進(jìn)的MILES算法研究.pdf

1、多示例學(xué)習(xí)（Multiple-Instance Learning）不同于傳統(tǒng)的監(jiān)督學(xué)習(xí)，在文本分類(lèi)，圖像處理（自然場(chǎng)景分類(lèi)，基于內(nèi)容的圖像恢復(fù)等）等領(lǐng)域，MIL都得到了大量的應(yīng)用。為了解決各種各樣的MIL問(wèn)題，近些年來(lái)研究者們提出了多種算法，其中經(jīng)典的嵌入空間算法MILES首先利用特征映射來(lái)構(gòu)造包級(jí)特征，再利用支持向量機(jī)SVM來(lái)訓(xùn)練一個(gè)標(biāo)準(zhǔn)的監(jiān)督學(xué)習(xí)分類(lèi)器。MILES算法主要分為特征映射和特征選擇，以及標(biāo)準(zhǔn)的分類(lèi)器構(gòu)造幾個(gè)部分。很多經(jīng)典

2、數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，該算法的分類(lèi)精度較高。然而由于前期較為龐大的數(shù)據(jù)處理量，導(dǎo)致MILES的計(jì)算復(fù)雜度較高，整個(gè)算法的運(yùn)行時(shí)間較長(zhǎng)，另外MILES的抗噪性能也需要改善。因此，本文利用MILES的思路對(duì)其作出改進(jìn)，主要內(nèi)容如下：
　?。?）對(duì)MILES算法和其它常見(jiàn)典型算法進(jìn)行分析。重點(diǎn)分析了其中的幾種典型算法，比如DD，DD-SVM，MILES等等。其中MILES算法將MIL問(wèn)題轉(zhuǎn)化為已有的監(jiān)督學(xué)習(xí)問(wèn)題，利用訓(xùn)練集中的所有單示

3、例，構(gòu)造一個(gè)特征空間。緊接著對(duì)其做特征選擇，最后利用選擇好的特征向量，訓(xùn)練出一個(gè)標(biāo)準(zhǔn)的分類(lèi)器。本文將會(huì)分析MILES的整體思路，以及其中的特征映射和特征選擇兩個(gè)關(guān)鍵問(wèn)題及標(biāo)準(zhǔn)的分類(lèi)器構(gòu)造等。接著結(jié)合實(shí)驗(yàn)結(jié)果分析得出MILES算法的不足之處，為后文提出改進(jìn)算法作出鋪墊。
　?。?）針對(duì)MILES算法計(jì)算復(fù)雜度較高，抗噪性能也不夠好的不足，本文提出了一種基于聚類(lèi)和概率神經(jīng)網(wǎng)絡(luò)的改進(jìn)算法 MIL-CPNN(Multiple-Instan

4、ce Learning via Probabilistic Neural Network based on Clustering)。改進(jìn)算法同樣采用MILES的總體思路，即先獲取包級(jí)特征再構(gòu)造分類(lèi)器。為了避免大量的運(yùn)算，先通過(guò)聚類(lèi)來(lái)得到包級(jí)特征，緊接著利用概率神經(jīng)網(wǎng)絡(luò)的的高效性，將包級(jí)特征送入其中訓(xùn)練來(lái)構(gòu)造分類(lèi)器。通過(guò)實(shí)驗(yàn)結(jié)果對(duì)比表明，該算法有較好的抗噪性能，能比較有效的降低運(yùn)行時(shí)間，也有著不錯(cuò)的分類(lèi)精度。
　?。?）為了進(jìn)一步提

5、高M(jìn)ILES算法的分類(lèi)精度，同時(shí)減小MILES中的嵌入過(guò)程的計(jì)算量，本文還提出了另一種基于神經(jīng)網(wǎng)絡(luò)形式的MIL算法。由于包含了嵌入過(guò)程，同時(shí)又結(jié)合了神經(jīng)網(wǎng)絡(luò)，所以將其命名為MIL-ENN(Multiple-Instance Learning via Embedding and Neural Network)。通過(guò)實(shí)驗(yàn)結(jié)果對(duì)比表明，該算法能夠一定程度的提高分類(lèi)精度，同時(shí)由于嵌入空間運(yùn)算量的減少，相較而言此算法的計(jì)算復(fù)雜度也得到有效的降低。