帶置信度分類器的研究與應(yīng)用.pdf

1、高風(fēng)險(xiǎn)領(lǐng)域的分類問題對(duì)模式分類算法提出以下三個(gè)挑戰(zhàn)： 1)能否設(shè)計(jì)一種分類器模型，使得它的輸出結(jié)果能夠附帶置信度； 2)預(yù)測(cè)輸出的置信度是有效的，應(yīng)該使得算法的準(zhǔn)確率能夠被置信度所控制。 3)算法應(yīng)能夠獨(dú)立地對(duì)每個(gè)測(cè)試數(shù)據(jù)提供相應(yīng)的置信度評(píng)估，也就是說，能夠根據(jù)指定的置信度產(chǎn)生相應(yīng)的預(yù)測(cè)結(jié)果。 針對(duì)上述三個(gè)挑戰(zhàn)，我們引入了基于轉(zhuǎn)導(dǎo)推理和隨機(jī)性檢驗(yàn)的置信預(yù)測(cè)方法來解決這些問題。近年新發(fā)展起來的一致性預(yù)測(cè)器(

2、CP)是這種方法的典型代表。但是，CP在實(shí)踐中的實(shí)用性較差，主要是其固有的運(yùn)算效率低下、以及對(duì)樣本奇異函數(shù)的設(shè)計(jì)缺乏指導(dǎo)性準(zhǔn)則。我們的工作主要是改進(jìn)了CP的理論模型，提出了混合壓縮一致性預(yù)測(cè)器(HCCP)的算法框架及其實(shí)現(xiàn)技術(shù)，使其更適合于實(shí)際應(yīng)用。 HCCP在預(yù)測(cè)性能與計(jì)算效率間取得了一個(gè)較好的折衷，它在處理大數(shù)據(jù)集學(xué)習(xí)問題時(shí)，在保持算法的預(yù)測(cè)效率的同時(shí)大大提高了CP的運(yùn)算效率。HCCP的運(yùn)作特點(diǎn)是將用于學(xué)習(xí)的樣本序列劃分成

3、兩個(gè)部分，并采用兩階段混合壓縮：第一階段先將前一部分序列樣本壓縮成一個(gè)模型，并以知識(shí)的形式保存；第二階段再將上述知識(shí)傳遞給后續(xù)的檢驗(yàn)樣本序列用于置信預(yù)測(cè)。在算法實(shí)現(xiàn)技術(shù)方面，HCCP采用有監(jiān)督的度量學(xué)習(xí)方法來實(shí)現(xiàn)有效信息在兩個(gè)子序列(訓(xùn)練樣本序列和檢驗(yàn)樣本序列)中的傳遞。并分別通過有監(jiān)督核學(xué)習(xí)方法(HCCP-KerNN)和隨機(jī)森林技術(shù)(HCCP-RF)實(shí)現(xiàn)了度量學(xué)習(xí)和樣本奇異函數(shù)的設(shè)計(jì)。我們還從實(shí)驗(yàn)角度展現(xiàn)了HCCP-RF算法在田納西-