并行分類算法及其在文本分類中的應(yīng)用.pdf

1、機器學(xué)習(xí)在眾多領(lǐng)域如語音識別、圖像識別、文本分類等都有廣泛應(yīng)用。傳統(tǒng)機器學(xué)習(xí)以串行算法為主。然而，隨著網(wǎng)絡(luò)發(fā)展，信息爆炸，以及單核CPU到達極限，串行算法將越來越難以處理日益增大的數(shù)據(jù)。因此，并行分類算法的研究是當(dāng)前機器學(xué)習(xí)領(lǐng)域的一個重要方向。
　　本文以最小最大模塊化網(wǎng)絡(luò)為工具研究并行分類算法。最小最大模塊化網(wǎng)絡(luò)是一個模塊化的機器學(xué)習(xí)框架。它的特點是模塊化與并行化。本文針對兩種基于最小最大模塊化網(wǎng)絡(luò)的分類算法——高斯零交叉函數(shù)最

2、小最大模塊化網(wǎng)絡(luò)（M3-GZC）和最小最大模塊化LIBLINEAR（M3-LIBLINEAR）——進行研究。
　　M3-GZC是一種基于實例的分類算法。它與其他分類算法的區(qū)別是它提供了輸出“不知道”的能力。這種能力對于一些錯分代價較高的任務(wù)十分重要。為了加速M3-GZC，在先前研究工作中已提出了結(jié)構(gòu)修剪的方法，通過去除M3-GZC中的冗余模塊，加速了M3-GZC的分類速度。本文提出一種近似修剪的方法，該方法可能會去除非冗余模塊，但

3、是卻能極大地提升M3-GZC的分類速度。通過雙螺旋問題的實驗驗證了M3-GZC近似修剪幾乎不會影響M3-GZC的分類結(jié)果。本文還設(shè)計了基于MapReduce的M3-GZC分類算法，并通過實驗驗證了基于MapReduce并行化后的M3-GZC的加速效果。
　　本文針對文本分類問題提出了M3-LIBLINEAR。M3-LIBLINEAR是以LIBLINEAR為基本分類器的最小最大模塊化網(wǎng)絡(luò)。本文在NTCIR-5日文專利數(shù)據(jù)集上設(shè)計實驗