并行分類算法及其在文本分類中的應用.pdf

1、機器學習在眾多領域如語音識別、圖像識別、文本分類等都有廣泛應用。傳統機器學習以串行算法為主。然而，隨著網絡發(fā)展，信息爆炸，以及單核CPU到達極限，串行算法將越來越難以處理日益增大的數據。因此，并行分類算法的研究是當前機器學習領域的一個重要方向。
　　本文以最小最大模塊化網絡為工具研究并行分類算法。最小最大模塊化網絡是一個模塊化的機器學習框架。它的特點是模塊化與并行化。本文針對兩種基于最小最大模塊化網絡的分類算法——高斯零交叉函數最

2、小最大模塊化網絡（M3-GZC）和最小最大模塊化LIBLINEAR（M3-LIBLINEAR）——進行研究。
　　M3-GZC是一種基于實例的分類算法。它與其他分類算法的區(qū)別是它提供了輸出“不知道”的能力。這種能力對于一些錯分代價較高的任務十分重要。為了加速M3-GZC，在先前研究工作中已提出了結構修剪的方法，通過去除M3-GZC中的冗余模塊，加速了M3-GZC的分類速度。本文提出一種近似修剪的方法，該方法可能會去除非冗余模塊，但

3、是卻能極大地提升M3-GZC的分類速度。通過雙螺旋問題的實驗驗證了M3-GZC近似修剪幾乎不會影響M3-GZC的分類結果。本文還設計了基于MapReduce的M3-GZC分類算法，并通過實驗驗證了基于MapReduce并行化后的M3-GZC的加速效果。
　　本文針對文本分類問題提出了M3-LIBLINEAR。M3-LIBLINEAR是以LIBLINEAR為基本分類器的最小最大模塊化網絡。本文在NTCIR-5日文專利數據集上設計實驗