潛在語義分析中算法的并行化研究與實(shí)現(xiàn).pdf

1、潛在語義分析(Latent Semantic Analysis，LSA)是一種應(yīng)用于知識(shí)獲取和表示的計(jì)算理論和方法。該方法應(yīng)用統(tǒng)計(jì)計(jì)算的原理對(duì)大量文本集進(jìn)行分析，提取和表示出詞語的語義，從而可以克服傳統(tǒng)信息檢索中使用詞語匹配所帶來的詞語歧義性和同義性等問題。本文以信息檢索為研究背景，對(duì)潛在語義分析中潛在語義空間計(jì)算算法的并行化進(jìn)行研究。本文在分析LSA基本原理的基礎(chǔ)上，深入研究特征詞提取、潛在語義空間生成、潛在語義空間更新等并行算法。

2、 潛在語義分析要從文本中提取特征詞構(gòu)成“詞匯-文本”矩陣。本文首先研究實(shí)現(xiàn)了一種基于簡單貝葉斯規(guī)則從中英文文本中提取特征詞的并行算法。該算法首先從文本中選取候選關(guān)鍵詞，對(duì)每個(gè)候選關(guān)鍵詞計(jì)算特征值，然后利用機(jī)器學(xué)習(xí)算法從文本中并行地提取關(guān)鍵詞。通過自強(qiáng)3000上的實(shí)驗(yàn)證明，該算法不僅提高了關(guān)鍵詞提取的準(zhǔn)確率，而且提高了算法的運(yùn)行效率。 矩陣奇異值分解(Singular Value Decomposition，SVD)是目前普

3、遍使用的潛在語義空間的構(gòu)造方法。SVD實(shí)現(xiàn)中存在的一個(gè)關(guān)鍵問題就是“詞匯-文本”矩陣的SVD計(jì)算時(shí)間。本文針對(duì)潛在語義分析中“詞匯-文本”矩陣奇異值分解的特點(diǎn)設(shè)計(jì)并實(shí)現(xiàn)了一種基于單邊Jacobi的矩陣奇異值分解的并行算法。并行算法采用了一種新的并行掃描策略和任務(wù)劃分策略。該策略在一次掃描中能產(chǎn)生n(n-1)/2個(gè)不同的列向量對(duì)，同時(shí)能夠?qū)仃嚨牧邢蛄堪茨Ｅ判?，使奇異值按從大到小的順序排列，大大縮短了奇異值分解的計(jì)算時(shí)間。 本文進(jìn)