短文本文檔建模及查詢擴(kuò)展方法研究.pdf

1、隨著計(jì)算機(jī)和網(wǎng)絡(luò)Internet的迅猛發(fā)展，從海量的信息資源中精確地獲取信息變得越來越困難。海量信息中有很大一部分是以短文本的形式存在，同時(shí)短文本也是人們?cè)谌粘Ｉ钪兴夭豢缮俚囊环N數(shù)據(jù)形式。短文本信息主要包括博客留言，微博信息，短信息，聊天記錄等。其特點(diǎn)是信息長(zhǎng)度短、語言形式靈活、數(shù)據(jù)規(guī)模大、時(shí)效性強(qiáng)、更新速度快。傳統(tǒng)的文本挖掘方法沒有考慮這些特點(diǎn)，不能夠滿足人們從大量短文本中準(zhǔn)確獲取信息的需要。因此發(fā)明并實(shí)現(xiàn)一種更為適合短文本信息的

2、建模方法，具有重要的理論價(jià)值和實(shí)踐意義。本文具體研究工作如下:
　　(1)提出一種更為適合短文本領(lǐng)域的文檔建模方法，有助于提高短文本相關(guān)自然語言處理任務(wù)的準(zhǔn)確度。使用三層置信網(wǎng)絡(luò)能量模型，融合詞向量信息，同時(shí)學(xué)習(xí)文檔在線性空間與非線性空間下的向量表達(dá)，從而將短文本映射成文本向量的形式。本文提出一種深層受限波爾茲曼機(jī)模型，模型中加入詞向量信息，豐富了短文本數(shù)據(jù)的語義信息，可以更準(zhǔn)確地對(duì)短文本文檔進(jìn)行抽象表達(dá)。在公開的三個(gè)數(shù)據(jù)集上，使

3、用得到的短文本線性表達(dá)與非線性表達(dá)進(jìn)行文檔分類與文檔檢索任務(wù)，均得到了令人滿意的結(jié)果，提高了短文本數(shù)據(jù)在此類任務(wù)上的準(zhǔn)確率。
　　(2)提出一種使用詞向量對(duì)檢索詞進(jìn)行意圖識(shí)別的查詢擴(kuò)展方法。利用深度學(xué)習(xí)訓(xùn)練得到的詞向量具有線性關(guān)系的特性，結(jié)合文檔建模方法中得到的單詞權(quán)重，提出一種從全局角度進(jìn)行查詢擴(kuò)展的方法。本文重點(diǎn)分析了偽相關(guān)反饋查詢擴(kuò)展方法與詞向量查詢擴(kuò)展方法的不同，比較它們各自的優(yōu)勢(shì)與局限性。在新浪微博語料集上進(jìn)行檢索實(shí)驗(yàn)，