基于LDA模型的口語對話系統(tǒng)領(lǐng)域分類研究.pdf

1、隨著文本分類技術(shù)的日趨成熟，其在口語對話系統(tǒng)領(lǐng)域分類中的應(yīng)用也越來越深入；隨著統(tǒng)計模型發(fā)展，跟規(guī)則方法相比較，其在文檔歸類技術(shù)中嶄露頭角?？谡Z對話系統(tǒng)領(lǐng)域分類問題本質(zhì)上可以看作文本分類問題，由于口語對話文本長度較短，可將其歸到短文本分類問題中。由于短文本具有長度短、內(nèi)容少、不能提供足夠的詞頻共現(xiàn)、特征稀疏等問題，傳統(tǒng)文本分類方法不能直接應(yīng)用。當(dāng)前，短文檔分類問題備受關(guān)注并成為現(xiàn)如今文檔分類領(lǐng)域研究熱門方面。其中，基于文本擴充的短文本分類

2、方法和借助外部知識源進行語義挖掘的短文本分類方法是主流研究方法。如何通過文本擴充、充分挖掘語義信息來獲得好的短文本分類特征、提高短文本分類性能亟待解決，本論文基于以上問題展開相關(guān)研究工作。
　　該篇論文把語音識別獲得的口語對話文檔視作短文檔，把口語對話系統(tǒng)領(lǐng)域歸類問題視作短文檔歸類問題，主要圍繞文本擴充和挖掘短文本語義信息重要方面，以文本分類技術(shù)、LDA模型、神經(jīng)網(wǎng)絡(luò)語言模型word2vec及文本分類算法KNN為重要支撐，采用基于

3、詞嵌入擴充和改進主題分布相似度口語對話系統(tǒng)領(lǐng)域分類方法，通過調(diào)節(jié)文本擴充長度、LDA模型主題個數(shù)、KNN分類近鄰數(shù)等參數(shù)進行實驗，對口語對話系統(tǒng)領(lǐng)域分類問題展開研究。針對口語對話系統(tǒng)中領(lǐng)域分類技術(shù)，該篇論文著重在以下兩點展開研討：
　　1.提出了詞嵌入擴充口語對話文本領(lǐng)域分類方法。針對口語對話系統(tǒng)中口語對話文本長度短、內(nèi)容少、特征稀疏的問題，本文采用神經(jīng)網(wǎng)絡(luò)語言模型word2vec對短文本進行擴充并采用 LDA主題模型進行口語對話

4、文本領(lǐng)域分類。實驗結(jié)果表明，與未經(jīng)擴充的分類方法相比，該分類方法的平均準(zhǔn)確率、平均召回率和平均F1值均有一定提高，且該方法具有穩(wěn)健性。
　　2.提出了改進主題分布相似度的口語對話系統(tǒng)領(lǐng)域分類。針對口語對話文本表示模型VSM維度高、語義特征不明顯的問題，本文以 LDA模型得出的主題分布作為分類特征，并根據(jù)LDA模型得出的主題-詞分布矩陣對主題分布進行改進，將改進后的主題分布向量送入KNN分類器進行分類。實驗結(jié)果表明，與VSM方法比較

5、，基于主題分布相似度的口語對話系統(tǒng)領(lǐng)域分類方法的平均F1值提高4.5％，基于改進主題分布相似度的口語對話系統(tǒng)領(lǐng)域分類方法的平均F1值提高5.2%，驗證了該方法的有效性。
　　本文首先就口語對話系統(tǒng)領(lǐng)域分類問題的理論基礎(chǔ)進行闡述，如口語對話系統(tǒng)組成、文本分類技術(shù)、LDA模型建模及推理等。
　　其次，介紹兩種口語對話文本歸類要領(lǐng)，在 LDA模型分類基礎(chǔ)上引入word2vec對口語對話文本進行擴充、在KNN分類基礎(chǔ)上選取LDA模型