深度學(xué)習(xí)與多元特征相結(jié)合的答案選擇排序研究.pdf

1、近年來(lái)，人工智能在諸多領(lǐng)域的嘗試及成功，使其逐漸進(jìn)入大眾的視線。如何實(shí)現(xiàn)機(jī)器與人類的無(wú)障礙交流，是人工智能一直的研究?jī)?nèi)容。智能問(wèn)答系統(tǒng)是實(shí)現(xiàn)這一愿景的非常有意義的一個(gè)切入點(diǎn)?，F(xiàn)有的問(wèn)答系統(tǒng)形式有多種，比如社區(qū)問(wèn)答、知識(shí)問(wèn)答及聊天機(jī)器人等。這些系統(tǒng)往往有一定的知識(shí)存儲(chǔ)，在回答問(wèn)題的時(shí)候首先根據(jù)自身的知識(shí)背景生成若干與問(wèn)題相關(guān)的候選答案，然后再通過(guò)相關(guān)計(jì)算對(duì)候選答案打分，最后返回問(wèn)題的最佳答案。
　　本課題主要研究了問(wèn)題候選答案的選擇

2、排序問(wèn)題，即對(duì)給定問(wèn)題的候選答案集中每個(gè)答案打分排序。其核心問(wèn)題就是計(jì)算問(wèn)題和候選答案之間的語(yǔ)義相似度。通過(guò)對(duì)相關(guān)工作調(diào)研分析，可以發(fā)現(xiàn)，在已有的研究工作中，前期工作主要是基于問(wèn)題和候選答案的詞匯、句法等特征完成的。隨著深度學(xué)習(xí)在NLP中的應(yīng)用，近期工作多采用深度學(xué)習(xí)模型來(lái)研究，該模型不需要借助其他語(yǔ)言工具或知識(shí)資源輔助。本文嘗試構(gòu)建了將深度學(xué)習(xí)與句子特征相結(jié)合的模型，來(lái)完成問(wèn)題候選答案的選擇排序問(wèn)題，本文的主要貢獻(xiàn)有以下幾個(gè)方面：

3、r>　　1．分別抽取了問(wèn)題和候選答案的詞匯特征、主題特征以及基于IBM Model-I的問(wèn)題和候選答案間的對(duì)齊特征，并將這些特征與LSTM模型結(jié)合。
　　2．構(gòu)建了基于深度學(xué)習(xí)的答案選擇排序算法框架，分別采用CNN和LSTM兩種深度學(xué)習(xí)模型進(jìn)行實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明，在答案選擇排序的任務(wù)中，當(dāng)不加任何外部特征時(shí)，本課題里L(fēng)STM模型表現(xiàn)整體高于CNN模型。
　　3．在LSTM模型中加入問(wèn)題和候選答案的相關(guān)特征，將詞匯特征追加到L

4、STM模型的輸入部分，將主題特征與LSTM模型的輸出做特征組合，再將對(duì)齊特征作為在LSTM模型中引入attention機(jī)制的基礎(chǔ)。實(shí)驗(yàn)結(jié)果表明，在LSTM模型中，無(wú)論加入主題特征還是引入attention機(jī)制，在問(wèn)題候選答案的任務(wù)上都有較為顯著的效果。
　　4．將本文的模型在公開(kāi)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，結(jié)果表明當(dāng)將主題特征與對(duì)齊特征和LSTM結(jié)合時(shí)，兩個(gè)評(píng)價(jià)指標(biāo)MAP和MRR最高分別可以達(dá)到78.9％和80.0%，均高于現(xiàn)有的工作結(jié)果。