開放域中文問答系統(tǒng)關(guān)鍵技術(shù)研究.pdf

1、人類在日常的工作和生活中需要借助大量的知識(shí)來解決面臨的各種各樣的問題，但畢竟個(gè)人所掌握的知識(shí)有限，需要實(shí)時(shí)查閱和獲取知識(shí)。目前，人們常常借助搜索引擎通過互聯(lián)網(wǎng)實(shí)現(xiàn)這一目的。然而，搜索引擎的輸入是用戶并不習(xí)慣的關(guān)鍵詞組合形式，不能準(zhǔn)確和完整地表達(dá)用戶的搜索意圖，其返回的結(jié)果是大量網(wǎng)頁的集合，并非用戶所希望獲取的簡(jiǎn)潔而具體的答案，往往需要用戶進(jìn)行二次查找。
　　 問答系統(tǒng)允許用戶以自然語言提問，有利于清晰地表達(dá)問題的語義信息，返回的

2、是簡(jiǎn)潔而準(zhǔn)確的答案，與傳統(tǒng)搜索引擎相比具有獨(dú)特的高效實(shí)用優(yōu)勢(shì)。因此，問答系統(tǒng)成為信息檢索領(lǐng)域中繼搜索引擎之后的又一個(gè)研究熱點(diǎn)，尤其是不限定問題范圍的開放域自動(dòng)問答系統(tǒng)，具有極高的理論研究?jī)r(jià)值和廣闊的應(yīng)用前景。
　　 本文圍繞問答系統(tǒng)的問題分析、信息檢索和答案抽取各階段的關(guān)鍵技術(shù)，結(jié)合前人的研究成果，在問題分類特征的選取、關(guān)鍵詞擴(kuò)展，答案源獲取、答案推薦和大規(guī)模問答對(duì)庫的優(yōu)化等方面進(jìn)行了研究，主要研究成果如下：
　　 (1

3、)針對(duì)以關(guān)鍵詞或者關(guān)鍵詞的首義原作為問題分類特征的局限性，提出基于核心詞的主要義原作為問題主要分類特征的分類算法。關(guān)鍵詞作為分類特征常因?yàn)樘卣飨蛄烤S數(shù)過高導(dǎo)致處理速度過慢，關(guān)鍵詞的首義原作為問題分類特征會(huì)因?yàn)槭琢x原抽象程度過高影響關(guān)鍵詞語義的準(zhǔn)確表達(dá)。實(shí)驗(yàn)證明，核心詞的主要義原作為分類特征克服了上述不足，具有較好的分類效果。
　　 (2)針對(duì)關(guān)鍵詞同義擴(kuò)展導(dǎo)致準(zhǔn)確率降低的不足，提出一種限定語義距離的關(guān)鍵詞同義擴(kuò)展的精簡(jiǎn)算法。該算

4、法先利用《同義詞詞林》進(jìn)行同義擴(kuò)展，再利用《知網(wǎng)》義原樹計(jì)算擴(kuò)展后的關(guān)鍵詞之間的語義距離，依據(jù)事先限定的語義距離閾值剔除相似度較小的噪音數(shù)據(jù)，實(shí)現(xiàn)關(guān)鍵詞集合的精簡(jiǎn)，此外還可以通過修改語義距離閾值實(shí)現(xiàn)關(guān)鍵詞擴(kuò)展集合的動(dòng)態(tài)調(diào)整，進(jìn)而實(shí)現(xiàn)信息檢索的準(zhǔn)確率和召回率的整體平衡。
　　 (3)針對(duì)答案抽取技術(shù)貧乏的現(xiàn)狀，結(jié)合互聯(lián)網(wǎng)問答社區(qū)的興起，提出一種基于兩階段相似度計(jì)算法的答案推薦技術(shù)。通過網(wǎng)頁下載、網(wǎng)頁去重和主題信息提取等步驟獲得大量

5、百度知道的問答對(duì)。先采用耗時(shí)較少的TF-IDF方法對(duì)問題相似度排序，再利用準(zhǔn)確率較高的語義相似度方法對(duì)排序靠前的10個(gè)問句進(jìn)行二次計(jì)算和排序，最后把問答對(duì)庫中相似度最高的問題所對(duì)應(yīng)的答案推薦給用戶，彌補(bǔ)了答案抽取技術(shù)的不足。
　　 (4)針對(duì)問答對(duì)質(zhì)量參差不齊的現(xiàn)象，提出通過問答對(duì)的滿意度屬性值實(shí)現(xiàn)問答對(duì)庫自動(dòng)優(yōu)化的方法。系統(tǒng)為每一個(gè)問答對(duì)增加一個(gè)“用戶滿意度”屬性以記錄用戶對(duì)問答對(duì)的滿意度，定期依據(jù)滿意度值的大小評(píng)估問答對(duì)的質(zhì)