基于網絡百科的中文實體鏈接研究.pdf

1、隨著時代的發(fā)展、網絡的普及，互聯(lián)網已經成為了一個巨大的信息庫，越來越多的人開始從互聯(lián)網上獲取知識。如何讓用戶快速獲得文本中感興趣詞的信息，如何用已有的知識庫標注網絡文本中大量的生詞，已經成為自然語言處理領域的一個研究熱點。實體鏈接系統(tǒng)是一個從文本中識別出實體并把它鏈接到現(xiàn)有知識庫中相應實體上的系統(tǒng)。通過實體鏈接，用戶將更加快速、更加方便的了解文本中實體的信息，進而更加快速的理解文本。同時，實體鏈接還極大的促進了語義網構建、知識庫構建、信

2、息檢索、問答系統(tǒng)等技術的發(fā)展。近年來，網絡上出現(xiàn)了大量的平臺，人們利用這些平臺來進行交流。這其中，就產生了大量的數(shù)據(jù)，這些數(shù)據(jù)都是以文本的形式存在。在短文本中，由于用戶水平的不同，表達方式的不同，這些文本數(shù)據(jù)存在大量的錯別字、簡稱、別名、網絡用語、口語、昵稱、模糊不清和不規(guī)范的表達，采用傳統(tǒng)的實體識別和鏈接系統(tǒng)對這些短文本進行實體識別和鏈接效果并不好。在長文本中，文中存在大量的共指，如何將這些共指正確的實體指稱鏈接到知識庫，是一個有待解

3、決的問題。
　　本文主要工作如下:
　　(1)研究了網絡爬蟲技術。采用了基于模板和正則表達式的方法對網絡上的代理IP進行自動抽取，該方法滿足了批量獲取代理IP的需求，提升了網絡爬蟲系統(tǒng)的穩(wěn)定性。同時，針對互動百科、百度百科以及豆瓣網，找到了獲取它們全部URL的方法，設計并實現(xiàn)了網絡數(shù)據(jù)采集系統(tǒng)。對采集的數(shù)據(jù)源碼進行抽取，構建了中文知識庫和同義詞表。另外，從中文知識庫中提取出人名，利用百度知心來擴充同義詞表。
　　(2)

4、針對短文本中實體存在大量縮寫、簡稱的問題，提出了交大中文分詞系統(tǒng)與詞典、在線百科相結合的實體識別算法。在實體鏈接，采用了同義詞表、維基百科重定向以及改進的PED（拼音編輯距離）與LCS（最長公共子序列）相結合的方法。在實體消歧中，提出了基于后綴補全的消歧算法和基于在線百科鏈接權重的消歧算法。
　　(3)針對長文本實體鏈接，提取維基百科的特征構建了名稱-實體表。在候選實體生成中，采用了名稱-實體表匹配、拼音匹配、流行度匹配以及基于上