面向Twitter信息的機構名消歧技術研究.pdf

1、實體的歧義是指同一個實體名稱可以對應到多個概念上,為了自動分析文本或構建大規(guī)模知識庫,精確細致的實體消歧工作不可缺少。近年來隨著社交網絡的高速發(fā)展,互聯(lián)網上的信息呈現出爆炸式地增長,如何自動化地分析組織實體相關信息受到越來越多計算機科學工作者的關注。
　　機構名消歧是實體消歧的一個分支,它僅關注機構名類型的實體消歧。本文主要面向twitter數據的機構名消歧,相對于傳統(tǒng)的文本信息,存在著上下文信息少,拼寫、語法不規(guī)范等問題。此外,

2、由于機構名數量龐大,為每一個機構都標注訓練數據是不現實的,因此就可能出現某機構名在已標注數據集中從未出現,即訓練集和測試集機構名不重合的問題。針對以上提到的面向twitter數據的機構名消歧任務難點,本文的主要工作如下:
　　(1)分析了機構名消歧任務的難點。針對twitter數據上的機構名消歧任務,通過數據統(tǒng)計詳細分析了任務的難點,如Twitter信息短,句法不規(guī)范,機構名歧義性分布不均衡,訓練集和測試集機構名不重復,現有知識庫

3、對機構名的覆蓋范圍有限等。此外,歸納總結了現有工作的優(yōu)缺點。
　　(2)研究了基于通用類型分類特征的機構名消歧方法,構造了一個基于通用類型特征的機構名消歧系統(tǒng),并將其作為基準系統(tǒng)。通用類型的特征從本質上講,不是詞匯化特征,而是待消歧twitter消息與機構相關信息的相似度。該類型特征的建立需要利用機構相關信息,而機構網站主頁是一個重要的信息來源。但是由于機構主頁缺失和難以提取的問題,本文又引入了多種不同類型的機構相關網頁作為數據源

4、。通過實驗,驗證不同類型的數據源以及不同類型的特征對機構名消歧的作用。
　　(3)研究了一種基于半監(jiān)督學習的優(yōu)化方法。通用分類特征計算過程易引入噪聲,從而導致了其消歧的精確率和召回率均偏低,另外,沒有針對每個機構名做優(yōu)化。因此,這里考慮按照分類置信度挖掘出少量精確率較高的種子作為已標注數據,并將其它數據作為未標注數據,利用半監(jiān)督學習方法予以解決。最后,針對半監(jiān)督方法性能偏低的問題,又提出了兩階段融合方法,即第一階段通用分類結果和第

5、二階段半監(jiān)督分類結果的融合。實驗結果表明,基于半監(jiān)督學習的優(yōu)化方法能在一定程度上提高第一階段有監(jiān)督分類的消歧性能。
　　(4)研究了一種基于特征增強的自適應優(yōu)化方法。針對半監(jiān)督優(yōu)化方法未能充分利用第一階段分類結果的缺點,這里基于每個機構在第一階段分類的結果,分別抽取出新的詞匯化特征,并加入到原有的特征空間,然后訓練得到機構特定的自適應分類器。同時,為了克服測試集數據稀疏問題,又進一步引入了大量未標注數據。實驗結果表明,基于特征增強