基于類(lèi)比學(xué)習(xí)的人名識(shí)別方法研究.pdf

1、在人們利用計(jì)算機(jī)技術(shù)自動(dòng)處理海量信息的大背景下，信息檢索、信息抽取、機(jī)器翻譯、文摘生成等技術(shù)應(yīng)運(yùn)而生。命名實(shí)體識(shí)別是對(duì)文本自動(dòng)處理的前提工作，它的質(zhì)量會(huì)直接影響到后續(xù)的一系列工作。雖然命名實(shí)體識(shí)別技術(shù)已經(jīng)相當(dāng)成熟，然而從評(píng)測(cè)的結(jié)果來(lái)看，中文命名實(shí)體的識(shí)別還遠(yuǎn)不能滿足應(yīng)用的需求。因?yàn)檫@里存在著技術(shù)、資源、應(yīng)用需求之間有機(jī)結(jié)合的問(wèn)題。 人名和其它命名實(shí)體一樣，具有開(kāi)放性和發(fā)展性的特點(diǎn)，而且表現(xiàn)形式極其豐富，給其識(shí)別帶來(lái)了一定的困難。

2、包括人名識(shí)別在內(nèi)的命名實(shí)體識(shí)別問(wèn)題已經(jīng)成為詞法分析使用化的主要瓶頸。人名識(shí)別作為命名實(shí)體識(shí)別的子任務(wù)，是自然語(yǔ)言處理領(lǐng)域的一個(gè)重要而困難的問(wèn)題。 在本文中，我們以人名(包括漢族人名和譯名)為研究對(duì)象，提出了一種基于類(lèi)比學(xué)習(xí)的人名識(shí)別方法。該方法通過(guò)用人名實(shí)例描述語(yǔ)言現(xiàn)象，嘗試性的將類(lèi)比學(xué)習(xí)的方法應(yīng)用于人名識(shí)別問(wèn)題，取得了較好的效果。主要的研究?jī)?nèi)容有以下幾方面： 1．通過(guò)對(duì)真實(shí)語(yǔ)料的統(tǒng)計(jì)，深入分析了人名的內(nèi)部特征和上下文環(huán)

3、境特征，為類(lèi)比學(xué)習(xí)方法應(yīng)用到人名識(shí)別問(wèn)題建立了語(yǔ)言學(xué)基礎(chǔ)。同時(shí)，建立了基于真實(shí)語(yǔ)料的人名資源庫(kù)，包括姓氏用字庫(kù)、名字用字庫(kù)、譯名用字庫(kù)和特征詞庫(kù)等。此外，還使用了《知網(wǎng)》作為語(yǔ)義資源，對(duì)特征詞進(jìn)行了語(yǔ)義擴(kuò)充。 2．建立了人名實(shí)例庫(kù)。在實(shí)例向量化的過(guò)程中，不僅考慮了人名的內(nèi)部結(jié)構(gòu)，而且加入了人名上下文環(huán)境信息，即實(shí)例向量中包含了人名的內(nèi)部結(jié)構(gòu)和上下文結(jié)構(gòu)，較好地綜合利用了各種啟發(fā)信息。 3．按照類(lèi)比學(xué)習(xí)識(shí)別人名的策略，設(shè)計(jì)

4、實(shí)現(xiàn)了一個(gè)人名識(shí)別實(shí)驗(yàn)系統(tǒng)。通過(guò)計(jì)算實(shí)例間的相似度，選擇最為相似的實(shí)例，進(jìn)行類(lèi)比匹配，從而識(shí)別人名。 4．提出了一種改進(jìn)的實(shí)例相似度計(jì)算方法。我們針對(duì)人名識(shí)別過(guò)程中的不同階段，提出了兩個(gè)層次的實(shí)例相似度計(jì)算方法。在實(shí)例庫(kù)的構(gòu)建階段，實(shí)例相似度以公共子序列來(lái)衡量；在人名識(shí)別階段，不僅考慮了公共子序列，而且加入了結(jié)構(gòu)信息。 我們從人民日?qǐng)?bào)語(yǔ)料中選取50萬(wàn)字的文本進(jìn)行開(kāi)放測(cè)試，其實(shí)驗(yàn)結(jié)果表明該方法識(shí)別人名的召回率達(dá)到 90.8