半監(jiān)督的命名實(shí)體識(shí)別.pdf

1、命名實(shí)體識(shí)別的指的是識(shí)別出文本中的人名、地名等專(zhuān)有名稱(chēng)和有意義的時(shí)間、日期等數(shù)量短語(yǔ)并加以歸類(lèi)。命名實(shí)體識(shí)別的主要過(guò)程有實(shí)體邊界的識(shí)別和確定實(shí)體的類(lèi)型(如人名、地名或組織機(jī)構(gòu)名)。命名實(shí)體識(shí)別的研究主體是命名實(shí)體。命名實(shí)體通常由3個(gè)大類(lèi)和7個(gè)小類(lèi)組成.3大類(lèi)是：實(shí)體類(lèi)、時(shí)間類(lèi)和數(shù)字類(lèi)；7小類(lèi)是:人名、地名、時(shí)間、日期、貨幣、機(jī)構(gòu)名和百分比.由于實(shí)體數(shù)量眾多、結(jié)構(gòu)復(fù)雜、不同的文化背景會(huì)有較大差別等因素使得命名實(shí)體識(shí)別工作變的非常復(fù)雜。目前

2、國(guó)內(nèi)外主要采用的方法是基于規(guī)則的方法、基于統(tǒng)計(jì)的方法和兩者相結(jié)合的方法.在解決命名實(shí)體識(shí)別的具體問(wèn)題上又可以分為監(jiān)督式的學(xué)習(xí)、半監(jiān)督式的學(xué)習(xí)和無(wú)監(jiān)督式的學(xué)習(xí)。
　　 本文中設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)半監(jiān)督的NER系統(tǒng),該系統(tǒng)由訓(xùn)練子系統(tǒng)和標(biāo)注子系統(tǒng)兩部分組成。訓(xùn)練子系統(tǒng)從種子實(shí)體出發(fā),經(jīng)過(guò)搜索引擎檢索、識(shí)別候選實(shí)體和噪音過(guò)濾等步驟生成確定類(lèi)型的命名實(shí)體列表.噪音過(guò)濾技術(shù)的好壞直接影響命名實(shí)體識(shí)別的結(jié)果.不同的語(yǔ)言環(huán)境和不同的實(shí)體類(lèi)型都會(huì)影

3、響噪音過(guò)濾的算法,因而對(duì)于不同的文本不同的實(shí)體類(lèi)型可以使用不同的噪音過(guò)濾方法來(lái)得到更好的結(jié)果.噪音過(guò)濾分為詞匯級(jí)別的噪音過(guò)濾和語(yǔ)義的噪音過(guò)濾。詞匯級(jí)別的噪音過(guò)濾中,本文提出并實(shí)現(xiàn)了基于詞匯特征的噪音過(guò)濾、信息冗余的噪音過(guò)濾和兩者結(jié)合的噪音過(guò)濾的方法。實(shí)驗(yàn)表明詞匯特征和信息冗余相結(jié)合的過(guò)濾方法要優(yōu)于任何一種方法單獨(dú)進(jìn)行過(guò)濾.在迭代的噪音過(guò)濾之后還提出并實(shí)現(xiàn)了統(tǒng)計(jì)語(yǔ)義的噪音過(guò)濾,但由于算法運(yùn)行時(shí)間過(guò)長(zhǎng),不能加入到噪音過(guò)濾的迭代過(guò)程中,只能在