第二章自然語(yǔ)言基礎(chǔ)知識(shí)

1、數(shù)學(xué)基礎(chǔ)與語(yǔ)言學(xué)基礎(chǔ)研究生專業(yè)必修課自然語(yǔ)言處理 , 2014年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心第二章 基礎(chǔ)知識(shí)1、數(shù)學(xué)基礎(chǔ)2、語(yǔ)言學(xué)基礎(chǔ)3、實(shí)用知識(shí)本章內(nèi)容研究生專業(yè)必修課自然語(yǔ)言處理 , 2014年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心概率論在語(yǔ)言技術(shù)中的應(yīng)用1、數(shù)學(xué)基礎(chǔ)研究生專業(yè)必修課自然語(yǔ)言處理 , 2014年秋季Copyrig

2、hts 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心引言n自然語(yǔ)言處理是一門交叉學(xué)科n與自然語(yǔ)言處理密切相關(guān)的學(xué)科包括數(shù)學(xué)、語(yǔ)言學(xué)和計(jì)算機(jī)科學(xué)n本章介紹數(shù)學(xué)基礎(chǔ)和語(yǔ)言學(xué)基礎(chǔ)，以及相關(guān)計(jì)算機(jī)實(shí)用技術(shù)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心數(shù)學(xué)與語(yǔ)言學(xué)n數(shù)學(xué)大自然的語(yǔ)言科學(xué)的語(yǔ)言n語(yǔ)言學(xué)語(yǔ)言是大自然的產(chǎn)物

3、語(yǔ)言學(xué)是科學(xué)的一個(gè)分支n采用數(shù)學(xué)的方法描述語(yǔ)言計(jì)算語(yǔ)言學(xué)建立語(yǔ)言的數(shù)學(xué)模型研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心有數(shù)學(xué)基礎(chǔ)的方法 vs 沒有數(shù)學(xué)基礎(chǔ)的方法n有數(shù)學(xué)基礎(chǔ)的方法美麗的方法經(jīng)得起時(shí)間考驗(yàn)的方法n沒有數(shù)學(xué)基礎(chǔ)的方法打補(bǔ)丁的方法adhoc(ad hoc)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All

4、Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心數(shù)學(xué)基礎(chǔ)-概率論n為什么是概率論統(tǒng)計(jì)語(yǔ)言處理技術(shù)已經(jīng)成為主流統(tǒng)計(jì)語(yǔ)言處理的步驟n收集自然語(yǔ)言詞匯(或者其他語(yǔ)言單位)的分布情況n根據(jù)這些分布情況進(jìn)行統(tǒng)計(jì)推導(dǎo)n最典型的例子：構(gòu)造統(tǒng)計(jì)語(yǔ)言模型概率論是統(tǒng)計(jì)語(yǔ)言模型的數(shù)學(xué)基礎(chǔ)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心回顧n概率論是研究隨機(jī)現(xiàn)象的

5、數(shù)學(xué)分支n所謂隨機(jī)現(xiàn)象是指這樣的一類現(xiàn)象，當(dāng)人們觀察它時(shí)， 所得到的觀察結(jié)果不是確定的，而是許許多多可能結(jié)果中的一種n概率（Probability）則是衡量該事件發(fā)生的可能性的量度研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心概率n樣本空間 是一個(gè)隨機(jī)試驗(yàn)所有可能的結(jié)果的集合n事件 A 是的子集n概率函數(shù) (或者概率分布)n某字或者某詞出現(xiàn)的概率是多少？:0,1P 研究生專業(yè)必修課研究生專業(yè)必修課自然

6、語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心示例n現(xiàn)代漢語(yǔ)字頻統(tǒng)計(jì)。由北京航空學(xué)院和國(guó)家語(yǔ)言文字工作委員會(huì)于1985年完成。從1977年至1982年間社會(huì)科學(xué)和自然科學(xué)的規(guī)模為一千一百零八萬(wàn)余字的語(yǔ)料中利用計(jì)算機(jī)進(jìn)行統(tǒng)計(jì)得到漢字的字頻，前20個(gè)最高頻漢字列出如表所示：研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾

7、濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心示例研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心漢字的信息熵n信息熵香農(nóng)1948年發(fā)表了著名的論文通訊的數(shù)學(xué)理論，宣告了信息論的誕生。在這篇論文中，他選擇概率論作為數(shù)學(xué)工具，提出了用“不確定性的量度”來計(jì)算信息量的數(shù)學(xué)公式，為信息論奠定了理論基礎(chǔ)。xxpxppH)(log)()(研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理

8、自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心漢字是世界上信息量最大的文字符號(hào)系統(tǒng)n每收到一個(gè)英文訊號(hào)消除的不確定程度H 是4.1606比特。n漢字的信息熵隨著漢字個(gè)數(shù)的增加而增加，當(dāng)漢字的個(gè)數(shù)達(dá)到12366個(gè)漢字時(shí)，漢字的信息熵值為9.65（馮志偉）n漢字是當(dāng)今世界上信息量最大的文字符號(hào)系統(tǒng)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Res

9、erved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心幾點(diǎn)認(rèn)識(shí)n漢字的信息量最大，世界冠軍n漢字低劣論與漢字優(yōu)越論n在信息編碼、存儲(chǔ)和傳輸?shù)确矫鏉h字處于相對(duì)不利的地位n隨著網(wǎng)絡(luò)時(shí)代的發(fā)展，網(wǎng)絡(luò)上的中文信息量已經(jīng)居于第二的位置研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心我們的認(rèn)識(shí)n漢字是世界上碩果僅存的象形文字(古埃及圣書字,兩河流域楔形文字)，對(duì)漢文化的傳承和發(fā)展

10、做出了巨大貢獻(xiàn)。既有固有的缺點(diǎn)，也有優(yōu)越性，將是一種長(zhǎng)期的客觀存在。隨著中國(guó)國(guó)力的增強(qiáng)，漢字的影響力逐漸擴(kuò)大，作為有志于從事中文語(yǔ)言研究的同學(xué)們來說，應(yīng)該積極吸取西文計(jì)算語(yǔ)言學(xué)研究的優(yōu)秀成果，豐富和完善漢語(yǔ)的計(jì)算語(yǔ)言學(xué)研究，前途光明研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心條件概率n對(duì)于隨機(jī)試驗(yàn)的結(jié)果有部分知識(shí)(或者約束條件)n條件概率(Conditional probability) 已知B為真

11、的條件下A 為真的概率可以表示為P(A|B)先驗(yàn)概率(prior probability)后驗(yàn)概率(posterior probability)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心示例：P(大學(xué))=0.0003P(大學(xué)|工業(yè))=P(工業(yè)大學(xué))/P(工業(yè)) P(大學(xué))研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT.

12、All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心聯(lián)合概率n聯(lián)合概率P(A,B)=P(A)P(B|A)=P(B)P(A|B) 使 值為最大的那個(gè)聯(lián)合概率的鏈規(guī)則：P(A,B,C,D) = P(A)P(B|A)P(C|A,B)P(D|A,B,C.)()|(maxarg)()()|(maxargAPABPBPAPABPAA)(maxargxfx)(xf研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)

13、學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心x示例P(哈爾濱/工業(yè)/大學(xué))=P(哈爾濱)P(工業(yè)|哈爾濱)P(大學(xué)|哈爾濱,工業(yè))研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心獨(dú)立n兩個(gè)事件 A 與 B 相互獨(dú)立，如果 P(A) =P(A|B)P(A,B)=P(A)*P(B)？“果”字的出現(xiàn)和“粉”字的出現(xiàn)相互獨(dú)立嗎n條件獨(dú)立兩個(gè)事件 A 與 B 是在條件C下相互條件獨(dú)立如果:P(A

14、|C) = P(A|B,C)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心貝葉斯定理(Bayes Theorem)n貝葉斯定理的最簡(jiǎn)形式nBayesTheorem使我們能夠交換事件之間的條件依賴順序 )()()|()(),()|(BPAPABPBPBAPBAP)()|(maxarg)()()|(maxarg)|(maxargAPABPBPAPABPBAPAAA研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言

15、處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心貝葉斯定理在自然語(yǔ)言處理中應(yīng)用舉例n音字轉(zhuǎn)換n 字音轉(zhuǎn)換模型n 語(yǔ)言模型 n顯然構(gòu)造 與 的難度較直接構(gòu)造 大大地降低了 )()|(maxarg)()()|(maxarg)|(maxargTPTSPSPTPTSPSTPTTT)|(TSP)(TP)|(TSP)(TP)|(STP研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT.

16、 All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心隨機(jī)變量n隨機(jī)變量（Random variables）(RV)使我們能夠討論與樣本空間相關(guān)的數(shù)值的概率值n離散型隨機(jī)變量n連續(xù)型隨機(jī)變量研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心隨機(jī)變量n在某一時(shí)間點(diǎn)出現(xiàn)的單詞可以視為（離散型）隨機(jī)變量n語(yǔ)言可視為以時(shí)間為序的一組隨機(jī)變量的序列n

17、twwwwwT.321研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心數(shù)學(xué)期望與方差n數(shù)學(xué)期望隨機(jī)變量的均值n方差隨機(jī)變量取值是否比較一致或者有很大差異的一個(gè)量度 稱為標(biāo)準(zhǔn)差xxxpxE)()(2222)()()()(XEXEXEXEXVar研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved

18、哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心數(shù)學(xué)期望與方差應(yīng)用示例-新詞發(fā)現(xiàn)n統(tǒng)計(jì)大規(guī)模語(yǔ)料中字A與字B的間隔字?jǐn)?shù)的數(shù)學(xué)期望與方差n假設(shè)方差很小，比如小于某個(gè)閾值，那么AB很可能成詞研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心構(gòu)造語(yǔ)言模型P(T)的兩類方法n基于頻度的統(tǒng)計(jì)n貝葉斯統(tǒng)計(jì)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季

19、Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心基于頻度的統(tǒng)計(jì)n基本思想相關(guān)頻度(頻率)：事件 發(fā)生的次數(shù)與所有事件總次數(shù)的比率 在 次實(shí)驗(yàn)中 發(fā)生的次數(shù)，當(dāng) ， 逐漸穩(wěn)定在某個(gè)數(shù)值上，作為該事件的概率估計(jì)NCf)()()(CN)(fN研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心基于頻度的

20、統(tǒng)計(jì)的兩類方法n有參數(shù)的方法(Parametric)(與分布有關(guān))假設(shè)某種語(yǔ)言現(xiàn)象服從我們業(yè)已熟知的某種分布， 如二元分布，正態(tài)分布，泊松分布等等我們已有明確的概率模型，現(xiàn)在需要確定該概率分布的一些參數(shù)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心基于頻度的統(tǒng)計(jì)的兩類方法（續(xù)）常用分布n二元分布(Binomial distribution) 在英語(yǔ)語(yǔ)料庫(kù)中，包含單詞“the”的語(yǔ)句占語(yǔ)料庫(kù)中語(yǔ)句總數(shù)的

21、比例近似地服從二項(xiàng)分布n泊松分布(Poisson distribution)在某一固定大小的范圍(或者時(shí)間段)內(nèi)，某種特定類型事件的分布n正態(tài)分布 (高斯分布Gaussian distribution)(Normal distribution) 漢字的筆畫數(shù)與該筆畫對(duì)應(yīng)的漢字的個(gè)數(shù)符合正態(tài)分布研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心基于頻度的統(tǒng)計(jì)的兩類方法（續(xù)）n無(wú)參數(shù)的方法(Non-param

22、etric)(與分布無(wú)關(guān))對(duì)數(shù)據(jù)的分布沒有預(yù)先的分布假設(shè)僅僅通過最大似然估計(jì)來估算P先驗(yàn)知識(shí)比較少,但需要大規(guī)模的訓(xùn)練數(shù)據(jù)本課主要探討無(wú)參數(shù)的方法研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014 HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心貝葉斯統(tǒng)計(jì)n貝葉斯統(tǒng)計(jì)的實(shí)質(zhì)是可信度數(shù)量化 n可信度是這樣計(jì)算出來的有先驗(yàn)的知識(shí)根據(jù)數(shù)據(jù)應(yīng)用貝葉斯定理更新知識(shí))()|(maxarg)()()|(maxarg)|(maxarg*MPMDPDPMPMDPDMPMM

23、MM研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心貝葉斯統(tǒng)計(jì)（續(xù)）先驗(yàn)的概率分布P(M)當(dāng)新的數(shù)據(jù)到來后,根據(jù)貝葉斯公式計(jì)算P(M|D).P(M|D)成為新的概率模型如此反復(fù)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院

24、語(yǔ)言技術(shù)研究中心其他數(shù)學(xué)基礎(chǔ)n信息論信息論n集合論集合論n函數(shù)與關(guān)系函數(shù)與關(guān)系n微積分微積分n粗糙集粗糙集n研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2014年秋季年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心2、語(yǔ)言學(xué)基礎(chǔ)研究生專業(yè)必修課自然語(yǔ)言處理 , 2014年秋季Copyrights 2014. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心漢語(yǔ)語(yǔ)言學(xué)基礎(chǔ)n自然語(yǔ)言

25、處理系統(tǒng)中的語(yǔ)言知識(shí)庫(kù)自然語(yǔ)言處理系統(tǒng)可以直接利用的機(jī)器詞典中的語(yǔ)言知識(shí)包含了詞法、句法、語(yǔ)義和語(yǔ)用等各個(gè)層面的信息。詞法和句法信息總是最基本的，也是研究得比較成熟的。 研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室漢語(yǔ)語(yǔ)言學(xué)基礎(chǔ)n現(xiàn)代漢語(yǔ)詞語(yǔ)的語(yǔ)法功能分類朱德熙的語(yǔ)法理論語(yǔ)法講義1984年90年代初北京大學(xué)計(jì)算語(yǔ)言所與中文系合作,提出了一個(gè)面向語(yǔ)言

26、信息處理的現(xiàn)代漢語(yǔ)詞語(yǔ)分類體系研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室基本詞類n實(shí)詞體詞n名詞(n)：例如，牛、書、水、教授、國(guó)家、心胸、北京n時(shí)間詞(t)：例如，明天、元旦、唐朝、現(xiàn)在、春天n處所詞(s)：例如，空中、低處、郊外n方位詞(f)：例如，上、下、前、后、東、西、南、北n數(shù)詞(m)：例如，一、第一、千、零、許多、百萬(wàn)n量詞(q)：例

27、如，個(gè)、群、克、杯、片、種、些n代詞(r) (體詞性)：例如，你、我們、這、哪兒、誰(shuí)謂詞n代詞(r) (謂詞性)：例如，這樣n動(dòng)詞(v)：例如，走、休息、同意、能夠、出去、是、調(diào)查n形容詞(a)：例如，好、紅、大、溫柔、美麗、突然n狀態(tài)詞(z)：例如，雪白、金黃、淚汪汪、滿滿當(dāng)當(dāng)、灰不溜秋研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室基本詞類其他實(shí)詞

28、n區(qū)別詞(b)：例如，男、女、公共、微型、初級(jí)n副詞(d)：例如，不、很、都、剛剛、難道、忽然n虛詞n介詞(P)：例如，把、被、對(duì)于、關(guān)于、以、按照n連詞(c)：例如，和、與、或、雖然、但是、不但、而且n助詞(u)：例如，了、著、過、的、得、所、似的n語(yǔ)氣詞(y)：例如，嗎、呢、吧、嘛、啦n擬聲詞(o)：例如，嗚、啪、丁零當(dāng)啷、嘩啦n嘆詞(e)：例如，哎、喔、哦、啊研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言

29、技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室附加類別與標(biāo)點(diǎn)符號(hào)n小于詞的單位前接成分(h): 阿，老，超 后接成分(k): 兒, 子, 性, 員, 器 語(yǔ)素字 (g): 柿, 衣, 失, 遙, 郝 非語(yǔ)素字(x): 鵪, 枇, 蚣n大于詞的單位 成語(yǔ) (i) : 胸有成竹, 八拜之交 習(xí)用語(yǔ) (l) : 總而言之, 由此可見 簡(jiǎn)稱略語(yǔ)(j) : 三好, 全總n標(biāo)點(diǎn)符號(hào)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工

30、業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室各類詞語(yǔ)的主要特點(diǎn)n實(shí)詞與虛詞實(shí)詞n開放類n能單獨(dú)充當(dāng)某種句法成分n位置不固定n具有較強(qiáng)的構(gòu)詞力n有比較具體的詞義研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室各類詞語(yǔ)的主要特點(diǎn)n虛詞封閉類不能充當(dāng)句法成分粘著性位置比較固定沒有具體的詞義研究生專業(yè)必修課研究生專業(yè)必修課

31、自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室體詞和謂詞n體詞和謂詞都屬于實(shí)詞n體詞主要語(yǔ)法功能是作主語(yǔ)、賓語(yǔ)，一般不作謂語(yǔ)。n謂詞的主要功能是作謂語(yǔ)，也能作主語(yǔ)和賓語(yǔ)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大

32、學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室名詞n名詞是典型的體詞n一般不受副詞修飾n可以受數(shù)量詞修飾n名詞可以修飾名詞n名詞不能帶表示時(shí)態(tài)的助詞n名詞不能做狀語(yǔ)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室動(dòng)詞n是最典型最重要的謂詞n能帶真賓語(yǔ)的謂詞都是動(dòng)詞（及物動(dòng)詞）n不能帶真賓語(yǔ)的謂詞包括不及物動(dòng)詞、形容詞和狀

33、態(tài)詞n動(dòng)名兼類n能愿動(dòng)詞（助動(dòng)詞）n動(dòng)詞的形態(tài)變化比較豐富（VV,V一V,ABAB等等）研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室形容詞n是一類重要的謂詞n能直接受“很”一類程度副詞修飾且不能帶真賓語(yǔ)的謂詞是形容詞。形容詞可以帶準(zhǔn)賓語(yǔ)。n絕大多數(shù)形容詞可以受否定副詞“不”修飾研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年

34、秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室形容詞（續(xù)）n可以帶補(bǔ)語(yǔ)n名形兼類n形動(dòng)兼類n形容詞的形態(tài)變化（AA,ABAB）研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室漢語(yǔ)

35、的句法分析的一些特點(diǎn)n漢語(yǔ)句法分析的特殊性漢語(yǔ)是一種“孤立語(yǔ)”n“孤立語(yǔ)”、“屈折語(yǔ)”、“粘著語(yǔ)”同一詞類可擔(dān)任多種句法成分且無(wú)形態(tài)變化漢語(yǔ)句子的構(gòu)造規(guī)則與短語(yǔ)的構(gòu)造規(guī)則基本一致研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室漢語(yǔ)的句法分析的一些特點(diǎn)漢語(yǔ)的語(yǔ)序n在短語(yǔ)內(nèi)部語(yǔ)序嚴(yán)格固定n短語(yǔ)間語(yǔ)序比較靈活虛詞經(jīng)?？梢允÷?，增加了語(yǔ)法分析的困難漢語(yǔ)詞切分有

36、歧義研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室語(yǔ)言知識(shí)庫(kù)n語(yǔ)言知識(shí)庫(kù)是自然語(yǔ)言處理系統(tǒng)不可或缺的組成部分n語(yǔ)言知識(shí)庫(kù)的規(guī)模和質(zhì)量在很大程度上決定了自然語(yǔ)言處理系統(tǒng)的成敗研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)

37、算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室北大計(jì)算語(yǔ)言研究所的一些工作n現(xiàn)代漢語(yǔ)語(yǔ)法信息詞典n大規(guī)?，F(xiàn)代漢語(yǔ)基本標(biāo)注語(yǔ)料庫(kù)n面向漢英機(jī)器翻譯的現(xiàn)代漢語(yǔ)語(yǔ)義詞典n英漢、日漢對(duì)照雙語(yǔ)語(yǔ)料庫(kù)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室北大計(jì)算語(yǔ)言研究所的一些工作n多個(gè)專業(yè)領(lǐng)域的術(shù)語(yǔ)庫(kù)

38、（信息科學(xué)技術(shù)、體育、商務(wù)、旅游、餐飲）n現(xiàn)代漢語(yǔ)短語(yǔ)結(jié)構(gòu)規(guī)則庫(kù)n中國(guó)古代詩(shī)詞語(yǔ)料庫(kù)n研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室示例n音字轉(zhuǎn)換系統(tǒng)語(yǔ)言知識(shí)庫(kù)機(jī)器 ji1qi4激起 ji1qi3吉期 ji2qi3極其 ji2qi2及其 ji2qi2研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights

39、 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室示例n現(xiàn)代漢語(yǔ)語(yǔ)義詞典安樂/形 D378安理會(huì)/名 L16安謐/形 D405安眠/動(dòng) C133安眠藥/名 C235研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室

40、什么是 ontologyn定義An ontology consists of a set of concepts, axioms, and relationships that describe a domain of interest Standard Upper Ontology (SUO) Working Groupn中文譯為“本體”n可以理解為知識(shí)庫(kù)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究

41、中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室什么是 ontologyn不同領(lǐng)域有不同的ontologyn我們關(guān)心的是語(yǔ)言ontology，又稱語(yǔ)言本體n語(yǔ)言本體通常特指語(yǔ)義知識(shí)庫(kù)，而語(yǔ)言知識(shí)庫(kù)則泛指詞匯、語(yǔ)法、語(yǔ)義知識(shí)庫(kù)研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室關(guān)于Hownetn董振東，董強(qiáng) n是一個(gè)以漢語(yǔ)和英語(yǔ)的詞語(yǔ)所代表的概念為描述

42、對(duì)象，以揭示概念與概念之間以及概念所具有的屬性之間的關(guān)系為基本內(nèi)容的常識(shí)知識(shí)庫(kù)- -董振東研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)概況漢字漢字7108詞匯詞匯83397英語(yǔ)單詞和短語(yǔ)英語(yǔ)單詞和短語(yǔ)79246研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All R

43、ights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)詞匯定義示例知網(wǎng)詞匯定義示例NO.=020957W_C=大學(xué)生大學(xué)生G_C=NE_C=W_E=college studentG_E=NE_E=研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知

44、網(wǎng)詞匯定義示例（續(xù)）知網(wǎng)詞匯定義示例（續(xù)）nDEF=human|人人:study|學(xué)學(xué)習(xí)習(xí):agent=,location=InstitutePlace|場(chǎng)場(chǎng)所所:domain=education|教教育育,modifier=HighRank|高等高等,study|學(xué)習(xí)學(xué)習(xí):location=,teach|教教:location=研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)

45、合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)可以告訴我們n詞類：詞類：ADJ：11648ADV：1513NOUN：46412VERB：25742研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)可以告訴我們n詞長(zhǎng)度統(tǒng)計(jì)詞長(zhǎng)度統(tǒng)計(jì)詞長(zhǎng)詞長(zhǎng)=1：6905詞長(zhǎng)詞長(zhǎng)=2：45724詞長(zhǎng)詞長(zhǎng)=3：13681詞長(zhǎng)詞長(zhǎng)=4：13822詞長(zhǎng)詞長(zhǎng)=5：1649研究生專業(yè)必修課研究生

46、專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)可以告訴我們n詞匯的同義、反義、對(duì)義集合n上下位概念“火車”上位概念：entity|實(shí)體 = thing|萬(wàn)物 = physical|物質(zhì) = inanimate|無(wú)生物 = artifact|人工物 = implement|器具 = vehicle|交通工具 = LandVehicle|車研究生專業(yè)必修課研究生專業(yè)必修課

47、自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)的義原、語(yǔ)義特征、語(yǔ)義知網(wǎng)的義原、語(yǔ)義特征、語(yǔ)義關(guān)系關(guān)系義原義原 Sememes2099Entity151 thing (physical, mental, fact) component (part, fitting) time space (direction, location)Event (relation, state;

48、action)812Attribute247AttributeValue 889次要特征次要特征 Secondary features113語(yǔ)義角色語(yǔ)義角色 Semantic roles90 研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)的應(yīng)用研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights

49、2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室知網(wǎng)應(yīng)用實(shí)例n基于知網(wǎng)的詞匯語(yǔ)義相似度計(jì)算語(yǔ)義相似度基于語(yǔ)言知識(shí)庫(kù)的語(yǔ)義相似度計(jì)算基于統(tǒng)計(jì)的語(yǔ)義相似度計(jì)算應(yīng)用n智能化信息檢索研究生專業(yè)必修課研究生專業(yè)必修課自然語(yǔ)言處理自然語(yǔ)言處理 , 2010年秋季年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室3、實(shí)用技術(shù)之一：如何構(gòu)造比較“專業(yè)”的語(yǔ)言知識(shí)庫(kù)？研究生專業(yè)必修課自然語(yǔ)言處理 , 2010年秋季Copyrights 2010. HIT. All Rights Reserved哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院語(yǔ)言技術(shù)研究中心哈工大哈工大-阿里巴巴聯(lián)合實(shí)驗(yàn)室阿里巴巴聯(lián)合實(shí)驗(yàn)室機(jī)器可讀詞典（機(jī)讀詞典）nMachine readable dictionarynlexic