數(shù)據(jù)挖掘2020上半年上課課件2classification h opinion

情感分析和觀點(diǎn)挖掘隨著微博、微信、博客、各類論壇等新社交網(wǎng)絡(luò)以及亞馬遜、京東、天貓等電子商務(wù)平臺(tái)的興起，越來(lái)越多的用戶在網(wǎng)絡(luò)上發(fā)布并傳播的信息量爆炸性增長(zhǎng)這些海量文本中有很大部分表達(dá)了用戶對(duì)于某個(gè)實(shí)體或事物的某種情感傾向和觀點(diǎn)，例如支持、反對(duì)、喜歡、討厭等情感分析和觀點(diǎn)挖掘情感分析（也叫觀點(diǎn)挖掘），指通過(guò)文本來(lái)挖掘人們對(duì)于產(chǎn)品、服務(wù)、組織、個(gè)人、事件等事物的觀點(diǎn)、情感傾向、態(tài)度等類似的數(shù)據(jù)挖掘任務(wù)有時(shí)候也被稱作觀點(diǎn)抽取、情感挖掘、主觀性分析、效果分析、情緒分析、評(píng)論挖掘等情感分析的概念現(xiàn)在，大家基本上達(dá)成共識(shí)，將其統(tǒng)稱為情感分析或者觀點(diǎn)挖掘在工業(yè)界，情感分析用的多一些；而在學(xué)術(shù)界，情感分析和觀點(diǎn)挖掘這兩個(gè)概念都在被頻繁使用。本PPT中，不對(duì)其加以區(qū)分。為了描述方便，將更多地使用觀點(diǎn)來(lái)代表人們對(duì)事物的各種主觀感受和看法。情感分析的概念情感分析的應(yīng)用十分廣泛例如，個(gè)人網(wǎng)購(gòu)時(shí)，可以先查看其他用戶對(duì)該商品的評(píng)價(jià)，通過(guò)對(duì)比不同用戶對(duì)不同商品的評(píng)價(jià)，最后決定買(mǎi)不買(mǎi)該類商品，要買(mǎi)的話，買(mǎi)哪個(gè)牌子的對(duì)商家或服務(wù)提供商而言，通過(guò)對(duì)用戶評(píng)價(jià)研究，可以進(jìn)一步改進(jìn)商品的缺陷，提高服務(wù)質(zhì)量情感分析的應(yīng)用手動(dòng)查看評(píng)論雖然可以做，但是，由于網(wǎng)絡(luò)上的評(píng)論信息多且雜，做起來(lái)并不容易，一般用戶很難在短時(shí)間內(nèi)找到自己所需要的信息這也正是自動(dòng)化的觀點(diǎn)抽取和挖掘技術(shù)出現(xiàn)的最主要的動(dòng)因情感分析的應(yīng)用情感分析的研究領(lǐng)域情感分析是一個(gè)涉及多學(xué)科交叉的研究領(lǐng)域，涉及的領(lǐng)域包括自然語(yǔ)言處理、信息檢索、機(jī)器學(xué)習(xí)、人工智能等。自上世紀(jì)90年代開(kāi)始，情感分析在國(guó)外開(kāi)始研究，到本世紀(jì)初，情感分析方面的研究開(kāi)始增多，受到普遍關(guān)注，并迅速發(fā)展起來(lái)。情感分析的研究領(lǐng)域國(guó)外研究最多的是對(duì)英語(yǔ)的觀點(diǎn)挖掘，而對(duì)于中文的觀點(diǎn)挖掘由于語(yǔ)言障礙且國(guó)內(nèi)相關(guān)領(lǐng)域研究起步較晚，目前所做的研究工作較少SA:Afascinatingproblem!Intellectuallychallenging&manyapplications.ApopularresearchareainNLP,anddatamining(Shanahan,Qu,andWiebe,2006(editedbook);Surveys-PangandLee2008;Liu,2006,2012,and2015)spreadfromCStomanagementandsocialsciences(Hu,Pavlou,Zhang,2006;Archak,Ghose,Ipeirotis,2007;LiuY,etal2007;Park,Lee,Han,2007;Dellarocas,Zhang,Awad,2007;Chen&Xie2007).Alargenumberofcompaniesinthespaceglobally>300intheUSalone.IttoucheseveryaspectofNLP&alsoisconfined.A“simple”semanticanalysisproblem.AmajortechnologyfromNLP.Butitishard.情感分析的粒度文檔級(jí)別句子級(jí)別方面級(jí)別文檔級(jí)情感分析將整個(gè)文檔看作一個(gè)整體進(jìn)行情感分類，判斷該文檔表達(dá)的是一個(gè)正面的、中立的、或者負(fù)面的情感例如，給定一個(gè)產(chǎn)品評(píng)論，判斷它整體上表達(dá)了對(duì)產(chǎn)品的正面的還是負(fù)面的看法這個(gè)粒度的情感分析假設(shè)每個(gè)文檔只對(duì)單個(gè)實(shí)體發(fā)表評(píng)論。因此，它不適用于評(píng)估或比較多個(gè)實(shí)體句子級(jí)情感分析以句子為單位進(jìn)行分類。判斷一個(gè)句子所表達(dá)的情感是正面的、中立的、還是負(fù)面的句子級(jí)別的情感分析和句子的主客觀判別具有非常大的聯(lián)系情感分析的粒度句子的主客觀判別的目的是區(qū)分主觀句和客觀句?？陀^句表達(dá)事實(shí)，如“這個(gè)顯示器是15英寸的”主觀句則表達(dá)觀點(diǎn)或者看法，如“我特別喜歡吃中餐”。但，并非只有主觀句才帶有情感色彩?？陀^句有時(shí)也隱藏著情感在里面，如“上個(gè)月剛買(mǎi)的電視機(jī)，圖像就不清晰了”。實(shí)際上隱含著對(duì)電視機(jī)顯示器的不滿。情感分析的粒度文檔級(jí)和句子級(jí)情感分析只是籠統(tǒng)地知道人們喜歡或者不喜歡某物，但并不知道到底喜歡的是哪些方面，不喜歡的又是哪些方面方面級(jí)情感分析方面級(jí)情感分析早期也叫做特征級(jí)情感分析,它首先識(shí)別出觀點(diǎn)的目標(biāo)（通常是一個(gè)實(shí)體），然后將其分成幾個(gè)方面，挖掘出人們?cè)诓煌矫鎸?duì)該實(shí)體的情感喜好比如，“盡管這款手機(jī)很貴，我還是很喜歡”，這個(gè)句子整體上對(duì)這款手機(jī)持肯定意見(jiàn)，但如果細(xì)分的話，實(shí)際上它喜歡這款手機(jī)，但是不喜歡它的價(jià)格情感分析的粒度在許多應(yīng)用中，觀點(diǎn)通常描述的是一個(gè)實(shí)體，或者是實(shí)體的幾個(gè)不同方面因此，實(shí)體（方面）級(jí)情感分析的目的是針對(duì)一個(gè)實(shí)體（或者該實(shí)體的幾個(gè)方面）判斷人們的情感喜好例如，“蘋(píng)果手機(jī)通話質(zhì)量好，但是電池壽命短”情感分析的粒度基于方面級(jí)的情感分析，可以生成一個(gè)關(guān)于實(shí)體的結(jié)構(gòu)化的摘要，從而將非結(jié)構(gòu)化文本數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)，用于各種定性和定量分析情感分析的粒度另外，人們常說(shuō)的還有兩種類型的情感分析，一種稱之為普通觀點(diǎn)挖掘，另一種稱之為比較觀點(diǎn)挖掘。普通觀點(diǎn)挖掘只對(duì)某個(gè)實(shí)體或者實(shí)體的某個(gè)方面表達(dá)喜好，如“A餐館的牛排很好吃”，表示對(duì)A餐館牛排的正面意見(jiàn)比較觀點(diǎn)挖掘則針對(duì)多個(gè)實(shí)體的共同方面進(jìn)行比較分析，如“A餐館的牛排比B餐館的牛排好吃”，比較了A餐館的牛排和B餐館的牛排，并表達(dá)了對(duì)A餐館牛排的偏好觀點(diǎn)的定義很難對(duì)觀點(diǎn)給出一個(gè)精確的定義。一般來(lái)說(shuō)，一個(gè)觀點(diǎn)可以從以下5個(gè)方面進(jìn)行表述：1）觀點(diǎn)的目標(biāo)實(shí)體2）觀點(diǎn)目標(biāo)實(shí)體的某個(gè)方面3）觀點(diǎn)的情感傾向4）觀點(diǎn)的持有者5）觀點(diǎn)的上下文觀點(diǎn)的目標(biāo)實(shí)體目標(biāo)實(shí)體說(shuō)明該觀點(diǎn)是關(guān)于什么的，可以是某個(gè)人、某個(gè)產(chǎn)品、某項(xiàng)政策等，也可以是另外的人所發(fā)表的觀點(diǎn)觀點(diǎn)目標(biāo)實(shí)體的某個(gè)方面觀點(diǎn)目標(biāo)實(shí)體的某個(gè)方面，即對(duì)某個(gè)實(shí)體的某個(gè)方面發(fā)表看法。當(dāng)把實(shí)體作為一個(gè)整體而不針對(duì)某個(gè)具體的方面發(fā)表看法時(shí)，可以用一個(gè)特殊詞“ALL”來(lái)代替，“ALL”可以看作是一個(gè)特殊的方面觀點(diǎn)的情感傾向觀點(diǎn)的情感傾向主要有正面、負(fù)面、中立等，或以不同的評(píng)分來(lái)表示如大多數(shù)網(wǎng)絡(luò)評(píng)論使用1到5顆星來(lái)表示喜歡的程度觀點(diǎn)的持有者和上下文觀點(diǎn)的持有者可以是個(gè)人，也可以是群體，如某委員會(huì)、某國(guó)人民等觀點(diǎn)的上下文主要指觀點(diǎn)提出時(shí)的背景信息，簡(jiǎn)單的如時(shí)間或者地點(diǎn)，復(fù)雜的如某個(gè)正在討論的話題的背景信息等觀點(diǎn)的定義觀點(diǎn)的定義提供了將非結(jié)構(gòu)化文本轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)的一個(gè)框架每個(gè)觀點(diǎn)可以用一個(gè)五元組來(lái)表示，即<Ei,Aij,Sijkl,Hk,Cl>，其中：Ei是觀點(diǎn)目標(biāo)實(shí)體的名稱Aij是Ei的一個(gè)方面Sijkl是該觀點(diǎn)對(duì)實(shí)體Ei在Aij方面的情感傾向Hk是觀點(diǎn)持有者，表明觀點(diǎn)是由Hk表達(dá)的而Cl是提出觀點(diǎn)的上下文觀點(diǎn)的定義在這里，Ei和Aij一起表示觀點(diǎn)的目標(biāo)。這個(gè)五元組可以看作是一個(gè)數(shù)據(jù)庫(kù)模式，基于此，提取的觀點(diǎn)信息可以存放在數(shù)據(jù)庫(kù)表中，然后使用數(shù)據(jù)庫(kù)管理系統(tǒng)或者各種聯(lián)機(jī)分析處理工具對(duì)其進(jìn)行定性、定量和趨勢(shì)分析OurexamplebloginquintuplesId:Abc123on5-1-2008“IboughtaniPhone

afewdaysago.Itissuchanicephone.Thetouchscreenisreallycool.Thevoicequalityisgreattoo.ItismuchbetterthanmyoldBlackberry,whichwasaterriblephoneandsodifficulttotypewithitstinykeys.However,

mymotherwasmadwithmeasIdidnottellherbeforeIboughtthephone.Shealsothoughtthephonewastooexpensive,…”Inquintuples

(iPhone,GENERAL,+,Abc123,5-1-2008) (iPhone,touch_screen,+,Abc123,5-1-2008)

….情感分析的任務(wù)任務(wù)1：觀點(diǎn)目標(biāo)實(shí)體的抽取任務(wù)2：觀點(diǎn)目標(biāo)方面的抽取任務(wù)3：觀點(diǎn)持有者的抽取任務(wù)4：觀點(diǎn)上下文抽取任務(wù)5：觀點(diǎn)情感傾向分析觀點(diǎn)目標(biāo)實(shí)體的抽取也就是要從文檔d中抽取出所有的命名實(shí)體Ei。類似于信息抽取中的命名實(shí)體識(shí)別技術(shù)命名實(shí)體識(shí)別的目標(biāo)是從文本中識(shí)別出命名實(shí)體并將其歸類為預(yù)定義的類別中觀點(diǎn)目標(biāo)實(shí)體的抽取目前主流的命名實(shí)體識(shí)別算法都是基于語(yǔ)言特征的，它們中的大部分將命名實(shí)體識(shí)別轉(zhuǎn)化為一個(gè)序列標(biāo)記的問(wèn)題，然后運(yùn)用各種機(jī)器學(xué)習(xí)算法來(lái)聯(lián)合確定各個(gè)詞組的命名實(shí)體標(biāo)簽，使得預(yù)定義的評(píng)分函數(shù)達(dá)到最大化觀點(diǎn)目標(biāo)實(shí)體的抽取其中用到的機(jī)器學(xué)習(xí)算法包括支持向量機(jī)、最大信息熵模型、隱馬爾科夫模型和條件隨機(jī)場(chǎng)等所利用的學(xué)習(xí)特征基本上都是基于語(yǔ)言信息的，比如大小寫(xiě)、數(shù)字信息、分隔符、POS標(biāo)簽等等觀點(diǎn)目標(biāo)方面的抽取也就是要從文檔d中抽取出觀點(diǎn)目標(biāo)實(shí)體Ei的各個(gè)方面類似于目標(biāo)實(shí)體的抽取。例如，“這款手機(jī)的屏幕很大、通話質(zhì)量很好、照片也不錯(cuò)，就是太貴”在這個(gè)評(píng)論中，屏幕、通話質(zhì)量、照片等名詞可以很明顯地看出是手機(jī)的幾個(gè)方面除此之外，還包含了對(duì)“價(jià)格”方面的評(píng)論，“價(jià)格”隱含在“太貴”這個(gè)形容詞短語(yǔ)中觀點(diǎn)目標(biāo)方面的抽取因此，在對(duì)觀點(diǎn)目標(biāo)的各個(gè)方面進(jìn)行抽取的過(guò)程中，除了抽取顯式的方面，也要把隱式的方面抽取出來(lái)有些隱式的方面在文本中表示的非常隱蔽，比如，“這款手機(jī)很難放進(jìn)口袋里”意味著尺寸有點(diǎn)大觀點(diǎn)持有者的抽取也就是要從文檔d中抽取出實(shí)體Hk并將其歸類到預(yù)定義的類別中類似于任務(wù)1和任務(wù)2觀點(diǎn)上下文抽取也就是要從文檔d中抽取出觀點(diǎn)的上下文Cl類似于任務(wù)1和任務(wù)2觀點(diǎn)情感傾向分析確定文檔d中所表達(dá)的針對(duì)實(shí)體Ei的方面Aij的觀點(diǎn)是正面的、負(fù)面的或中性的，或分配一個(gè)評(píng)分來(lái)代表所表達(dá)的情感的等級(jí)程度從微博中抽取觀點(diǎn)

基于觀點(diǎn)五元組框架的情緒分析（或觀點(diǎn)挖掘）往往被稱為基于方面的或基于特征的情感分析（或觀點(diǎn)挖掘）。下面來(lái)看一個(gè)具體的從微博中抽取觀點(diǎn)的例子從微博中抽取觀點(diǎn)發(fā)帖人：山青水秀發(fā)帖時(shí)間：2017年4月8日發(fā)帖內(nèi)容：（1）我們?nèi)覄倓偠燃倩貋?lái)，我們住在一個(gè)叫“海濱陽(yáng)光”的賓館里。（2）孩子們特別開(kāi)心，因?yàn)榈胶┚嚯x很近，一大早就跑去撿貝殼。（3）我覺(jué)得賓館整體還不錯(cuò)，環(huán)境好，設(shè)施很新。（4）可我先生覺(jué)得賓館的服務(wù)很差，離機(jī)場(chǎng)也有點(diǎn)遠(yuǎn)該評(píng)論可以得到如下6個(gè)觀點(diǎn)五元組：（海濱陽(yáng)光，距海距離，正面，山青水秀的孩子們，2017年4月8日）（海濱陽(yáng)光，整體，正面，山青水秀，2017年4月8日）（海濱陽(yáng)光，環(huán)境，正面，山青水秀，2017年4月8日）（海濱陽(yáng)光，設(shè)施，正面，山青水秀，2017年4月8日）（海濱陽(yáng)光，服務(wù)，負(fù)面，山青水秀的先生，2017年4月8日）（海濱陽(yáng)光，距機(jī)場(chǎng)距離，負(fù)面，山青水秀的先生，2017年4月8日）從微博中抽取觀點(diǎn)可以看出，情感分析的5個(gè)任務(wù)涉及兩大類核心技術(shù)，分別是：命名實(shí)體識(shí)別（任務(wù)1-4）情感傾向分析（任務(wù)5）文檔級(jí)情感分析：?jiǎn)栴}定義給定一個(gè)針對(duì)某實(shí)體e進(jìn)行評(píng)論的文檔d，識(shí)別出d所表達(dá)的針對(duì)e的情感s換句話說(shuō)，希望根據(jù)文檔d來(lái)確定如下觀點(diǎn)五元租〈_,ALL,s,_,_〉其中的ALL指所有方面，表示將實(shí)體e看作一個(gè)整體進(jìn)行評(píng)論該五元租中的三個(gè)下劃線分別代表實(shí)體e、觀點(diǎn)持有者h(yuǎn)和觀點(diǎn)上下文c。之所以用下劃線來(lái)代替，表示這里它們要么是已知的，要么是無(wú)關(guān)緊要的文檔級(jí)情感分析:問(wèn)題定義根據(jù)觀點(diǎn)五元租〈_,ALL,s,_,_〉中情感s的取值，可以將文檔級(jí)情感分析問(wèn)題分別影射為分類問(wèn)題或者回歸問(wèn)題如果s的取值是離散型的，如正面的、負(fù)面的等，則屬于分類問(wèn)題如果s的取值是數(shù)值型的或者序數(shù)型的（如從1到5），則屬于回歸問(wèn)題文檔級(jí)情感分析：?jiǎn)栴}定義這里再?gòu)?qiáng)調(diào)一下，文檔級(jí)情感分析假定整篇文檔只對(duì)一個(gè)實(shí)體發(fā)表了看法，而且發(fā)表看法的人只有一個(gè)，也就是觀點(diǎn)持有者只有一個(gè)如果文檔針對(duì)多個(gè)實(shí)體發(fā)表看法，如對(duì)實(shí)體A的看法是正面的，而對(duì)實(shí)體B的看法是負(fù)面的，在這樣情況下，對(duì)整個(gè)文檔做一個(gè)統(tǒng)一的情感判定是無(wú)意義的同樣，如果有多個(gè)人在同一篇文檔里發(fā)表了看法，也無(wú)法對(duì)其進(jìn)行整體的情感判斷。因?yàn)椴煌税l(fā)表的看法情感可能是不同的文檔級(jí)情感分析：?jiǎn)栴}定義有監(jiān)督的情感分析無(wú)監(jiān)督的情感分析有監(jiān)督的情感分析文檔級(jí)情感分析通常被看作是一個(gè)二元分類問(wèn)題：正面的和負(fù)面的。用到的訓(xùn)練集和測(cè)試集通常都是產(chǎn)品評(píng)論(單人單觀點(diǎn))由于在線評(píng)論通常會(huì)采用5級(jí)評(píng)分法（從1到5），一種最簡(jiǎn)單的方法是根據(jù)評(píng)分來(lái)進(jìn)行情感判別。比如，4-5分的評(píng)論可看作具有正面的情感，而1-2分的評(píng)論可看作具有負(fù)面的情感有監(jiān)督的情感分析在文檔這個(gè)級(jí)別，為簡(jiǎn)單起見(jiàn)，人們通常不考慮中立這個(gè)類別實(shí)際上考慮中立，將二分類問(wèn)題變成三分類問(wèn)題也是可以的比如，可以將所有的3分的評(píng)論看作是中立的有監(jiān)督的情感分析文檔級(jí)情感分類本質(zhì)上是一個(gè)文本分類問(wèn)題。因此，傳統(tǒng)的文本分類方法如樸素貝葉斯、支持向量機(jī)等都可以使用不同的是，傳統(tǒng)的文本分類將文檔分成不同的話題，如運(yùn)動(dòng)、政治、科學(xué)、娛樂(lè)等，在分類的過(guò)程中，話題相關(guān)的詞非常重要而在情感分類中，表達(dá)正面或負(fù)面看法的情感詞更重要，如好的、壞的、完美的、優(yōu)秀的、最差的等等。有監(jiān)督的情感分析既然說(shuō)文檔級(jí)情感分類的本質(zhì)是文本分類問(wèn)題，和其他有監(jiān)督學(xué)習(xí)問(wèn)題一樣，特征工程是最重要的雖說(shuō)傳統(tǒng)的文本分類所使用的特征同樣也可以應(yīng)用于情感分類，但分類效果會(huì)比較差有監(jiān)督的情感分析情感分類需要提取更多更高級(jí)的特征，這些特征應(yīng)該更適合于情感分類例如，可以使用如下的一些特征來(lái)進(jìn)行情感分類：詞及其頻率詞性(part-of-speech，POS)情感詞和情感短語(yǔ)詞及其頻率可以是單個(gè)詞或者短語(yǔ)，以及這些詞或短語(yǔ)出現(xiàn)的頻率計(jì)數(shù)這些特征在傳統(tǒng)的基于話題的文本分類中也經(jīng)常使用在某些情況下，詞或短語(yǔ)的位置也可以作為特征也可以使用TF-IDF作為特征和傳統(tǒng)的文本分類類似，這些特征對(duì)情感分類非常有效詞性（Part-of-Speech，POS）具有不同詞性的詞，作為特征的重要程度不同例如，形容詞通常包含情感更多一點(diǎn)，被認(rèn)為是最重要的情感特征也可以使用所有的詞性標(biāo)簽及短語(yǔ)作為特征常用的詞性標(biāo)簽列表標(biāo)簽描述標(biāo)簽描述CC并列連接詞PRP$所有格代詞CD基數(shù)RB副詞DT限定詞RBR副詞比較級(jí)EX存在句RBS副詞最高級(jí)FW外來(lái)詞RP小品詞IN介詞或從屬連詞SYM符號(hào)JJ形容詞TO介詞或不定式標(biāo)記JJR形容詞比較級(jí)UH感嘆詞JJS形容詞最高級(jí)VB動(dòng)詞原形LS列表標(biāo)識(shí)VBD動(dòng)詞過(guò)去式MD情態(tài)助動(dòng)詞VBG動(dòng)名詞或現(xiàn)在分詞NN單數(shù)名詞VBN過(guò)去分詞NNS復(fù)數(shù)名詞VBP動(dòng)詞非第三人稱單數(shù)NNP單數(shù)專有名詞VBZ動(dòng)詞第三人稱單數(shù)NNPS復(fù)數(shù)專有名詞WDTWH-限定詞PDT前位限定詞WPWH-代詞POS所有格標(biāo)記WP$WH-所有格代詞PRP人稱代詞WRBWH-副詞情感詞和情感短語(yǔ)指那些帶有正面或負(fù)面情感的單詞。例如：好的，美妙的，驚人的，都是正面的情感詞壞的，貧窮的，可怕的，都是負(fù)面的情感詞大多數(shù)情感詞是形容詞和副詞，但部分名詞（如：垃圾）和動(dòng)詞（如：恨）也可以用來(lái)表達(dá)情感除了單個(gè)的詞之外，有些短語(yǔ)也可以用來(lái)表達(dá)正面或負(fù)面的情感無(wú)監(jiān)督的情感分析情感詞是情感分析中最重要的因素，利用情感詞或者情感短語(yǔ)會(huì)對(duì)無(wú)監(jiān)督的情感分析問(wèn)題有極大幫助一種方法是基于某些固定的句法格式對(duì)文本進(jìn)行觀點(diǎn)挖掘。人們總結(jié)出來(lái)的一些句法格式如下表：第一個(gè)單詞詞性第二個(gè)單詞詞性第三個(gè)單詞詞性（不會(huì)被提?。?JJNN或者NNS任意詞性2RB，RBR或者RBSJJ不是NN或者NNS3JJJJ不是NN或者NNS4NN或者NNSJJ不是NN或者NNS5RB，RBR或者RBSVB，VBD，VBN或者VBG任意詞性無(wú)監(jiān)督的情感分析這些格式之所以這樣構(gòu)建，是因?yàn)樾稳菰~、副詞及其比較級(jí)和最高級(jí)通常都會(huì)表達(dá)某種觀點(diǎn)和情感并且這些形容詞和副詞會(huì)依據(jù)不同的名詞和動(dòng)詞表達(dá)不同的情感，因?yàn)槊~和動(dòng)詞會(huì)構(gòu)成不同的上下文內(nèi)容例如，形容詞“超級(jí)”，出現(xiàn)在短語(yǔ)“超級(jí)演員”中，可能表示為積極情感；但是如果出現(xiàn)在短語(yǔ)“超級(jí)騙子”中，則可能表示成一種消極情感。無(wú)監(jiān)督的情感分析情感分析算法可分為以下三步：第一步，如果兩個(gè)連續(xù)的單詞的詞性標(biāo)簽符合上表中給出的某個(gè)模式，那么就可以將這兩個(gè)連續(xù)的單詞提取出來(lái)比如句子：“今天是個(gè)好天氣”中的“好天氣”就會(huì)被提取出來(lái)，因?yàn)樗鼭M足表中的模式1(JJ+NN，表示形容詞+名詞)無(wú)監(jiān)督的情感分析第二步，采用點(diǎn)互信息（PMI）對(duì)所提取的短語(yǔ)進(jìn)行情感傾向估計(jì)：

所提取的短語(yǔ)的感情傾向SO是基于它與正向情感詞“好的”和消極情感詞“壞的”的相關(guān)性計(jì)算，即：

SO(短語(yǔ))=PMI(短語(yǔ),“好的”)-PMI(短語(yǔ),“壞的”）

其中具體概率的計(jì)算方法是通過(guò)在搜索引擎中對(duì)這些短語(yǔ)或詞進(jìn)行查詢并且記錄命中數(shù)，用命中數(shù)代替詞的概率。命中數(shù)是指，對(duì)于每個(gè)查詢，搜索引擎都會(huì)返回查詢的相關(guān)文檔，命中數(shù)就是所返回的相關(guān)文檔的數(shù)量。因此，通過(guò)對(duì)要計(jì)算相關(guān)性的兩個(gè)詞或短語(yǔ)，進(jìn)行單獨(dú)查詢和同時(shí)查詢，就能夠算出PMI中的概率。無(wú)監(jiān)督的情感分析第三步，對(duì)于一個(gè)給定的評(píng)論文檔，按第一步的方法提取出文檔中所有的短語(yǔ)，計(jì)算它們的情感傾向SO的平均值，如果平均值傾向于正向情感，則此評(píng)論文檔視為表示正向積極情感，否則表示負(fù)向消極情感。句子級(jí)情感分析文檔級(jí)情感分析的粒度對(duì)大多數(shù)應(yīng)用來(lái)說(shuō)可能太粗。有時(shí)需要以句子為單位，對(duì)每個(gè)句子所表達(dá)的情感進(jìn)行分析但是，句子級(jí)情感分析和文檔級(jí)情感分析之間無(wú)根本區(qū)別，因?yàn)榫渥涌梢员豢醋魇嵌涛臋n研究人員經(jīng)常對(duì)句子分析做的一個(gè)假設(shè)是：一句話通常只包含一條意見(jiàn)（盡管很多時(shí)候并非如此）。而一個(gè)文檔通常包含多條意見(jiàn)句子級(jí)情感分析可以把句子級(jí)情感分析看成一個(gè)三元分類問(wèn)題或者二元分類問(wèn)題如果看作二元分類問(wèn)題，則分類之前首先需要判斷一個(gè)句子是否包含觀點(diǎn)，然后再將包含觀點(diǎn)的句子分成正面句或者負(fù)面句判斷一個(gè)句子是否包含觀點(diǎn)通常被認(rèn)為是主觀性分類問(wèn)題。一般認(rèn)為客觀的句子不包含情感或觀點(diǎn)，事實(shí)上客觀的句子也有可能隱含著觀點(diǎn)。例如“電視昨天壞了”，這個(gè)句子雖然只是一個(gè)客觀的描述，但是隱含著關(guān)于電視的負(fù)面的情感句子級(jí)情感分析主觀性分類句子情感分類處理特殊句處理諷刺句主觀性分類：將句子分為主觀句和客觀句客觀句通常包含一些事實(shí)信息而主觀句則通常表達(dá)了個(gè)人的觀點(diǎn)和意見(jiàn)事實(shí)上，主觀句可以表示很多類型的信息，例如觀點(diǎn)，情感，懷疑，判斷，評(píng)估等等早期的研究將句子主觀性分類作為單一的問(wèn)題來(lái)研究，主要用于情感分類后來(lái)將主觀性分類作為情感分類的第一步，用來(lái)過(guò)濾沒(méi)有表達(dá)出情感的客觀句很多主觀性分類的方法基于有監(jiān)督學(xué)習(xí)例如，可以使用樸素貝葉斯方法進(jìn)行主觀性分類，先抽取一些二元特征（例如在句子中是否出現(xiàn)一些特定名詞、形容詞、數(shù)字等等），再建立分類器協(xié)助判斷句子的主客觀性這種方法的關(guān)鍵在于如何選取特征和如何構(gòu)建分類器主觀性分類：將句子分為主觀句和客觀句還有一些方法著重從一些特殊的特征角度考察句子的主客觀性，如：從標(biāo)點(diǎn)符號(hào)的角度從人稱代詞的角度從數(shù)字的角度主觀性分類：將句子分為主觀句和客觀句句子情感分類如果一個(gè)句子已經(jīng)被確定為主觀句，則需要進(jìn)一步確定它的情感傾向目前主要有兩種方法：基于情感詞典的方法。依靠一些已有的情感詞典或領(lǐng)域詞典，以及主觀文本中帶有情感極性的短語(yǔ)來(lái)判斷句子的情感基于機(jī)器學(xué)習(xí)的方法。使用機(jī)器學(xué)習(xí)的方法，通過(guò)選取有效的特征來(lái)完成分類任務(wù)句子情感分類：基于情感詞典的方法首先分析句子中的情感詞或短語(yǔ)的情感傾向，然后進(jìn)行加權(quán)求和。方法如下：其中，正負(fù)面情感詞的確定從人工標(biāo)注的情感詞典中確定可以看出，基于情感詞典的方法是一種無(wú)監(jiān)督的方法，情感分類器的構(gòu)建無(wú)需使用任何標(biāo)注文本。其難點(diǎn)在于如何抽取情感詞或短語(yǔ)以及如何判斷它們的情感傾向相比基于機(jī)器學(xué)習(xí)的方法，基于情感詞典的方法比較簡(jiǎn)單且符合直覺(jué)句子情感分類：基于機(jī)器學(xué)習(xí)的方法將情感傾向分析看做是一個(gè)有監(jiān)督的分類問(wèn)題。這類方法使用情感詞、表情符號(hào)、標(biāo)點(diǎn)符號(hào)等多種特征進(jìn)行分類,例如可以使用如下特征進(jìn)行分類基于機(jī)器學(xué)習(xí)方法的研究重點(diǎn)在于如何發(fā)現(xiàn)有效的特征，以及如何進(jìn)行特征選擇和特征融合特征描述特征描述1正向情感詞個(gè)數(shù)5特殊標(biāo)點(diǎn)符號(hào)是否出現(xiàn)（0或1）2負(fù)向情感詞個(gè)數(shù)6程度副詞個(gè)數(shù)3正向表情符號(hào)個(gè)數(shù)7否定詞個(gè)數(shù)4負(fù)向表情符號(hào)個(gè)數(shù)8連詞個(gè)數(shù)處理特殊句很多現(xiàn)有的對(duì)句子級(jí)的主觀性分類和情感分析方法主要適用于普通句但實(shí)際應(yīng)用中存在很多特殊句，如條件句、疑問(wèn)句等由于不同類型的句子使用不同的方法表達(dá)情感，所以不存在一個(gè)可以適用于所有類型句子的情感分析方法處理特殊句：條件句包含兩個(gè)子句：條件子句和結(jié)果子句子句的關(guān)系對(duì)整句的觀點(diǎn)極性有很大影響。簡(jiǎn)單根據(jù)情感詞無(wú)法判斷出句子的情感例如“如果你買(mǎi)的甲牌子的手機(jī)不好，那么就買(mǎi)乙牌子的吧”。這句話沒(méi)有明確表達(dá)對(duì)甲牌子手機(jī)的特定情感，但隱含著對(duì)乙牌子的手機(jī)積極的評(píng)價(jià)將對(duì)非條件句的情感分析方法用于條件句并不適合。為解決這個(gè)問(wèn)題，可以使用一些語(yǔ)言特征進(jìn)行有監(jiān)督學(xué)習(xí)。這些語(yǔ)言特征包括情感詞以及它們的位置，情感詞的詞性標(biāo)簽，時(shí)態(tài)，條件連接詞等處理特殊句：疑問(wèn)句例如，“誰(shuí)能告訴我在哪里可以買(mǎi)到一個(gè)好的甲牌子的手機(jī)？”。很明顯，講這句話的人沒(méi)有明確地表示出對(duì)甲牌子手機(jī)的積極或消極的情感。然而，“誰(shuí)能告訴我如何修好這個(gè)討厭的甲牌子手機(jī)？”，表示出了講話人對(duì)甲牌子手機(jī)的消極的情感因此如果要更精確地進(jìn)行情感分析，需要處理更多不同類型的句子處理諷刺句諷刺是一種復(fù)雜的語(yǔ)言行為，通常與文字表面所表述的含義相反在情感分析中，它意味著一個(gè)評(píng)論者雖然表面給出積極評(píng)價(jià)但實(shí)際上卻在表達(dá)他的消極態(tài)度根據(jù)已有經(jīng)驗(yàn)，在評(píng)論商品或服務(wù)時(shí)很少采用諷刺這種手法，而在網(wǎng)上政治討論和評(píng)論中這種手法非常常見(jiàn)處理諷刺句可以使用類似于半監(jiān)督學(xué)習(xí)的方法來(lái)識(shí)別諷刺通常來(lái)講，諷刺性的句子經(jīng)常與其他諷刺性的句子一起出現(xiàn)在文本中，因此可以使用一組事先標(biāo)記好的句子作為種子，然后通過(guò)網(wǎng)絡(luò)搜索自動(dòng)擴(kuò)展種子集，從而將其它的諷刺句找出來(lái)方面級(jí)情感分析方面級(jí)情感分析挖掘出人們?cè)诓煌矫鎸?duì)某實(shí)體的情感喜好。比如有兩個(gè)關(guān)于同一個(gè)旅館的評(píng)論。每個(gè)評(píng)論者都打了5星。如果僅僅觀察整體評(píng)分，并不能清晰的知道旅館獲得高分是因?yàn)樗牡乩砦恢脙?yōu)越還是它的服務(wù)質(zhì)量好。同時(shí)也不容易發(fā)現(xiàn)評(píng)論者為什么喜歡這個(gè)旅館的。方面級(jí)情感分析要做的就是把這個(gè)整體評(píng)分分解到不同的方面如價(jià)格、空間、地理位置、服務(wù)等。如果可以將整體評(píng)分分解成對(duì)不同方面的評(píng)分，就可以對(duì)評(píng)分者的評(píng)論有更詳盡的理解方面評(píng)分分析方法方面評(píng)分分析方法的目標(biāo)是使用用戶的評(píng)論和整體評(píng)分來(lái)生成不同方面的評(píng)分及其權(quán)重。這些結(jié)果可以應(yīng)用到很多地方，比如，可以生成某個(gè)實(shí)體基于方面的摘要，也可以分析評(píng)論者們的偏好等，而這些信息可以用于個(gè)性化的產(chǎn)品推薦更確切地說(shuō)，是使用一組相關(guān)主題的評(píng)論文本和整體評(píng)分生成以下三個(gè)結(jié)果：第一，評(píng)論主要針對(duì)的是哪些方面；第二，每個(gè)方面的評(píng)分是多少；第三，每個(gè)評(píng)論者對(duì)每個(gè)方面賦予的權(quán)重是多少方面評(píng)分分析方法：LARA方法第一步，將評(píng)論文本及其整體評(píng)分作為輸入。將評(píng)論文本分割為若干部分，每一部分談?wù)摰膬?nèi)容大致類似。從評(píng)論中選出那些談?wù)摰乩砦恢玫年P(guān)鍵詞，談?wù)摲块g情況的關(guān)鍵詞等，并得到每個(gè)部分中每個(gè)關(guān)鍵詞的頻率計(jì)數(shù)即使用地理位置、空間、價(jià)格等作為種子檢索每個(gè)部分的方面標(biāo)簽，從而獲得我們需要的計(jì)數(shù)在每個(gè)部分中可以進(jìn)一步的挖掘與種子關(guān)鍵詞相關(guān)的詞，從而可以將文本分為討論不同方面的幾個(gè)部分。方面評(píng)分分析方法：LARA方法第二步，使用在不同方面中的關(guān)鍵詞和它們的頻率計(jì)數(shù)來(lái)生成整體的評(píng)分。首先，使用在每個(gè)方面中的關(guān)鍵詞的權(quán)重預(yù)測(cè)對(duì)應(yīng)方面的評(píng)分。例如，如果在涉及地理位置的那些關(guān)鍵詞中，如果發(fā)現(xiàn)“驚喜”這個(gè)詞被提及了很多次，那么這個(gè)詞將會(huì)有很高的權(quán)重。這個(gè)高權(quán)重提高了地理位置的評(píng)分。對(duì)于“遠(yuǎn)”這個(gè)詞，如果這個(gè)詞也被提及了好多次，那么地理位置方面的評(píng)分將會(huì)降低。每個(gè)方面的評(píng)分假設(shè)等于詞頻率的加權(quán)組合，其中權(quán)重是詞的情感權(quán)重。其次，假設(shè)整體評(píng)分等于不同方面評(píng)分的加權(quán)組合。由于這個(gè)方法假定整體的評(píng)分只是簡(jiǎn)單地將各個(gè)方面評(píng)分加權(quán)平均，從而可以通過(guò)觀察到的關(guān)鍵詞的頻率計(jì)數(shù)來(lái)預(yù)測(cè)整體的評(píng)分。這是一個(gè)典型的生成模型的實(shí)例，其中各個(gè)方面的評(píng)分及其權(quán)重都是隱變量。接下來(lái)，在給定的關(guān)鍵詞下為整體評(píng)分構(gòu)建生成概率并通過(guò)調(diào)整參數(shù)使生成給定文本的整體評(píng)分的概率最大方面評(píng)分分析應(yīng)用昂貴的酒店便宜的酒店5星3星5星3星價(jià)格0.1340.1480.1710.093房間0.0980.1620.1260.121位置0.1710.0740.1610.082整潔0.0810.1630.1160.294服務(wù)0.2510.1010.1010.049左邊是喜歡昂貴的酒店的評(píng)論者的權(quán)重。他們給價(jià)格昂貴的酒店打5星，并且在服務(wù)上賦予很大的權(quán)重。這就表明這些人喜歡昂貴酒店是因?yàn)榭粗剡@些酒店周到的服務(wù)，這并不奇怪。同時(shí)也可以從另一方面檢驗(yàn)根據(jù)模型推斷出的權(quán)重是否合理右邊的五星評(píng)價(jià)屬于那些喜歡便宜酒店的評(píng)論者。和預(yù)期一樣，他們給酒店價(jià)格賦予很高的權(quán)重。對(duì)于那些更便宜的酒店，他們傾向于在房間的整潔程度方面賦予較大的權(quán)重。圖中顯示的是不同組的評(píng)論者賦予不同方面的平均權(quán)重。情感回歸如前所述，如果觀點(diǎn)五元租〈_,ALL,s,_,_〉中情感s的取值是數(shù)值型的或者序數(shù)型的（如從1到k），則屬于回歸問(wèn)題當(dāng)然，由于1到k個(gè)情感等級(jí)是離散而非連續(xù)的，如果不考慮它們之間的序數(shù)關(guān)系，也可以把這個(gè)問(wèn)題看作是一個(gè)多元分類問(wèn)題情感回歸這里考慮情感等級(jí)之間的序數(shù)關(guān)系，介紹一種稱之為有序邏輯回歸的方法該方法能夠預(yù)測(cè)出給定文本文檔d的情感等級(jí)具體地說(shuō)，當(dāng)將一個(gè)固定的文本文檔d作為輸入時(shí)，該方法能夠得到1到k之間的某個(gè)值作為輸出情感回歸先考慮k=2的情況，回顧一下如何用邏輯回歸的方法來(lái)區(qū)分出文檔所表達(dá)的情感是正面的還是負(fù)面的這里，X表示輸入特征向量，則由下面的式子可以得到輸出的評(píng)分：

Y=情感回歸這里共有M個(gè)特征，這些特征代表了一個(gè)文本文檔Y是一個(gè)可取0或1的變量，Y取1時(shí)表示正面情感，取0時(shí)則相反這是一個(gè)標(biāo)準(zhǔn)的二元分類問(wèn)題，因此可以使用邏輯回歸來(lái)解決它情感回歸在k>2的情況下，則需要將上述的方法進(jìn)行適應(yīng)性轉(zhuǎn)換和修改，來(lái)解決多層的評(píng)分預(yù)測(cè)問(wèn)題其基本思想是，采用多個(gè)二元分類器來(lái)解決情感回歸具體來(lái)說(shuō)，對(duì)于輸入X，每個(gè)分類器都需要預(yù)測(cè)出它的最后評(píng)分是否大于等于j所以，當(dāng)Yj=1時(shí)，表示評(píng)分大于等于j，取0時(shí)表示等級(jí)小于j因此，如果要預(yù)測(cè)范圍在1到k的一個(gè)評(píng)分的話，需要先用一個(gè)分類器來(lái)預(yù)測(cè)出評(píng)分是否大于等于k。如果小于k的話，用另一個(gè)分類器預(yù)測(cè)出評(píng)分是否大于等于k-1。依此類推，總共需要k-1個(gè)分類器就能預(yù)測(cè)出1到k的范圍內(nèi)的一個(gè)評(píng)分等級(jí)情感回歸通過(guò)這種轉(zhuǎn)換和修改，每個(gè)分類器需要一套不同的參數(shù)集，總體上參數(shù)個(gè)數(shù)就會(huì)增加很多如圖所示，位于不通層級(jí)的分類器用它所在的層號(hào)j來(lái)表示，這樣我們從高到低就有了第k個(gè)分類器，第k-1個(gè)分類器，…，第2個(gè)分類器。總共有k-1個(gè)分類器對(duì)于這k-1個(gè)分類器，每個(gè)分類器都有自己的參數(shù)集。如圖所示，采用這樣的方法，就可以預(yù)測(cè)出不同的評(píng)分等級(jí)。情感回歸情感回歸當(dāng)獨(dú)立地訓(xùn)練完k-1個(gè)邏輯回歸分類器后，對(duì)于一個(gè)新的實(shí)例，就可以順序地調(diào)用這些分類器來(lái)預(yù)測(cè)出最后結(jié)果：首先，選取與評(píng)分等級(jí)k對(duì)應(yīng)的分類器，這個(gè)分類器會(huì)預(yù)測(cè)出新的實(shí)例對(duì)象是否是評(píng)分等級(jí)k。依據(jù)邏輯回歸可知，如果分類器預(yù)測(cè)結(jié)果大于0.5，則結(jié)論就是它是評(píng)分等級(jí)k，否則調(diào)用下一個(gè)與評(píng)分等級(jí)k-1所對(duì)應(yīng)的分類器，在此得到結(jié)論是否是評(píng)分等級(jí)k-1。以此類推，一直調(diào)用相對(duì)應(yīng)的分類器，直到得出最后的分類結(jié)果。情感回歸但是這種方法不是解決此問(wèn)題的最優(yōu)方法，其中有兩個(gè)問(wèn)題:第一個(gè)問(wèn)題是這種方法會(huì)帶來(lái)很多的參數(shù)。對(duì)于k-1個(gè)分類器，每個(gè)分類器都有M+1個(gè)參數(shù)，所以總共會(huì)有(k-1)*(M+1)個(gè)參數(shù)。通常參數(shù)多的情況下，需要更多的訓(xùn)練數(shù)據(jù)來(lái)優(yōu)化參數(shù)并調(diào)優(yōu)模型第二個(gè)問(wèn)題是這k-1個(gè)分類器并不是真正獨(dú)立的。通常情況下，具有正面情感的詞會(huì)使任意一個(gè)分類器的評(píng)分等級(jí)偏高。在分類時(shí)應(yīng)該充分利用這一特點(diǎn)，這也正是有序邏輯回歸的基本思想。有序邏輯回歸有序邏輯回歸是k-1個(gè)獨(dú)立的邏輯回歸分類器的改進(jìn)和提升版本。改進(jìn)的方法就是對(duì)于參數(shù)β，假定對(duì)所有k-1個(gè)分類器，β的值都是相同的這也符合我們的直觀感受，正面情感的詞更可能會(huì)得到更高的評(píng)分等級(jí)有序邏輯回歸這種改進(jìn)也會(huì)有兩個(gè)好處：一個(gè)就是大大減少了分類器中參數(shù)的數(shù)量另一個(gè)則是可以共享訓(xùn)練數(shù)據(jù)集，因?yàn)樗械姆诸惼鞯膮?shù)都相同。由此就可以在更多的數(shù)據(jù)情況下，能更好地訓(xùn)練和調(diào)優(yōu)參數(shù)β的值。深度學(xué)習(xí)情感分析Word2Vector是google在2013年推出的一個(gè)NLP工具，它的特點(diǎn)是將所有的詞向量化，這樣詞與詞之間就可以定量的去度量他們之間的關(guān)系，挖掘詞之間的聯(lián)系。One-hot表示使用是詞向量維度大小為整個(gè)詞匯表的大小，對(duì)于每個(gè)具體的詞匯表中的詞，將對(duì)應(yīng)的位置置為1缺點(diǎn)：維度太高，詞匯表的大小詞與詞之間是正交的，沒(méi)有任何相似性。但實(shí)際上詞之間有相似性，比如近義詞10000man00100womanWord2Vector能否找到一種詞的表示方法，能夠表示詞之間的相似性，同時(shí)維度又不太高？滿足：維度低，能表示近義詞，[king]-[man]+[woman]=[queen]如何得到？PLSA、LDA：時(shí)間復(fù)雜度太高另一種方法：上下文表示法，出現(xiàn)在相同的上下文中的詞是近似的，比如，面條和饅頭經(jīng)常出現(xiàn)在相同的上下文中，?是相似的。而黑板和饅頭不經(jīng)常出現(xiàn)在一起，故不相似。man0.880.100.010.01woman0.920.020.050.01king0.960.010.010.01queen0.98