第7章 對數(shù)線性模型

1、第七章 對數(shù)線性模型對數(shù)線性模型Logit模型描述的是概率與協(xié)變量之間的關(guān)系；對數(shù)線性模型用來描述期望頻數(shù)與協(xié)變量之間的關(guān)系；考慮期望頻數(shù)m的取值范圍在0到無窮之間，故需要進(jìn)行對數(shù)變換為 ，使它的取值在 之間；對數(shù)線性模型具有以下形式：不過，與logit不同的是，對數(shù)模型中沒有解釋變量，是用行列因子的效應(yīng)參數(shù)來表示。( )lnf mm 與01 1lnkkmxx二維列聯(lián)表的對數(shù)線性模型設(shè)它的對數(shù)線性模型就是對 進(jìn)行分解，分解的方法與方差分析中效應(yīng)分解的方法完全相同。于是有，其中， 是總的平均， 和 分別是屬性A在Ai時和屬性B在Bj時的效應(yīng)，而 是屬性A和B的交互作用(關(guān)聯(lián)項或關(guān)聯(lián)參數(shù))。以上模

2、型是二維列聯(lián)表的飽和模型，其期望頻數(shù)的估計就是實際頻數(shù) 。(),1, ,1,ijijmE nir jclnijm( )( )( )lnija ib jab ijm( )a i( )b j( )ab ijijn二維列聯(lián)表的對數(shù)線性模型二維列聯(lián)表的非飽和模型為：其中沒有交互效應(yīng)，經(jīng)過轉(zhuǎn)換可以得到可見，列聯(lián)表獨立性成立，故稱為獨立性對數(shù)線性模型。其mij的估計為一般認(rèn)為，在對數(shù)線性模型中，當(dāng)?shù)碗A效應(yīng)為0時，其高階效應(yīng)也為0.因此，非飽和模型除以上形式外，還有另外兩種情況：( )( )lnija ib jm( )( )( )( )a ib ja ib jijmeee /ijijmn nn二維列聯(lián)表的對

3、數(shù)線性模型分別為：其中，屬性A與B獨立，或僅有屬性A的效應(yīng)，或僅有屬性B的效應(yīng)，且期望頻數(shù)的估計分別為：獨立對數(shù)線性模型是否成立的似然比檢驗和皮爾遜卡方檢驗統(tǒng)計量為：( )( )lnlnija iijb jmm,jiijijnnmmcr222()2ln,ijijijijijijmnmGnnm 二維列聯(lián)表的對數(shù)線性模型獨立性對數(shù)線性模型也可以理解為：根據(jù)獨立性條件 ，在兩邊取對數(shù)就得到一個相加關(guān)系，即 依賴于一個與樣本量n有關(guān)的項，一個與落入第i行的概率有關(guān)的項，和一個與落入第j列的概率有關(guān)的項，因此獨立性具有形式：其中，三個參數(shù)分別對應(yīng)樣本量的總效應(yīng)、行因素的效應(yīng)和列因素的效應(yīng)。因此，獨立性的

4、原假設(shè)等價于該模型的原假設(shè)，獨立性卡方和似然比檢驗，就是該模型的擬合優(yōu)度檢驗。ijijijmnpn lnijm( )( )lnija ib jm二維列聯(lián)表的對數(shù)線性模型從獨立性模型可知，列聯(lián)表的對數(shù)線性模型并不區(qū)分響應(yīng)變量和解釋變量，對單元頻數(shù)的建模，把行和列都看作響應(yīng)變量。對數(shù)線性模型的優(yōu)點在于：能定量表示屬性A在Ai時和屬性B在Bj時的效應(yīng)，以及它們之間的交互效應(yīng)?！纠繉o出的二維列聯(lián)表(表7.1)，構(gòu)建對數(shù)線性模型。首先根據(jù)原列聯(lián)表可以計算出期望頻數(shù)估計值，進(jìn)行獨立性檢驗， ,df=(3-1)(3-1)=4, p0.3,故獨立性成立。 224.7200,4.6656G二維列聯(lián)表的對數(shù)線

5、性模型在模型檢驗通過后，來進(jìn)行參數(shù)估計，方法與方差分析完全相同總的效應(yīng)平均為：屬性A在A1時的效應(yīng)(行效應(yīng))為：類似地，可得到屬性A在A2，A3時的效應(yīng)分別為：屬性B在B1,B2,B3時的效應(yīng)(列效應(yīng))分別為：(ln17.5ln6.56)/92.69(1)(ln17.5ln45ln17.5)/32.690.48a(2)(3)0.01,0.49aa (1)(2)(3)0.31,0.62,0.31bbb 二維列聯(lián)表的對數(shù)線性模型根據(jù)以上獨立模型的結(jié)果可知，在屬性A的效應(yīng)中，A1的行效應(yīng)最大為0.48，A3的行效應(yīng)最小為-0.49；在屬性B的效應(yīng)中，B1和B3的列效應(yīng)相同為-0.31，B2的列效應(yīng)最

6、大為0.62；因此，對數(shù)線性模型可以定量給出各種效應(yīng)的值。從以上對數(shù)線性模型的應(yīng)用可以看出，對數(shù)模型有假設(shè)前提：上例是假定每個因子的效應(yīng)參數(shù)和等于0.在一些軟件中通常是假定每個屬性的最后一個類別的參數(shù)等于0.高維列聯(lián)表的對數(shù)線性模型高維列聯(lián)表的對數(shù)線性模型與二維列聯(lián)表的情況類似，高維列聯(lián)表的對數(shù)線性模型也分飽和模型、非飽和模型；對于三維列聯(lián)表的飽和模型為：其中，除四個單因子項外，三個雙因子項，一個三因子項；而它的非飽和對數(shù)模型可能有8種情況：對于模型 ，等價于三維列聯(lián)表中A,B,C相互獨立，記為(A,B,C)；對于模型 ,等價于A與BC,B與AC,C與AB相互獨立；( )( )( )( )()

7、()()lnijka ib jc kab ijbc jkac ikabc ijkm( )( )( )lnijka ib jc km( )( )( )lnijka ib jc km任一二次效應(yīng)高維列聯(lián)表的對數(shù)線性模型對于模型 ，等價于A給定后B和C條件獨立， B給定后A和C條件獨立， C給定后A和B條件獨立;對于包括所有一次效應(yīng)和三個二次效應(yīng)的模型，等價于所有的獨立性被拒絕后的三維列聯(lián)表的相關(guān)模，即兩兩有交互作用，但三個之間沒有交互作用去情形；【例】對例5.3普通車和高檔車問題構(gòu)建對數(shù)線性模型(齊次關(guān)聯(lián)模型)。在高維列聯(lián)表的相關(guān)性討論中，該例中所有的獨立性都被拒絕了，因此判斷是相關(guān)模型，形式為：

8、( )( )( )lnijka ib jc km 任兩個二次效應(yīng)( )( )( )( )()()lnijka ib jc kab ijbc jkac ikm高維列聯(lián)表的對數(shù)線性模型應(yīng)用統(tǒng)計軟件可以方便得到模型的參數(shù)估計；也可以利用迭代法得到的期望頻數(shù)的估計值(表5.39)，來計算模型的效應(yīng)參數(shù)，方法與二維表相類似，與方差分析中效應(yīng)的計算完全相同；與二維表相比，需要注意的是交互作用的計算方法；在某一格確定后，要用這一格的均值同時減去行效應(yīng)、列效應(yīng)和總效應(yīng)，才是交互效應(yīng)。在以上齊次關(guān)聯(lián)模型中，條件優(yōu)勢比與分層因素?zé)o關(guān)，只與兩個因子的交互效應(yīng)有關(guān)；兩因子的交互效應(yīng)決定了條件優(yōu)勢比；決定的方式與因子效

9、應(yīng)的計算有關(guān)；高維列聯(lián)表的對數(shù)線性模型在上述齊次關(guān)聯(lián)模型下，無論按哪個屬性分層均得到四格表，其對數(shù)優(yōu)勢比為：因此，條件優(yōu)勢比與交互效應(yīng)的關(guān)系式為：當(dāng)按照對數(shù)模型每個因子的效應(yīng)參數(shù)和等于0的假設(shè)前提時， ；當(dāng)按照軟件的處理，令最后一類的參數(shù)等于0時，1122112212211221(11)(22)(12)(21)lnlnlnlnlnlnababababm mmmmmm m(11)(22)(12)(21)expabababab(11)exp4ab(11)expab不完備列聯(lián)表的對數(shù)線性模型對于先驗0的不完備列聯(lián)表，也可以建立對數(shù)線性模型；不完備二維列聯(lián)表的對數(shù)線性模型，與完備列聯(lián)表的區(qū)別僅在于定義域僅限于非空格，模型特點和功效與完備表類似；不完備列聯(lián)表的對數(shù)線性模型所起的作用，與完備表類似，既是擬獨立性討論的延伸，又具有應(yīng)用上的同一性；不完備三維列聯(lián)表的情況與完備的三維表相類似，需要借助軟件建立對數(shù)線性模型。對數(shù)模型與l