定性數(shù)據(jù)的建模分析精選課件

1、2022/7/26ncutstat1第八章 定性數(shù)據(jù)的建模分析 目錄 上頁 下頁 返回 結(jié)束 8.1 對數(shù)線性模型基本理論和方法8.2 對數(shù)線性模型分析的上機(jī)實驗8.3 Logistic回歸基本理論和方法8.4 Logistic回歸的方法與步驟2022/7/26ncutstat2第八章 定型數(shù)據(jù)的建模分析 目錄 上頁 下頁 返回 結(jié)束 第三章我們曾討論過定性數(shù)據(jù)的列聯(lián)表分析，對數(shù)線性模型是進(jìn)一步用于離散型數(shù)據(jù)或整理成列聯(lián)表格式的數(shù)據(jù)的統(tǒng)計分析工具。它可以把方差分析和線性模型的一些方法應(yīng)用到對交叉列聯(lián)表的分析中，從而對定性變量間的關(guān)系作更進(jìn)一步的描述和分析。2022/7/26ncutstat3

2、列聯(lián)表分析無法系統(tǒng)地評價變量間的聯(lián)系，也無法估計變量間交互作用的大小，而對數(shù)線性模型是處理這些問題的最佳方法。 當(dāng)被解釋變量是非度量變量時，可以用判別分析。 然而當(dāng)被解釋變量只有兩組時，Logistic回歸由于多種原因更受歡迎。 首先，判別分析依賴于嚴(yán)格的多元正態(tài)性和相等協(xié)差陣的假設(shè)，這在很多情況下是達(dá)不到的。 Logistic回歸沒有類似的假設(shè)，而且這些假設(shè)不滿足時，結(jié)果非常穩(wěn)定。 2022/7/26ncutstat4第八章 定型數(shù)據(jù)的建模分析 目錄 上頁 下頁 返回 結(jié)束 其次，即使?jié)M足假定，許多研究者仍偏好Logistic回歸，因為它類似于回歸分析。兩者都有直接的統(tǒng)計檢驗，都能包含非線性

3、效果和大范圍的診斷。因為這些和更多技術(shù)原因，Logistic回歸等同于兩組的判別分析，在很多情況下更加適用。再者，Logistic回歸對于自變量沒有要求，度量變量或者非度量變量都可以進(jìn)行回歸， 這樣，本章僅介紹定性數(shù)據(jù)建模的對數(shù)線性模型和Logistic回歸方法。2022/7/26ncutstat58 .1 對數(shù)線性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 本節(jié)將利用22維的交叉列聯(lián)表來說明對數(shù)線性模型的基本理論和方法，同時利用SPSS軟件對真實的經(jīng)濟(jì)定性數(shù)據(jù)作分析。 從22維的交叉列聯(lián)表的概率表，介紹對數(shù)線性模型的基本理論和方法。 2022/7/26ncutstat68 .1 對數(shù)線

4、性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat78 .1 對數(shù)線性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 對上面三式各取其平均數(shù)為： 該式的結(jié)構(gòu)與有交互效應(yīng)，且各水平均為二的雙因素方差分析模型的結(jié)構(gòu)相似，因此模仿方差分析，可以有如下關(guān)系式： 2022/7/26ncutstat88 .1 對數(shù)線性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 若記其中 移項，可得與有交互效應(yīng)的雙因素方差分析數(shù)學(xué)模型極為相似的關(guān)系式：2022/7/26ncutstat98 .1 對數(shù)線性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 (8.2) 2022/7/

5、26ncutstat108 .1 對數(shù)線性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat118 .1 對數(shù)線性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 在實際分析中，概率表中各項值，以交叉列聯(lián)表計算得的頻率表的對應(yīng)項為無偏估計值。公式表示為：2022/7/26ncutstat128 .1 對數(shù)線性模型基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 將以上三式代入公式（8.3）即可得 的估計值 。實際分析中，二維數(shù)據(jù)表并不是每個因素都是雙水平的，在分析中，把公式的 的取值上限調(diào)整即可。2022/7/26ncutstat138 .2 對數(shù)線性模型分析的上

6、機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 可以使用SPSS軟件來實現(xiàn)對數(shù)線性模型分析。這里舉一個例子是32維的交叉列聯(lián)表的分析。我們用SPSS軟件中的Loglinear模塊實現(xiàn)分析。 【例8.1】 某企業(yè)想了解顧客對其產(chǎn)品是否滿意，同時還想了解不同收入的人群對其產(chǎn)品的滿意程度是否相同。在隨機(jī)發(fā)放的1000份問卷中收回有效問卷792份，根據(jù)收入高低和滿意回答的交叉分組數(shù)據(jù)如表8-1： 2022/7/26ncutstat148 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 表8.1. 滿意不滿意合計高533891中434108542低11148159合計5981947922022/7

7、/26ncutstat158 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 首先要準(zhǔn)備數(shù)據(jù)，上面的交叉列連表的數(shù)據(jù)要輸入到spss的表格里去，具體應(yīng)當(dāng)是入下：頻數(shù)收入情況滿意情況5311434211113138121082248322022/7/26ncutstat168 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat178 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 按上面的形勢輸入數(shù)據(jù)后，還不能馬上進(jìn)行對數(shù)線性模型分析，必須先激活頻數(shù)，即讓頻數(shù)有效。具體步驟是：使用SPSS軟件，從主菜單中，以Data

8、Weight Cases.順序，打開Weight Cases對話框，選中Weight cases by單選框，從變量列表中選出“頻數(shù)”變量, 點擊鈕，使之進(jìn)入Frequency Variable框，然后點擊OK鈕，回到數(shù)據(jù)表格，這時分析前的準(zhǔn)備工作就完成了。這一步很重要，如果頻數(shù)沒有被激活，對數(shù)線性模型的模塊仍會執(zhí)行命令，但是得出的結(jié)果是錯誤的，所以使用時一定要小心。 2022/7/26ncutstat188 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 數(shù)據(jù)準(zhǔn)備工作完成后，就可以進(jìn)行下一步的分析了。從主菜單中，按AnalyzeLoglinearModel Selection

9、.的流程可打開Model Selection Loglinear Analysis對話框，從左側(cè)變量欄里選中“收入情況”，點擊鈕使之進(jìn)入Factor(s)框，這時該框下面的Define Range.鈕就會從灰色變?yōu)楹谏?，點擊彈出Loglinear Analysis: Define Range對話框，可以定義變量的范圍，即該變量的水平范圍，本例中“收入情況”共有三種類型，代號分別是1、2、3，所以在Minimum處鍵入1，在Maximum處鍵入3， 2022/7/26ncutstat198 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 點擊Continue鈕，返回Model S

10、election Loglinear Analysis對話框；按同樣方法，把“滿意情況”變量選入，并定以其范圍為1、2；然后選中“頻數(shù)”變量，點擊鈕使之進(jìn)入Cell Weight框；最后，點擊Options.鈕，進(jìn)入Loglinear Analysis:Options對話框，選擇Display for Saturated Model欄下的Parameter estimates項，點擊Continue鈕返回Model Selection Loglinear Analysis對話框，其他選項保持默認(rèn)值，最后點擊OK鈕即完成分析步驟。2022/7/26ncutstat208 .2 對數(shù)線性模型分析的

11、上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat218 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 首先顯示系統(tǒng)對792例資料進(jìn)行分析，這792例資料可分為6類（32）。模型中共有二個分類變量：其中“收入情況”變量為3水平，“滿意情況”情況變量為2水平；分析的效應(yīng)除了兩個分類變量，還有兩者的交互作用（收入情況*滿意情況）。系統(tǒng)經(jīng)1次疊代后，即達(dá)到相鄰二次估計之差不大于規(guī)定的0.001。 2022/7/26ncutstat228 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat238 .2 對數(shù)線性模

12、型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat248 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 這是對模型是否有交互效應(yīng)和高階效應(yīng)進(jìn)行檢驗，原假設(shè)是高階效應(yīng)為0，即沒有高階效應(yīng)。檢驗結(jié)果認(rèn)為拒絕原假設(shè)，存在交互效應(yīng)和高階效應(yīng)。在Note里，表示對飽和模型的觀測單元進(jìn)行了變換。2022/7/26ncutstat258 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat268 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 為了唯一地估計參數(shù)，系統(tǒng)強(qiáng)行限定同一分類變量的各水平參

13、數(shù)之和為0，故根據(jù)上表結(jié)果可推得各參數(shù)為：2022/7/26ncutstat278 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat288 .2 對數(shù)線性模型分析的上機(jī)實踐 目錄 上頁 下頁 返回 結(jié)束 參數(shù)值為正，表示正效應(yīng)；反之為負(fù)效應(yīng)；零為無效應(yīng)。分析提供的信息是：（1） 為正值，說明接受調(diào)查了的多數(shù)顧客對其產(chǎn)品還是滿意的；（2） ，說明各收入階層的顧客對其產(chǎn)品的滿意程度是不同的，其中，高收入的顧客滿意程度最低，而中層收入的顧客滿意程度最高；（3）通過對企業(yè)顧客的收入情況和滿意情況交互效應(yīng)的研究， 為負(fù)值表示高收入與對產(chǎn)品的滿意程度是負(fù)效

14、應(yīng)的， 為正表示中等收入者與對其產(chǎn)品的滿意程度是正效應(yīng)的，同理，低收入人群對其產(chǎn)品的滿意程度也是負(fù)效應(yīng)的。該企業(yè)的產(chǎn)品主要的消費階層是中等收入者，同時中等收入者對其產(chǎn)品的滿意程度也最好。2022/7/26ncutstat298 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat308 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat318 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat328 .3 Logistic回歸基本

15、理論和方法 目錄 上頁 下頁 返回 結(jié)束 Logistic回歸不同于一般回歸分析的地方在于它直接預(yù)測出了事件發(fā)生的概率。盡管這個概率值是個度量尺度，Logistic回歸與多元回歸還是有著很大的差異。概率值可以是01之間的任何值，但是預(yù)測值必須落入01的區(qū)間。這樣，Logistic回歸假定解釋變量與被解釋變量之間的關(guān)系類似于S形曲線。而且，不能從普通回歸的角度來分析Logistic回歸，因為這樣做會違反幾個假定。2022/7/26ncutstat33首先，離散變量的誤差形式服從貝努里分布，而不是正態(tài)分布，這樣使得基于正態(tài)性假設(shè)的統(tǒng)計檢驗無效。其次，二值變量的方差不是常數(shù)，會造成異方差性。Logi

16、stic回歸是專門處理這些問題的。它的解釋變量與被解釋變量之間獨特的關(guān)系使得在估計、評價擬合度和解釋系數(shù)方面有不同的方法。2022/7/26ncutstat348 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 估計Logistic回歸模型與估計多元回歸模型的方法是不同的。多元回歸采用最小二乘估計，將解釋變量的真實值與預(yù)測值差異的平方和最小化。而Logistic變換的非線性特征使得在估計模型的時候采用極大似然估計的疊代方法，找到系數(shù)的“最可能”的估計。這樣在計算整個模型擬合度的時候，就采用似然值而不是離差平方和。 2022/7/26ncutstat358 .3 Logi

17、stic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat368 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 前面已提到Logistic回歸在估計系數(shù)時，是用的極大似然估計法。就象多元回歸中的殘差平方和，Logistic回歸對模型擬合好壞通過似然值來測量。（實際上是用2乘以似然值的自然對數(shù)即2 Log似然值，簡記為2LL）。一個好的模型應(yīng)該有較小的2LL。如果一個模型完全擬合，則似然值為，這時2LL達(dá)到最小，為0。Logistic回歸對于系數(shù)的檢驗采用的是與多元回歸中t檢驗不同的統(tǒng)計量，稱為Wald統(tǒng)計量。有關(guān)Logistic回歸的

18、參數(shù)估計和假設(shè)檢驗詳見參考文獻(xiàn)8。2022/7/26ncutstat378 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 一、分組數(shù)據(jù)的Logistic回歸模型 針對0-1型因變量產(chǎn)生的問題，我們對回歸模型應(yīng)該做兩個方面的改進(jìn)。 第一，回歸函數(shù)應(yīng)該改用限制在0，1區(qū)間內(nèi)的連續(xù)曲線，而不能再沿用直線回歸方程。限制在0，1區(qū)間內(nèi)的連續(xù)曲線有很多，例如所有連續(xù)型隨機(jī)變量的分布函數(shù)都符合要求，我們常用的是Logistic函數(shù)與正態(tài)分布函數(shù)。Logistic函數(shù)的形式為（8.4） Logistic函數(shù)的中文名稱是邏輯斯諦函數(shù)，或簡稱邏輯函數(shù)。這里給出幾個Logistic函數(shù)的圖

19、形。見圖8-1、圖8-2。2022/7/26ncutstat388 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 圖8-1 的圖形 2022/7/26ncutstat398 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 圖8-2 的圖形 2022/7/26ncutstat408 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat418 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 【例8.2】 在一次住房展銷會上，與房地產(chǎn)商簽定初步購房意向書的共有n=325名顧

20、客中，在隨后的3個月的時間內(nèi)，只有一部分顧客確實購買了房屋。購買了房屋的顧客記為1，沒有購買房屋的顧客記為0。以顧客的年家庭收入（萬元）為自變量x，對如下的數(shù)據(jù)，建立Logistic回歸模型 2022/7/26ncutstat428 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 表8.2序號年家庭收入(萬元)x簽定意向書人數(shù)ni實際購房人數(shù)mi實際購房比例pi=mi/ni邏輯變換權(quán)重wi=nipi(1-pi)11.52580.320000-0.753775.44022.532130.406250-0.379497.71933.558260.448276-0.20764

21、14.34544.552220.423077-0.3101512.69255.543200.465116-0.1397610.69866.539220.5641030.2578299.59077.528160.5714290.2876826.85788.521120.5714290.2876825.14399.515100.6666670.6931473.3332022/7/26ncutstat438 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat448 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022

22、/7/26ncutstat458 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat468 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat478 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 表8.32022/7/26ncutstat488 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat498 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 得年收入8萬元的家庭預(yù)計實際購

23、房比例為58.5%，這個結(jié)果與未加權(quán)的結(jié)果很接近。 以上的例子是只有一個自變量的情況，分組數(shù)據(jù)的Logistic回歸模型可以很方便的推廣到多個自變量的情況，在此就不舉例說明了。 分組數(shù)據(jù)的Logistic回歸只適用于大樣本的分組數(shù)據(jù)，對小樣本的未分組數(shù)據(jù)不適用。并且以組數(shù)c為回歸擬合的樣本量，使擬合的精度低。實際上，我們可以用極大似然估計直接擬合未分組數(shù)據(jù)的Logistic回歸模型，以下就介紹這個方法。二、未分組數(shù)據(jù)的Logistic回歸模型 2022/7/26ncutstat508 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat51

24、8 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat528 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat538 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 2022/7/26ncutstat548 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 表8.4：序號性別年齡月收入序號性別年齡月收入10188500151201000020211200016125120003023850117127130004023950118128

25、150005028120011913095016031850020132100002022/7/26ncutstat558 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 表8.4（續(xù)）703615001211331800080421000122133100009046950123138120001004812000241411500011055180012514518001120562100126148100001305818001271521500114118850028156180012022/7/26ncutstat568 .3 Logistic回歸基本理論和方

26、法 目錄 上頁 下頁 返回 結(jié)束 依次點選SPSS軟件的Statistics-Regression-Logistic命令，進(jìn)入Logistic回歸對話框，選入變量，點選OK運行，以下表8-5是部分運行結(jié)果. 表8.52022/7/26ncutstat578 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 表8.5中SEX（性別）、AGE（年齡）、X2（月收入）是3個自變量，Wald是回歸系數(shù)檢驗的統(tǒng)計量值， （8.16） Sig是Wald檢驗的顯著性概率，R是偏相關(guān)系數(shù)。可以看到，X2（月收入）不顯著，決定將其剔除。用y對性別與年齡兩個自變量做回歸，輸出結(jié)果見8-6.2

27、022/7/26ncutstat588 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 表8.6可以看到，SEX、AGE兩個自變量都是顯著的，因而最終的回歸方程為： 2022/7/26ncutstat598 .3 Logistic回歸基本理論和方法 目錄 上頁 下頁 返回 結(jié)束 以上方程式表明，女性乘公共汽車的比例高于男性，年齡越高乘車的比例也越高。 SPSS軟件沒有給出Logistic 回歸的標(biāo)準(zhǔn)化回歸系數(shù)，對于Logistic 回歸，回歸系數(shù)也沒有普通線性回歸那樣的解釋，因而計算標(biāo)準(zhǔn)化回歸系數(shù)并不重要。如果要考慮每個自變量在回歸方程中的重要性，不妨直接比較Wald值

28、（或Sig值），Wald值大者（或Sig值小者）顯著性高，也就更重要。當(dāng)然這里假定自變量間沒有強(qiáng)的復(fù)共線性，否則回歸系數(shù)的大小及其顯著性概率都沒有意義。2022/7/26ncutstat608 .4 Logistic回歸的方法與步驟 目錄 上頁 下頁 返回 結(jié)束 鑒于Logistic回歸與判別分析的相似性，我們可以對比兩種方法的相似性和不同點。Logistic回歸的自變量可以是定量變量或定性變量（需要編碼），這樣可以檢驗自變量對于Logistic回歸模型的貢獻(xiàn)、自變量的顯著性以及Logistic模型的判別精度。Logistic回歸一般有以下幾個步驟。（1）選擇自變量和因變量。這里因變量為分組變量（限于篇幅，我們僅介紹因變量分兩組的情況），自變量可以是定量變量和定性變量。Logistic回歸對于資料數(shù)據(jù)有較強(qiáng)的穩(wěn)健性(robustness)，無須各組自變量的協(xié)差陣相等的假定。2022/7/26ncutstat