因子分析與對應分析

關于因子分析與對應分析第1頁，課件共58頁，創(chuàng)作于2023年2月主成分分析是將多個指標化為少數相互無關的綜合指標的統(tǒng)計方法，通常數學上的處理就是將原來的p個指標做線性組合，作為新的綜合指標，記第一個綜合指標為F1。選取這個線性組合的原則是令F1的方差最大，稱F1為第一主成分；然后選取第二主成分F2，且F1與F2的協(xié)方差為0，類似構造其余的主成分。主成分分析——【Factor】過程對觀測量數目沒有嚴格要求第2頁，課件共58頁，創(chuàng)作于2023年2月第一節(jié)因子分析——【Factor】過程

主成分分析的推廣和發(fā)展，對觀測量數目要求至少是變量的5倍以上，且越多越好

一、因子分析簡介做什么？因子分析是多元統(tǒng)計分析中處理降維的一種統(tǒng)計方法，它主要將具有錯綜復雜關系的變量或者樣品綜合為數量較少的幾個因子，以再現原始變量與因子之間的相互關系?；舅枷耄海?）首先，通過變量（或樣品）的相關系數矩陣（或相似系數矩陣）內部結構的研究，找出能控制所有變量（或樣品）的少數幾個隨機變量（常稱為因子）去描述多個變量（或樣品）之間的相關（相似）關系；（2）然后，根據相關性（或相似性）的大小把變量（或樣品）分組，使得同組內的變量（或樣品）之間的相關性（或相似性）較高，但不同組的變量相關性（或相似性）較低。第3頁，課件共58頁，創(chuàng)作于2023年2月依據處理的對象不同，可以分為兩類：

R型因子分析，對變量做降維處理

Q型因子分析，對樣本做降維處理R型因子分析第4頁，課件共58頁，創(chuàng)作于2023年2月第5頁，課件共58頁，創(chuàng)作于2023年2月因子分析的幾個概念：1、因子載荷第6頁，課件共58頁，創(chuàng)作于2023年2月2、變量共同度

第7頁，課件共58頁，創(chuàng)作于2023年2月3、公因子Fj的方差貢獻第8頁，課件共58頁，創(chuàng)作于2023年2月4、因子旋轉因子旋轉的目的是為了使得因子載荷陣的結構簡化，便于對公共因子進行解釋。這里所謂的結構簡化是使每個變量僅在一個公共因子上有較大的載荷，而在其余公共因子上載荷比較小。這種變換因子載荷陣的方法稱為因子軸的旋轉。旋轉的方法有很多種，如正交旋轉，斜交旋軸等。第9頁，課件共58頁，創(chuàng)作于2023年2月5、因子得分第10頁，課件共58頁，創(chuàng)作于2023年2月因子分析的一般步驟第11頁，課件共58頁，創(chuàng)作于2023年2月二、引例（練習一）例1利用因子分析過程分析各個城市的市政設施建設情況。數據文件：“各地區(qū)城市市政設施.sav”，下表是部分數據。第12頁，課件共58頁，創(chuàng)作于2023年2月【Analyze】/【DataReduction】/【Factor】要求：選入分析變量（因子分析的變量）（定義記錄旋轉條件）第13頁，課件共58頁，創(chuàng)作于2023年2月要求：輸出相關系數矩陣；進行因子分析適用條件的檢驗Descriptives：選擇需要輸出的統(tǒng)計量（統(tǒng)計量）單變量描述統(tǒng)計量：各分析變量的均值、標準差及觀測數原始分析結果：原變量的公因子方差、與變量相同個數的因子、各因子的特征根及其所占總方差的百分比和累計百分比（相關矩陣）所有變量間的相關系數矩陣顯著性水平相關系數矩陣的行列式值KMO檢驗和Bartlett球形檢驗相關系數矩陣的逆矩陣再生相關系數矩陣反映像協(xié)方差陣和相關陣第14頁，課件共58頁，創(chuàng)作于2023年2月要求：輸出碎石圖Extraction：選擇因子提取的方法（選擇公共因子的提取方法）公共因子的提取方法：（1）主成分分析法（默認）；（2）不加權最小二乘法；（3）廣義最小二乘法；（4）極大似然法；（5）主軸因子法；（6）因子法；（7）影像因子法相關矩陣協(xié)方差矩陣（設定公共因子提取標準）顯示未經旋轉變換的因子提取結果顯示碎石圖，體現各因子重要程度自定義提取因子的數量以特征根大于指定數值為提取標準（收斂時的最大迭代次數）第15頁，課件共58頁，創(chuàng)作于2023年2月Rotation：選擇因子旋轉的方法方差最大化正交旋轉斜交旋轉法四分旋轉法平均正交旋轉法斜交旋轉法（設置旋轉解的輸出）（因子旋轉的方法）輸出主成分轉換矩陣輸出二維或三維的因子載荷圖第16頁，課件共58頁，創(chuàng)作于2023年2月要求：輸出因子得分系數矩陣FactorScores：因子得分（在數據文件中建立一個新變量，用于保存各觀測量的因子得分）（因子得分計算方法）回歸法巴特列特法安德森-魯賓法（輸出因子得分系數矩陣及因子協(xié)方差矩陣）第17頁，課件共58頁，創(chuàng)作于2023年2月要求：用均值代替缺失值Options對話框（選擇缺失值處理方法）（選擇系數的輸出方式）因子載荷矩陣和結構矩陣按數值大小排序不顯示絕對值小于指定數的載荷系數第18頁，課件共58頁，創(chuàng)作于2023年2月變量間相關性很高結果解讀：1、相關系數矩陣表第19頁，課件共58頁，創(chuàng)作于2023年2月接近0.9，適合做因子分析拒絕原假設，認為各變量之間不獨立2、KMO檢驗和Bartlett球形檢驗結果表注：

KMO檢驗用于檢驗變量間的偏相關系數是否過小，一般，KMO大于0.9時效果最佳，小于0.5時不適宜做因子分析。

Bartlett球形檢驗用于檢驗相關系數矩陣是否是單位陣，如果結論是不拒絕該假設，則表示各個變量都是各自獨立的。第20頁，課件共58頁，創(chuàng)作于2023年2月該變量95.4％的信息已經被提取3、變量共同度表給出了提取公共因子前后各變量的共同度（衡量公共因子的相對重要性指標）說明：比如變量X1的共同度位0.954，即提取的公共因子對變量X1的方差做出了95.4%的貢獻。第21頁，課件共58頁，創(chuàng)作于2023年2月4、主成分表列出了所有的主成分，且按照特征根從大到小次序排列。說明：第一主成分特征根為5.280，方差貢獻率為88.001%，前兩個主成分的累計貢獻率為94.504%，根據提取因子的條件——特征值大于1，本例只選出一個因子。第22頁，課件共58頁，創(chuàng)作于2023年2月提取一個主成分即可5、碎石圖按照特征根大小排列的主成分散點圖?？v坐標為特征值，橫坐標為因子數。第23頁，課件共58頁，創(chuàng)作于2023年2月6、因子負荷矩陣用來反映各個變量的變異主要由哪些因子解釋。第24頁，課件共58頁，創(chuàng)作于2023年2月7、因子得分系數矩陣得出用各個變量的線性組合表達的主成分。第25頁，課件共58頁，創(chuàng)作于2023年2月8、因子得分的協(xié)方差矩陣反映各因子間的聯(lián)系程度。注：本例只提取了一個公共因子，故表格內容無實際意義。第26頁，課件共58頁，創(chuàng)作于2023年2月例2利用因子分析過程分析一年內各個城市的日照情況。數據文件：“主要城市日照數.sav”?！続nalyze】/【DataReduction】/【Factor】要求：選入分析變量第27頁，課件共58頁，創(chuàng)作于2023年2月要求：輸出因子分析適用條件的檢驗第28頁，課件共58頁，創(chuàng)作于2023年2月要求：輸出碎石圖第29頁，課件共58頁，創(chuàng)作于2023年2月要求：輸出因子得分系數陣第30頁，課件共58頁，創(chuàng)作于2023年2月要求：采用方差最大化正交旋轉；輸出因子載荷圖第31頁，課件共58頁，創(chuàng)作于2023年2月結果解讀：1、KMO檢驗和Bartlett球形檢驗結果表說明：KMO檢驗結果為0.798，大于0.5，比較適合作因子分析；Bartlett球形檢驗的Sig.值為0，各變量不獨立。第32頁，課件共58頁，創(chuàng)作于2023年2月2、變量共同度表說明：變量“Jan”的共同度為0.915，即選取的公共因子提取了變量“Jan”91.5%的信息。第33頁，課件共58頁，創(chuàng)作于2023年2月3、主成分表說明：第一主成分特征根為6.854，方差貢獻率為57.041%，前3個主成分的累積貢獻率為84.421%，根據提取因子的條件——特征值大于1，本例選出3個因子。第34頁，課件共58頁，創(chuàng)作于2023年2月4、碎石圖說明：前3個主成分的特征根都在1以上。第35頁，課件共58頁，創(chuàng)作于2023年2月5、因子載荷矩陣給出各變量的因子表達式。第36頁，課件共58頁，創(chuàng)作于2023年2月6、旋轉后因子載荷矩陣經過正交旋轉后的因子載荷矩陣，給出旋轉后的各變量的因子表達式。說明：第一主因子主要由前5個變量決定，第二主因子主要由中間4個變量決定，第三主因子主要由最后3個變量決定。第37頁，課件共58頁，創(chuàng)作于2023年2月7、因子轉換矩陣旋轉前的因子載荷矩陣乘以因子轉換矩陣等于旋轉后的因子載荷矩陣。第38頁，課件共58頁，創(chuàng)作于2023年2月8、因子旋轉后的因子載荷圖圖中的坐標軸就是各個主因子。第39頁，課件共58頁，創(chuàng)作于2023年2月9、因子得分系數矩陣得到因子得分表達式。第40頁，課件共58頁，創(chuàng)作于2023年2月10、因子得分的協(xié)方差矩陣說明：因子得分的協(xié)方差矩陣為單位陣，得出提取的3個公共因子之間是不相關的。第41頁，課件共58頁，創(chuàng)作于2023年2月第二節(jié)簡單對應分析

——【CorrespondebceAnalysis】過程

又稱列聯(lián)表對應分析一、對應分析簡介對應分析是通過進行主成分分析來描述兩個或多個分類變量各水平間相關性的分析方法，它的分析結果主要采用反映變量間相互關系的對應分析圖來表示。對應分析在SPSS中分為兩類：

簡單對應分析——【CorrespondebceAnalysis】過程：主要研究兩個分類變量之間的關系。

多元對應分析——【OptimalScaling】過程第42頁，課件共58頁，創(chuàng)作于2023年2月對應分析表（列聯(lián)表）：第43頁，課件共58頁，創(chuàng)作于2023年2月

最后分別對行剖面點集和列剖面點集做主成分分析，以判斷兩個變量的聯(lián)系情況。第44頁，課件共58頁，創(chuàng)作于2023年2月例2利用簡單對應分析過程分析不同年齡段選民的傾向。數據文件：voter.sav二、引例（練習二）第45頁，課件共58頁，創(chuàng)作于2023年2月【Analyze】/【DimensionReduction】/【CorrespondenceAnalysis】要求：選入行變量（取值范圍為1~3）與列變量（取值范圍為1~4）（行變量）定義行變量取值范圍（列變量）定義列變量取值范圍第46頁，課件共58頁，創(chuàng)作于2023年2月Model：模式子對話框（設置分析結果維數）（選擇距離測量方式）卡方距離歐氏距離，主要用于連續(xù)變量（變量的標準化方式）（正則化方法）對稱法（默認）第47頁，課件共58頁，創(chuàng)作于2023年2月Satistics：設置需要輸出的統(tǒng)計量輸出對應分析表（列聯(lián)表）輸出行點概述表輸出列點概述表輸出行輪廓表輸出列輪廓表指定的前n個維度輸出基于行列得分的原始表格（輸出行點和列點的標準差、以及各維度坐標間的相關系數）第48頁，課件共58頁，創(chuàng)作于2023年2月Plots：設置需要輸出圖形（輸出對應分析圖）雙變量散點圖行點圖列點圖限制標簽長度輸出各行變量分類對應于行得分的散點圖輸出各列變量分類對應于列得分的散點圖（圖形維度）輸出分析結果的所有維度限制輸出維度的數目第49頁，課件共58頁，創(chuàng)作于2023年2月結果解讀：1、對應分析表給出不同年齡階段的人群分別投票給三位總統(tǒng)候選人的人數。第50頁，課件共58頁，創(chuàng)作于2023年2月2、結果匯總表列出維數、奇異值（慣量的平方根）、慣量（又指特征根）、總的卡方檢驗及Sig.值維數奇異值特征根總的卡方檢驗注：慣量用于說明對應分析各個維度的結果能夠解釋列聯(lián)表中兩個變量聯(lián)系的程度。說明：表中兩個維度分別解釋了總信息量的99.6%和0.4%，說明二維圖形完全可以表示兩個變量間的信息，且觀察時以第一維度為主。第51頁，課件共58頁，創(chuàng)作于2023年2月3、行點概述表給出行變量的3個分組在兩個維度中的分值每組所占百分比每組所對各個維度的貢獻量（點對維度慣量的貢獻量）（維度對點慣量的貢獻量）分組在第一、第二維度的坐標值第52頁，課件共58頁，創(chuàng)作于2023年2月4、列點概述表給出列變量的4個分組在兩個維度中的分值每組所占百分比分組在第一、第二維度的坐標值每組所對各個維度的貢獻量（點對維度慣量的貢獻量）（維度對點慣量的貢獻量）第53頁，課件共58頁，創(chuàng)作于2023年2月5、對應分析圖首先看同一變量的不同分組在某一側維度上靠的遠近程度，較近表示這些分組在該維度上區(qū)別不大，比如第二維度；然后看不同變量的各分組間的位置，從圖形中心(0,0)出發(fā)，相同方位上大致相同的區(qū)域內的不同變量的分組彼此有聯(lián)系。說明：可看出45~64歲這個階段的選民都傾向于克林頓，其他的沒有明顯的傾向性。第54頁，課件共58頁，創(chuàng)作于2023年2月第三節(jié)最優(yōu)尺度分析

——【OptimalScaling】過程初步認識【Analyze】/【DimensionReduction】/【OptimalScaling】多元對應分析分類變量主成分分析非線性典型相關分析分析變量中存