因子分析因素分析詳解

因子分析課件因素分析詳解第一頁，共四十一頁，2022年，8月28日一、案例引讀二、基本原理三、歷史淵源四、分析步驟目錄五、案例詳解第二頁，共四十一頁，2022年，8月28日一、案例引讀二、基本原理三、歷史淵源四、分析步驟五、案例詳解因素分析我要定制衣服身高袖長胸圍腰圍肩寬肩厚顏色我們廠要批量制作衣服SML長度胖瘦……指標一指標三指標二第三頁，共四十一頁，2022年，8月28日一、案例引讀因素分析身高袖長胸圍腰圍肩寬肩厚顏色……降維第一主成分第二主成分第三主成分將錯綜復雜的原變量歸結為少數(shù)幾個主成分主成分分析二、基本原理三、歷史淵源四、分析步驟五、案例詳解第四頁，共四十一頁，2022年，8月28日主成分分析特點原始變量間相關性較大幾個主成分之間相互獨立主成分信息由大到小身高肩寬袖長132原始變量數(shù)與主成分數(shù)相等5色5變量5色5主成分一、案例引讀因素分析二、基本原理三、歷史淵源四、分析步驟五、案例詳解第五頁，共四十一頁，2022年，8月28日一、案例引讀二、基本原理因素分析

因素分析（FactorAnalysis)就是將錯綜復雜的實測變量歸結為少數(shù)幾個因子的多元統(tǒng)計分析方法。其目的是揭示變量之間的內在關聯(lián)性，簡化數(shù)據(jù)維數(shù)，便于發(fā)現(xiàn)規(guī)律或本質。

因素分析的基本原理是根據(jù)相關性大小把變量分組，使得同組變量之間的相關性較高，不同組變量之間相關性較低。每組變量代表一個基本結構，這個結構用公共因子來進行解釋。三、歷史淵源四、分析步驟五、案例詳解第六頁，共四十一頁，2022年，8月28日一、案例引讀二、基本原理因素分析

因子負荷量是指因素結構中原始實測變量與因素分析時抽取出共同因素的相關程度。在因素分析中，用兩個重要指標“共同度”和“特殊因子”描述。

特征值是每個變量在某一共同因素之因素負荷量的平方總和（一直行所有因素負荷量的平方和）。方差貢獻率----指公共因子對實測變量的貢獻，又稱變異量。

共同度是每個變量在每個共同因素之負荷量的平方總和（一橫列中所有因素負荷量的平方和）。從共同性的大小可以判斷這個原始實測變量與共同因素間之關系程度。三、歷史淵源四、分析步驟五、案例詳解第七頁，共四十一頁，2022年，8月28日二、基本原理三、歷史淵源一、案例引讀CharlesSpearman1904年對智力測驗得分進行統(tǒng)計分析古典語（C）法語（F）英語（E）音樂（Mu）數(shù)學（M）判別（D）R因素分析四、分析步驟五、案例詳解第八頁，共四十一頁，2022年，8月28日二、基本原理三、歷史淵源一、案例引讀古典語（C）法語（F）英語（E）音樂（Mu）數(shù)學（M）判別（D）R4個假設：已知21xi=aiF+ei因素分析四、分析步驟五、案例詳解第九頁，共四十一頁，2022年，8月28日二、基本原理三、歷史淵源一、案例引讀x1=a11F1+a12F2+…+a1mFm+a1?1x2=a21F1+a22F2+…+a2mFm+a2?2……xp=ap1F1+ap2F2+…+apmFm+ap?p

因素分析把每個原始變量分解成兩部分：一部分由所有變量共同具有的少數(shù)幾個因子構成，即所謂公共因素部分；另一部分是每個變量獨自具有的因素，即所謂獨特因子部分。其中，F(xiàn)1，F(xiàn)2，…，F(xiàn)m叫做公共因子，它們是在各個變量中共同出現(xiàn)的因子。?i（i=1,2，…，p）表示影響xi的獨特因子，指原有變量不能被因子變量所解釋的部分，相當于回歸分析中的殘差部分。aij叫做因子負荷（載荷），它是第i個變量在第j個主因子上的負荷，它反映了第i個變量在第j個主因素的相對重要性。xp

為第p個變量的標準化分數(shù)；m為所有變量共同因素的數(shù)目；F1，F(xiàn)2，…，F(xiàn)m彼此獨立（轉軸方法問題）數(shù)學模型因素分析四、分析步驟五、案例詳解第十頁，共四十一頁，2022年，8月28日四、分析步驟樣本的優(yōu)劣因子得分xi=aiF+ei因子負荷主成分法因子旋轉F→F’便于解釋因素分析二、基本原理一、案例引讀五、案例詳解三、歷史淵源第十一頁，共四十一頁，2022年，8月28日四、分析步驟因素分析二、基本原理一、案例引讀五、案例詳解三、歷史淵源因子負荷主成分法因子旋轉F→F’利用主成分分析把前幾個主成分作為未旋轉的公共因子。F’=DF共同度不變每個因子的貢獻度變化因子載荷矩陣變化第十二頁，共四十一頁，2022年，8月28日四、分析步驟因素分析二、基本原理一、案例引讀五、案例詳解三、歷史淵源因子旋轉F’=DF保持F’間相互獨立斜交旋轉正交旋轉不是很容易解釋因子放棄F’間相互獨立容易解釋因子第十三頁，共四十一頁，2022年，8月28日五、案例詳解二、基本原理一、案例引讀五、分析步驟三、歷史淵源案例一案例二詳見《問卷統(tǒng)計與分析實務》吳明隆著；因素分析章節(jié)北京中等職業(yè)教育發(fā)展水平分析第十四頁，共四十一頁，2022年，8月28日對北京18個區(qū)縣中等職業(yè)教育發(fā)展水平的9個指標進行因子分析，然后進行綜合評價。x1：每萬人中等職業(yè)教育在校生數(shù)

x2：每萬人中等職業(yè)教育招生數(shù)

x3：每萬人中等職業(yè)教育畢業(yè)生數(shù)

x4：每萬人中等職業(yè)教育專任教師數(shù)

x5：本科以上學校教師占專任教師的比例

x6：高級教師占專任教師的比例

x7：學校平均在校生人數(shù)

x8：國家財政預算中等職業(yè)教育經費占國內生產總值的比例

x9：生均教育經費案例1第十五頁，共四十一頁，2022年，8月28日（1）選擇“Analyze（分析）——DataReduction（數(shù)據(jù)縮減）——Factor（因子）…”命令，彈出“FactorAnalyze（因子分析）”對話框，將變量“x1”到“x9”選入“Variables（變量）”框中。圖1-1FactorAnalyze對話框案例1描述性統(tǒng)計量分數(shù)轉軸法萃取選項操作過程第十六頁，共四十一頁，2022年，8月28日案例1（2）設置描述性統(tǒng)計量：單擊圖1-1對話框中的“Descriptives…”按鈕，彈出“FactorAnalyze:Descriptives”（因素分析：描述性統(tǒng)計量）對話框。單變量描述性統(tǒng)計量未轉軸之統(tǒng)計量系數(shù)

倒數(shù)模式顯著水平重制的行列式反映像KMO與Bartlett球形檢驗①“Statistics”（統(tǒng)計量）對話框

A“Univariatedescriptives”（單變量描述性統(tǒng)計量）：顯示每一題項的平均數(shù)、標準差。B“Initialsolution”（未轉軸之統(tǒng)計量）：顯示因素分析未轉軸前之共同性、特征值、變異數(shù)百分比及累積百分比。②“CorrelationMatric”（相關矩陣）選項框A“Coefficients”（系數(shù)）：顯示題項的相關矩陣B“Significancelevels”（顯著水準）：求出前述相關矩陣地顯著水準。C“Determinant”（行列式）：求出前述相關矩陣地行列式值。D“KMOandBartlett’stestofsphericity”（KMO與Bartlett的球形檢定）：顯示KMO抽樣適當性參數(shù)與Bartlett’s的球形檢定。E“Inverse”（倒數(shù)模式）：求相關矩陣的反矩陣。F“Reproduced”（重制的）：顯示重制相關矩陣，上三角形矩陣代表殘差值；而主對角線及下三角形代表相關系數(shù)。G“Anti-image”（反映像）：求出反映像的共變量及相關矩陣。圖1-2FactorAnalyze：Descriptives對話框操作過程第十七頁，共四十一頁，2022年，8月28日案例1（3）設置對因素的抽取選項：單擊圖1-1對話框中的“Extraction…”按鈕，彈出“FactorAnalyze:Extraction”（因素分析：萃?。υ捒?。①“Method”（方法）選項框：下拉式選項內有其中抽取因素的方法：

A“Principalcomponents”法：主成份分析法抽取因素，此為SPSS默認方法。

B“Unweightedleastsquares”法：未加權最小平方法。

C“Generalizedleastsquare”法：一般化最小平方法。

D“Maximumlikelihood”法：最大概似法。

E“Principal-axisfactoring”法：主軸法。

F“Alphafactoring”法：α因素抽取法。

G“Imagefactoring”法：映像因素抽取法。②“Analyze”（分析）選項框

A“Correlationmatrix”（相關矩陣）：以相關矩陣來抽取因素。B“Covariancematrix”（共變異數(shù)矩陣）：以共變量矩陣來抽取因素。③“Display”（顯示）選項框A“Unrotatedfactorsolution”（未旋轉因子解）：顯示未轉軸時因素負荷量、特征值及共同性。B“Screeplot”（陡坡圖）：陡坡圖。④“Extract”（抽?。┻x項框

A“Eigenvaluesover”（特征值）：后面的空格默認為1，表示因素抽取時，只抽取特征值大于1者，使用者可隨意輸入0至變量總數(shù)之間的值。

B“Numberoffactors”（因子個數(shù)）：選取此項時，后面的空格內輸入限定的因素個數(shù)。

相關矩陣共變異數(shù)矩陣未旋轉因子解陡坡圖特征值因子個數(shù)圖1-3FactorAnalyze：Extraction對話框操作過程第十八頁，共四十一頁，2022年，8月28日案例1（4）設置因素轉軸：單擊圖1-1對話框中的“Rotation…”按鈕，彈出“FactorAnalyze:Rotation”（因素分析：旋轉）對話框。②“Display”（顯示）選項框：

A“Rotatedsolution”（轉軸后的解）：顯示轉軸后的相關信息，正交轉軸顯示因素組型矩陣及因素轉換矩陣；斜交轉軸則顯示因素組型、因素結構矩陣與因素相關矩陣。

B“Loadingplots”（因子負荷量）：繪出因素的散步圖。③“MaximumIterationsforConvergence”：（收斂最大迭代）：轉軸時執(zhí)行的迭代最多次數(shù)，后面默認數(shù)字為25，表示算法執(zhí)行轉軸時，執(zhí)行步驟的次數(shù)上限。①“Method”（方法）選項方框內六種因素轉軸方法：

A“None”：不需要轉軸。

B“Varimax”：最大變異法。

C“Quartimax”：四次方最大值法。

D“Equamax”：相等最大值法。

E“DirectOblimin”：直接斜交轉軸法。

F“Promax”：Promax轉軸法。正交旋轉斜交旋轉不轉軸最大變異法四次方最大值法相等最大值法直接斜交轉軸法Promax轉軸法轉軸后的解因子負荷量收斂最大迭代圖1-4FactorAnalyze：Rotation對話框操作過程第十九頁，共四十一頁，2022年，8月28日案例1（5）設置因素分數(shù)：單擊圖1-1對話框中的“Scores…”按鈕，彈出“FactorAnalyze:Scores”（因素分析：因素分數(shù)）對話框。①“Saveasvariable”（因素存儲變量）選項框：

勾選時可將新建立的因素分數(shù)存儲至數(shù)據(jù)文件中，并產生新的變量名稱（默認為fact_1、fact_2、fact_3、fact_4等）。在“Method”（方法）框中表示計算因素分數(shù)的方法有三種：

A“Regression”：使用回歸法。

B“Bartlett”：使用Bartlette法。

C“Anderson-Robin”：使用Anderson-Robin法。

②“Displayfactorcoefficientmatrix”（顯示因素分數(shù)系數(shù)矩陣）選項：

勾選時可顯示因素分數(shù)系數(shù)矩陣。因素存儲變量方法使用回歸法使用Bartlette法使用Anderson-Robin法顯示因素分數(shù)系數(shù)矩陣圖1-5FactorAnalyze：Scores對話框操作過程第二十頁，共四十一頁，2022年，8月28日案例1（6）設置因素分析的選項：單擊圖1-1對話框中的“Options…”按鈕，彈出“FactorAnalyze:Options”（因素分析：選項）對話框。①“MissingValues”（缺失值）選項框：缺失值的處理方式。

A“Excludecaseslistwise”（完全排除缺失值）：觀察值在所有變量中沒有缺失值后才加以分析。

B“Excludecasespairwise”（成對排除觀察值）：在成對相關分析中出現(xiàn)缺失值的觀察值舍棄。C“Replacewithmean”（用平均數(shù)置換）：以變量平均值取代缺失值。②“CoefficientDisplayFormat”（系數(shù)顯示格式）選項框：因素負荷量出現(xiàn)的格式。

A“Sortedbysize”（依據(jù)因素負荷量排序）：根據(jù)每一因素層面的因素負荷量的大小排序。B“Suppressabsolutevalueslessthan”（絕對值舍棄的下限）：因素負荷量小于后面數(shù)字者不被顯示，默認的值為0.1。圖1-6FactorAnalyze：Options對話框操作過程完全排除缺失值用平均數(shù)置換依據(jù)因素負荷量排序絕對值舍棄的下限成對排除觀察值第二十一頁，共四十一頁，2022年，8月28日SPSS正在吭哧吭哧地為我們計算結果，請大家耐心等待哦！案例1（7）設置完所有的選項后，單擊“OK”按鈕，輸出結果。經過千辛萬苦的努力，我們終于可以看到結果數(shù)據(jù)了，大家有沒有很興奮呢？第二十二頁，共四十一頁，2022年，8月28日案例1結果分析（1）相關系數(shù)矩陣及其檢驗結果相關矩陣表1-7相關系數(shù)矩陣及其檢驗結果

表1-7是原有變量的相關系數(shù)矩陣及其檢驗?？梢钥吹?，大部分的相關系數(shù)都較高，各變量呈較強的線性關系，能夠從中提取公共因子，初步判定適合進行因素分析。第二十三頁，共四十一頁，2022年，8月28日結果分析案例1KMO是Kaiser-Meyer-Olkin的取樣適當性量數(shù)，用于比較變量間簡單相關和偏相關系數(shù)。

KMO的取值范圍在0-1之間。當KMO值越大時，表示變量間的共同因素越多，越適合進行因素分析。

Kaiser（1974）給出一個KMO的選取適合做因子分析的標準：KMO>0.9非常適合0.8<KMO<0.9適合0.7<KMO<0.8一般0.6<KMO<0.7不太適合0.5<KMO<0.6不適合KMO<0.5非常不適合進行因素分析的普通準則至少要在0.6以上此處的KMO值為0.762，表示適合因素分析。KMO取樣適切性量數(shù)Bartlett球形檢驗近似卡方分布自由度顯著性Bartlett’s球形檢驗是以變量的相關系數(shù)矩陣為出發(fā)點，零假設相關矩陣是一個單位陣。（即sig.值小于0.05時，適合做因子分析。）此題中，Bartlett’s球形檢驗的2值為131.281，自由度為36，sig.值為0.000，達到顯著，適合進行因素分析。表1-8KMO及Bartlett檢驗結果（2）KMO及Bartlett檢驗結果具體標準第二十四頁，共四十一頁，2022年，8月28日結果分析案例1（3）共同性表1-9因素間共同性結果共同性初始萃取萃取法：主成分分析法

表1-3為每個變量的初始共同性以及主成分分析法抽取主成分后的共同性。共同性越低，表示該變量不適合投入主成分分析中；共同性越高，表示該變量與其他變量可測量的共同特質越多，即該變量越有影響力。采用主成分分析法抽取共同因素時，初步的共同性估計值均為1。

此題中，所有變量的共同性均較高，各個變量信息丟失較少。因此本次因子提取的總體效果較理想。

我們所選的3個主成分反映了x1（在校生數(shù)）的信息程度。X1的共同度第二十五頁，共四十一頁，2022年，8月28日結果分析案例1（4）解釋總變異量表1-10解釋總變異量

表1-10分三大部分，①初始特征值（初步抽取共同因素的結果）。Total（總和）直列的數(shù)字為每一因子的特征值，特征值越大表示因子在解釋9個變量的變異量時越重要；第二直列“%ofVariance”（方差的%）為每一個抽取因素可解釋變量的百分比；第三直列“Cumulative%”（累計%）為解釋變量的變異量的累計百分比。②平方和負荷量萃?。ㄞD軸前的特征值、解釋變異量和累計解釋變異量）將左邊9個成份中抽取3個特征值最大的列于右邊。

③轉軸平方和負荷量（轉軸后的特征值、解釋變異量及累計解釋變異量）。解釋總變異量初始特征值平方和負荷量萃取轉軸平方和負荷量累計%方差的%總和成分萃取法：主成分分析法②③①

第一個因子的特征值為4.987，解釋原有9個變量總方差的55.415%（4.9879100%），累計方差貢獻率55.275%；其余數(shù)據(jù)含義類似。由于特征值是由大到小排列，所以第一個因子的解釋變異量通常是最大者，它解釋了總變異量的55.415%，其次是第二個1.868，再是第三個0.740。指定提取三個因子后，三個因子共解釋了原有變量總方差的84.390%。總體上，三個因子反映了原有變量的大部分信息，因子分析效果理想。

轉軸前三個因子的特征值分別為4.987，1.868，0.740，特征值總和為7.595；轉軸后為3.709，2.085，1.202，特征值總和為6.996。???

轉軸后，個別因子的特征值會改變，但所有因子的總特征值不變，轉軸后三個因子的特征值間差異較小。轉軸后四個因子可以解釋的總變異量不變，仍然是84.390。第二十六頁，共四十一頁，2022年，8月28日特征值碎石圖因子數(shù)目結果分析案例1（5）碎石圖圖1-11因素間共同性結果

碎石圖（陡坡圖）檢驗的判斷準則是取坡線突然劇升的因素，刪除坡線平坦的因素。圖1-11中我們可以看出，第三個因素以后，坡線甚為平坦，因而保留2個因素較為適宜。此題中我們保留了3個因子，其實第3個因子似乎可以刪除。

第二十七頁，共四十一頁，2022年，8月28日成分矩陣（a）成分轉軸后的成分矩陣（a）成分結果分析案例1（5）成分矩陣表1-12成分矩陣表1-13轉軸后的成分矩陣

表1-12顯示了因子負荷矩陣，是因子分析的核心內容?？梢钥闯觯?個變量在第1個因子上的負荷都很高，意味著它們與第1個因子的相關程度高，其余2個因子與9個變量的相關性較小。另外還可以看到，這三個因子的實際含義比較模糊。

表1-12顯示了旋轉后的成分矩陣。招生數(shù)、在校生數(shù)、畢業(yè)生數(shù)、專任教師數(shù)和經費比例4個變量在第1個因子上有較高的負荷，第1個因子主要解釋這4個變量，其意義代表中等職業(yè)教育的相對規(guī)模大小，可解釋為發(fā)展規(guī)模；生均教育經費、高級教師比例、本科教師比例3個變量在第2個因子上有較高的負荷，第2個因子主要解釋這3個變量，其意義代表中等職業(yè)教育的辦學條件（師資、經費），可解釋為辦學條件；第3個因子主要解釋學校平均在校生人數(shù)這個原有變量，其意義可表示中等職業(yè)教育的學校規(guī)模，可解釋為學校規(guī)模效益。與轉軸前相比，因子含義較為清晰。每變量在三個因子上的相關系數(shù)。第二十八頁，共四十一頁，2022年，8月28日成分矩陣（a）成分轉軸后的成分矩陣（a）成分結果分析案例1（5）成分矩陣表1-12成分矩陣表1-13轉軸后的成分矩陣

轉軸的目的在于獲得簡單結構（simplestructure），使一個共同因素很清楚的被一組變量數(shù)所界定，使每一個變量能歸屬于一個明確的主因素（homefactor）（Spicer，2005）。

因素負荷量的選取標準一般以0.4來檢驗。（即3個因素負荷量中只能有一個的絕對值大于0.4。）“經費比例”這一變量與共同因素二的因素負荷量為0.586，表示該變量雖然歸屬于共同因素一，但其與共同因素二仍有很密切的關聯(lián)?！氨究平處煴壤边@一變量也類似。這種結果顯示，以直交轉軸的最大變異法來進行因素轉軸，并未完全符合簡單結構的要求。

第二十九頁，共四十一頁，2022年，8月28日轉軸后的成分矩陣（a）成分結果分析案例1（5）成分矩陣表1-13轉軸后的成分矩陣

根據(jù)該表可以寫出本例的因子分析模型：招生數(shù)=0.937F1+0.142F2+0.202F3在校生數(shù)=0.909F1+0.328F2+0.205F3……平均人數(shù)=0.151F1+0.331F2+0.811F30.9372+0.1422+0.2022=0.976共同性為每個變量在各主成分上的負荷量的平方和。第三十頁，共四十一頁，2022年，8月28日結果分析案例1（6）因素轉換矩陣表1-14成分轉換矩陣

表1-14為因素轉換矩陣，利用轉軸前的因素矩陣乘以此處的因素轉換矩陣可得轉軸后的因素矩陣。第三十一頁，共四十一頁，2022年，8月28日結果分析案例1成分2轉軸后空間中的成分圖成分1成分3圖1-15負荷散點圖

圖1-15為根據(jù)表1-13“轉軸后的成分矩陣”所繪出的負荷散點圖，這里為3個因子的三維因子負荷散點圖，以3個因子為坐標，給出各原始變量在該坐標中的負荷散點圖。（7）負荷散點圖第三十二頁，共四十一頁，2022年，8月28日結果分析案例1（8）因子得分矩陣表1-16因子得分矩陣

表1-16為因子得分矩陣，這是根據(jù)回歸算法計算出來的因子得分函數(shù)的系數(shù)，根據(jù)該表可以得到下面的因子得分函數(shù)。

F1=0.247在校生數(shù)+0.287招生數(shù)+0.275畢業(yè)生數(shù)+0.277專任教師數(shù)-0.081本科教師比例-0.111高級教師比例-0.031平均人數(shù)+0.124經費比例-0.090生均教育經費；

F2=-0.036在校生數(shù)-0.151招生數(shù)-0.196畢業(yè)生數(shù)+0.050專任教師數(shù)-0.239本科教師比例+0.405高級教師比例-0.141平均人數(shù)+0.228經費比例-0.489生均教育經費；

F3=在校生數(shù)+0.287招生數(shù)+0.275畢業(yè)生數(shù)+0.277專任教師數(shù)-0.081本科教師比例-0.111高級教師比例-0.031平均人數(shù)+0.124經費比例-0.090生均教育經費；

據(jù)這3個因子得分函數(shù)自動計算18個樣本的3個因子得分，并且將3個因子得分作為新變量，保存在數(shù)據(jù)編輯窗口中（分別為fac_1、fac_2、fac_3，如圖1-17所示）。第三十三頁，共四十一頁，2022年，8月28日圖1-17因子得分結果分析案例1（9）因子得分第三十四頁，共四十一頁，2022年，8月28日表1-18因子的協(xié)方差矩陣結果分析案例1（9）因子的協(xié)方差矩陣

表1-18顯示了3個因子的協(xié)方差矩陣?？芍?，3個因子沒有線性相關性，實現(xiàn)了因子分析的設計目標。第三十五頁，共四十一頁，2022年，8月28日圖1-19綜合評價結果分析案例1（9）綜合評價

我們可根據(jù)上述分析結果對18個區(qū)縣的中等職業(yè)教育發(fā)展水平進行綜合評價。首先，根據(jù)3個因子的方差貢獻率確定權重。由于3個因子在較大程度上反映了原變量的大部分信息，其累計貢獻率達84.390%，因子可用因子的方差貢獻率作為綜合評價的權重，于是3個因子按各自的方差貢獻率加權相加為綜合評價得分，其計算公式為F=0.41F1+0.3F2+0.13F3，由綜合評價得分值的大小確定某一區(qū)縣中等職業(yè)教育發(fā)展的綜合水平。其次，根據(jù)F值的大小分類。計算結果如圖1-19中的“綜合”列。根據(jù)F值的大小可分為如下幾類：第一類，綜合發(fā)展水平好（綜合≥0.5）：朝陽、崇文、大興；第二類，綜合發(fā)展水平一般