因子分析法詳細步驟精編版

1、二、因子分析模型二、因子分析模型一般地，設(shè)一般地，設(shè)X=(x1, x2, ,xp)為可觀為可觀測的隨機變量，且有測的隨機變量，且有 f=(f1,f2,fm)為公共（共性）因子為公共（共性）因子（common factor），簡稱因子），簡稱因子（factor）1 12 2iiiiim miXa fa fa fe e=(ee=(e1 1,e,e2 2,e,ep p)為特殊因子為特殊因子（specific factorspecific factor）f f和和e e均為不可直接觀測的隨機變量均為不可直接觀測的隨機變量 =(=(1 1, ,2 2,p p)為總體為總體x x的的均值均值 A=(aA=

2、(aijij) )p p* *m m為因子負荷（載荷）為因子負荷（載荷）（factor loadingfactor loading）矩陣）矩陣通常先對通常先對x作標準化處理，使其均值為零，作標準化處理，使其均值為零，方差為這樣就有方差為這樣就有假定（）假定（）fi的均數(shù)為，方差為；的均數(shù)為，方差為； （）（）e ei i的均數(shù)為，方差為的均數(shù)為，方差為i i； （）（） fi與與e ei i相互獨立相互獨立則稱則稱x x為具有為具有m m個公共因子的因子模型個公共因子的因子模型1122iiiimmixa fa fafe如果再滿足（）如果再滿足（）f fi i與與f fj j相互獨立相互獨立（i

3、jij），則稱該因子模型為正交因），則稱該因子模型為正交因子模型。子模型。正交因子模型具有如下特性：正交因子模型具有如下特性： x x的方差可表示為的方差可表示為設(shè)設(shè)222212iiiimhaaa22212( )1iiiimiVar xaaa （）（）h hi i2 2是是m m個公共因子對第個公共因子對第i i個變量個變量的貢獻，稱為第的貢獻，稱為第i i個共同度個共同度（communalitycommunality）或共性方差，公）或共性方差，公因子方差（因子方差（common variancecommon variance）（）（）i i稱為特殊方差（稱為特殊方差（specific sp

4、ecific variancevariance），是不能由公共因子解），是不能由公共因子解釋的部分釋的部分 因子載荷（負荷）因子載荷（負荷）a aijij是隨機變量是隨機變量x xi i與與公共因子公共因子f fj j的相關(guān)系數(shù)。的相關(guān)系數(shù)。 設(shè)設(shè)稱稱g gj j2 2為公共因子為公共因子f fj j對對x x的的“貢獻貢獻”，是，是衡量公共因子衡量公共因子f fj j重要性的一個指標。重要性的一個指標。2211,2,.,pjijigajm三、因子分析的步驟三、因子分析的步驟 輸入原始數(shù)據(jù)輸入原始數(shù)據(jù)xn*p，計算樣本均值和方，計算樣本均值和方差，進行標準化計算（處理）；差，進行標準化計算（處

5、理）； 求樣本相關(guān)系數(shù)矩陣求樣本相關(guān)系數(shù)矩陣R=(rij)p*p； 求相關(guān)系數(shù)矩陣的特征根求相關(guān)系數(shù)矩陣的特征根i i ( (1 1, ,2 2,p p0)0)和相應的標準正交和相應的標準正交的特征向量的特征向量li； 確定公共因子數(shù)；確定公共因子數(shù)； 計算公共因子的共性方差計算公共因子的共性方差hi2; 對載荷矩陣進行旋轉(zhuǎn)，以求能更好地對載荷矩陣進行旋轉(zhuǎn)，以求能更好地解釋公共因子；解釋公共因子； 對公共因子作出專業(yè)性的解釋。對公共因子作出專業(yè)性的解釋。四、因子分析提取因子的方法四、因子分析提取因子的方法 主成分法主成分法（principal component factor）1,2,., ;

6、1,2,.,ijjjialip jm每一個公共因子的載荷系數(shù)之平方和每一個公共因子的載荷系數(shù)之平方和等于對應的特征根，即該公共因子的等于對應的特征根，即該公共因子的方差。方差。221pjijjiag 極大似然法（極大似然法（maximum likelihood factor）假定原變量服從正態(tài)分布，公共因假定原變量服從正態(tài)分布，公共因子和特殊因子也服從正態(tài)分布，構(gòu)子和特殊因子也服從正態(tài)分布，構(gòu)造因子負荷和特殊方差的似然函數(shù)，造因子負荷和特殊方差的似然函數(shù)，求其極大，得到唯一解。求其極大，得到唯一解。 主因子法（主因子法（principal factor）設(shè)原變量的相關(guān)矩陣為設(shè)原變量的相關(guān)矩陣為

7、R=(rij)，其逆，其逆矩陣為矩陣為R-1=(rij)。各變量特征方差。各變量特征方差的初始值取為逆相關(guān)矩陣對角線元的初始值取為逆相關(guān)矩陣對角線元素的倒數(shù)，素的倒數(shù)，i i=1/r=1/riiii。則共同度則共同度的初始值為的初始值為(hi)2=1- i i=1-1/rii。以以(hi)2代替相關(guān)矩陣中的對角線上的元素，代替相關(guān)矩陣中的對角線上的元素，得到約化相關(guān)矩陣。得到約化相關(guān)矩陣。 (h1)2 r12 r1p r21 (h2)2 r2p R= . . . . . . rp1 rp2 (hp)2R的前的前m個特征根及其對應的單位化特征向個特征根及其對應的單位化特征向量就是主因子解。量就是

8、主因子解。 迭代主因子法迭代主因子法（iterated principal factor）主因子的解很不穩(wěn)定。因此，常以估計主因子的解很不穩(wěn)定。因此，常以估計的共同度為初始值，構(gòu)造新的約化矩的共同度為初始值，構(gòu)造新的約化矩陣，再計算其特征根及其特征向量，陣，再計算其特征根及其特征向量，并由此再估計因子負荷及其各變量的并由此再估計因子負荷及其各變量的共同度和特殊方差，再由此新估計的共同度和特殊方差，再由此新估計的共同度為初始值繼續(xù)迭代，直到解穩(wěn)共同度為初始值繼續(xù)迭代，直到解穩(wěn)定為止。定為止。 Heywood現(xiàn)象現(xiàn)象 殘差矩陣殘差矩陣五、因子旋轉(zhuǎn)五、因子旋轉(zhuǎn) 目的：使因子負荷兩極分化，要么目的：使

9、因子負荷兩極分化，要么接近于接近于0，要么接近于，要么接近于1。 常用的旋轉(zhuǎn)方法：常用的旋轉(zhuǎn)方法：（1 1）方差最大正交旋轉(zhuǎn)）方差最大正交旋轉(zhuǎn)（varimax varimax orthogonal rotationorthogonal rotation） 基本思想：使公共因子的相對負荷基本思想：使公共因子的相對負荷（l lijij/h/hi i2 2）的方差之和最大，且保持）的方差之和最大，且保持原公共因子的正交性和公共方差總和原公共因子的正交性和公共方差總和不變。不變。 可使每個因子上的具有最大載荷的變可使每個因子上的具有最大載荷的變量數(shù)最小，因此可以簡化對因子的解量數(shù)最小，因此可以簡化對因

10、子的解釋。釋。（2 2）斜交旋轉(zhuǎn)）斜交旋轉(zhuǎn)（oblique rotationoblique rotation） 因子斜交旋轉(zhuǎn)后，各因子負荷發(fā)生了因子斜交旋轉(zhuǎn)后，各因子負荷發(fā)生了較大變化，出現(xiàn)了兩極分化。各因子較大變化，出現(xiàn)了兩極分化。各因子間不再相互獨立，而彼此相關(guān)。各因間不再相互獨立，而彼此相關(guān)。各因子對各變量的貢獻的總和也發(fā)生了改子對各變量的貢獻的總和也發(fā)生了改變。變。 適用于大數(shù)據(jù)集的因子分析。適用于大數(shù)據(jù)集的因子分析。六、因子得分六、因子得分 Thomson法，即回歸法法，即回歸法回歸法得分是由回歸法得分是由Bayes思想導出的，得思想導出的，得到的因子得分是有偏的，但計算結(jié)果到的因子得分是有偏的，但計算結(jié)果誤差較小。誤差較小。 Bartlett法法Bartlett因子得分是極大似然估計，也是因子得分是極大似然估計，也是加權(quán)最小二乘回歸，得到的因子得分加權(quán)最小二乘回歸，得到的因子得分是無偏的，但計算結(jié)果誤差較大。是無偏的，但計算結(jié)果誤差較大。 因子得分可用于模型診斷，也可用作因子得分可用于模型診斷，也可用作進一步分析的原始資料。進一步分析的原始資料。七、因子分析應用實例七、因子分析應用實例八、因子分析應用的注意事項八、因子分析應用的注意事項 應用條件應用條件（1）變量是計量的，能用線性相關(guān)）變量是計量的，能用線性相關(guān)系數(shù)（系數(shù)（Pe