因子分析法詳細(xì)步驟精編版

1、二、因子分析模型二、因子分析模型一般地，設(shè)一般地，設(shè)X=(x1, x2, ,xp)為可觀為可觀測(cè)的隨機(jī)變量，且有測(cè)的隨機(jī)變量，且有 f=(f1,f2,fm)為公共（共性）因子為公共（共性）因子（common factor），簡(jiǎn)稱(chēng)因子），簡(jiǎn)稱(chēng)因子（factor）1 12 2iiiiim miXa fa fa fe e=(ee=(e1 1,e,e2 2,e,ep p)為特殊因子為特殊因子（specific factorspecific factor）f f和和e e均為不可直接觀測(cè)的隨機(jī)變量均為不可直接觀測(cè)的隨機(jī)變量 =(=(1 1, ,2 2,p p)為總體為總體x x的的均值均值 A=(aA=

2、(aijij) )p p* *m m為因子負(fù)荷（載荷）為因子負(fù)荷（載荷）（factor loadingfactor loading）矩陣）矩陣通常先對(duì)通常先對(duì)x作標(biāo)準(zhǔn)化處理，使其均值為零，作標(biāo)準(zhǔn)化處理，使其均值為零，方差為這樣就有方差為這樣就有假定（）假定（）fi的均數(shù)為，方差為；的均數(shù)為，方差為； （）（）e ei i的均數(shù)為，方差為的均數(shù)為，方差為i i； （）（） fi與與e ei i相互獨(dú)立相互獨(dú)立則稱(chēng)則稱(chēng)x x為具有為具有m m個(gè)公共因子的因子模型個(gè)公共因子的因子模型1122iiiimmixa fa fafe如果再滿(mǎn)足（）如果再滿(mǎn)足（）f fi i與與f fj j相互獨(dú)立相互獨(dú)立（i

3、jij），則稱(chēng)該因子模型為正交因），則稱(chēng)該因子模型為正交因子模型。子模型。正交因子模型具有如下特性：正交因子模型具有如下特性： x x的方差可表示為的方差可表示為設(shè)設(shè)222212iiiimhaaa22212( )1iiiimiVar xaaa （）（）h hi i2 2是是m m個(gè)公共因子對(duì)第個(gè)公共因子對(duì)第i i個(gè)變量個(gè)變量的貢獻(xiàn)，稱(chēng)為第的貢獻(xiàn)，稱(chēng)為第i i個(gè)共同度個(gè)共同度（communalitycommunality）或共性方差，公）或共性方差，公因子方差（因子方差（common variancecommon variance）（）（）i i稱(chēng)為特殊方差（稱(chēng)為特殊方差（specific sp

4、ecific variancevariance），是不能由公共因子解），是不能由公共因子解釋的部分釋的部分 因子載荷（負(fù)荷）因子載荷（負(fù)荷）a aijij是隨機(jī)變量是隨機(jī)變量x xi i與與公共因子公共因子f fj j的相關(guān)系數(shù)。的相關(guān)系數(shù)。 設(shè)設(shè)稱(chēng)稱(chēng)g gj j2 2為公共因子為公共因子f fj j對(duì)對(duì)x x的的“貢獻(xiàn)貢獻(xiàn)”，是，是衡量公共因子衡量公共因子f fj j重要性的一個(gè)指標(biāo)。重要性的一個(gè)指標(biāo)。2211,2,.,pjijigajm三、因子分析的步驟三、因子分析的步驟 輸入原始數(shù)據(jù)輸入原始數(shù)據(jù)xn*p，計(jì)算樣本均值和方，計(jì)算樣本均值和方差，進(jìn)行標(biāo)準(zhǔn)化計(jì)算（處理）；差，進(jìn)行標(biāo)準(zhǔn)化計(jì)算（處

5、理）； 求樣本相關(guān)系數(shù)矩陣求樣本相關(guān)系數(shù)矩陣R=(rij)p*p； 求相關(guān)系數(shù)矩陣的特征根求相關(guān)系數(shù)矩陣的特征根i i ( (1 1, ,2 2,p p0)0)和相應(yīng)的標(biāo)準(zhǔn)正交和相應(yīng)的標(biāo)準(zhǔn)正交的特征向量的特征向量li； 確定公共因子數(shù)；確定公共因子數(shù)； 計(jì)算公共因子的共性方差計(jì)算公共因子的共性方差hi2; 對(duì)載荷矩陣進(jìn)行旋轉(zhuǎn)，以求能更好地對(duì)載荷矩陣進(jìn)行旋轉(zhuǎn)，以求能更好地解釋公共因子；解釋公共因子； 對(duì)公共因子作出專(zhuān)業(yè)性的解釋。對(duì)公共因子作出專(zhuān)業(yè)性的解釋。四、因子分析提取因子的方法四、因子分析提取因子的方法 主成分法主成分法（principal component factor）1,2,., ;

6、1,2,.,ijjjialip jm每一個(gè)公共因子的載荷系數(shù)之平方和每一個(gè)公共因子的載荷系數(shù)之平方和等于對(duì)應(yīng)的特征根，即該公共因子的等于對(duì)應(yīng)的特征根，即該公共因子的方差。方差。221pjijjiag 極大似然法（極大似然法（maximum likelihood factor）假定原變量服從正態(tài)分布，公共因假定原變量服從正態(tài)分布，公共因子和特殊因子也服從正態(tài)分布，構(gòu)子和特殊因子也服從正態(tài)分布，構(gòu)造因子負(fù)荷和特殊方差的似然函數(shù)，造因子負(fù)荷和特殊方差的似然函數(shù)，求其極大，得到唯一解。求其極大，得到唯一解。 主因子法（主因子法（principal factor）設(shè)原變量的相關(guān)矩陣為設(shè)原變量的相關(guān)矩陣為

7、R=(rij)，其逆，其逆矩陣為矩陣為R-1=(rij)。各變量特征方差。各變量特征方差的初始值取為逆相關(guān)矩陣對(duì)角線(xiàn)元的初始值取為逆相關(guān)矩陣對(duì)角線(xiàn)元素的倒數(shù)，素的倒數(shù)，i i=1/r=1/riiii。則共同度則共同度的初始值為的初始值為(hi)2=1- i i=1-1/rii。以以(hi)2代替相關(guān)矩陣中的對(duì)角線(xiàn)上的元素，代替相關(guān)矩陣中的對(duì)角線(xiàn)上的元素，得到約化相關(guān)矩陣。得到約化相關(guān)矩陣。 (h1)2 r12 r1p r21 (h2)2 r2p R= . . . . . . rp1 rp2 (hp)2R的前的前m個(gè)特征根及其對(duì)應(yīng)的單位化特征向個(gè)特征根及其對(duì)應(yīng)的單位化特征向量就是主因子解。量就是

8、主因子解。 迭代主因子法迭代主因子法（iterated principal factor）主因子的解很不穩(wěn)定。因此，常以估計(jì)主因子的解很不穩(wěn)定。因此，常以估計(jì)的共同度為初始值，構(gòu)造新的約化矩的共同度為初始值，構(gòu)造新的約化矩陣，再計(jì)算其特征根及其特征向量，陣，再計(jì)算其特征根及其特征向量，并由此再估計(jì)因子負(fù)荷及其各變量的并由此再估計(jì)因子負(fù)荷及其各變量的共同度和特殊方差，再由此新估計(jì)的共同度和特殊方差，再由此新估計(jì)的共同度為初始值繼續(xù)迭代，直到解穩(wěn)共同度為初始值繼續(xù)迭代，直到解穩(wěn)定為止。定為止。 Heywood現(xiàn)象現(xiàn)象 殘差矩陣殘差矩陣五、因子旋轉(zhuǎn)五、因子旋轉(zhuǎn) 目的：使因子負(fù)荷兩極分化，要么目的：使

9、因子負(fù)荷兩極分化，要么接近于接近于0，要么接近于，要么接近于1。 常用的旋轉(zhuǎn)方法：常用的旋轉(zhuǎn)方法：（1 1）方差最大正交旋轉(zhuǎn)）方差最大正交旋轉(zhuǎn)（varimax varimax orthogonal rotationorthogonal rotation） 基本思想：使公共因子的相對(duì)負(fù)荷基本思想：使公共因子的相對(duì)負(fù)荷（l lijij/h/hi i2 2）的方差之和最大，且保持）的方差之和最大，且保持原公共因子的正交性和公共方差總和原公共因子的正交性和公共方差總和不變。不變。 可使每個(gè)因子上的具有最大載荷的變可使每個(gè)因子上的具有最大載荷的變量數(shù)最小，因此可以簡(jiǎn)化對(duì)因子的解量數(shù)最小，因此可以簡(jiǎn)化對(duì)因

10、子的解釋。釋。（2 2）斜交旋轉(zhuǎn)）斜交旋轉(zhuǎn)（oblique rotationoblique rotation） 因子斜交旋轉(zhuǎn)后，各因子負(fù)荷發(fā)生了因子斜交旋轉(zhuǎn)后，各因子負(fù)荷發(fā)生了較大變化，出現(xiàn)了兩極分化。各因子較大變化，出現(xiàn)了兩極分化。各因子間不再相互獨(dú)立，而彼此相關(guān)。各因間不再相互獨(dú)立，而彼此相關(guān)。各因子對(duì)各變量的貢獻(xiàn)的總和也發(fā)生了改子對(duì)各變量的貢獻(xiàn)的總和也發(fā)生了改變。變。 適用于大數(shù)據(jù)集的因子分析。適用于大數(shù)據(jù)集的因子分析。六、因子得分六、因子得分 Thomson法，即回歸法法，即回歸法回歸法得分是由回歸法得分是由Bayes思想導(dǎo)出的，得思想導(dǎo)出的，得到的因子得分是有偏的，但計(jì)算結(jié)果到的因子得分是有偏的，但計(jì)算結(jié)果誤差較小。誤差較小。 Bartlett法法Bartlett因子得分是極大似然估計(jì)，也是因子得分是極大似然估計(jì)，也是加權(quán)最小二乘回歸，得到的因子得分加權(quán)最小二乘回歸，得到的因子得分是無(wú)偏的，但計(jì)算結(jié)果誤差較大。是無(wú)偏的，但計(jì)算結(jié)果誤差較大。 因子得分可用于模型診斷，也可用作因子得分可用于模型診斷，也可用作進(jìn)一步分析的原始資料。進(jìn)一步分析的原始資料。七、因子分析應(yīng)用實(shí)例七、因子分析應(yīng)用實(shí)例八、因子分析應(yīng)用的注意事項(xiàng)八、因子分析應(yīng)用的注意事項(xiàng) 應(yīng)用條件應(yīng)用條件（1）變量是計(jì)量的，能用線(xiàn)性相關(guān)）變量是計(jì)量的，能用線(xiàn)性相關(guān)系數(shù)（系數(shù)（Pe