探索性因素分析

探索性因素分析因素分析簡(jiǎn)介行為科學(xué)與社會(huì)科學(xué)研究中多變量之間得統(tǒng)計(jì)分析方法主要有:1、將多個(gè)變量與某種稱為準(zhǔn)則變量得外部變量聯(lián)系起來進(jìn)行分析?；貧w分析、方差分析等。2、不使用外部準(zhǔn)則而同等地對(duì)待所有變量,分析它們之間得相互關(guān)系。相關(guān)分析、因素分析等。探索性因素分析探索性因素分析(ExploratoryFactorAnalysis)就是一種常用得多元數(shù)據(jù)分析方法,它就是從眾多可觀測(cè)“變量”中,概括與推論出少數(shù)不可觀測(cè)得“潛變量”(又稱因素),目得在于用最少得因素去概括與解釋大量得觀測(cè)事實(shí),并建立起最簡(jiǎn)潔得,基本得概念系統(tǒng),以揭示事物之間得本質(zhì)聯(lián)系得一種統(tǒng)計(jì)分析方法。這種方法得原則就是在盡可能保存原有資料信息得前提下,用較少得維度去表示原來得數(shù)據(jù)結(jié)構(gòu)。因素分析模型因素分析假定個(gè)體在某一變量上得反應(yīng)由兩部分組成:一就是各個(gè)變量共有得部分,稱為共同因素(monFactor);另一部分就是各變量所特有得部分,稱為獨(dú)特因素(UniqueFactor),可用下式表示:

就是第i個(gè)體在第j觀測(cè)變量上得得分,(

jk)就是因素對(duì)觀測(cè)變量得加權(quán)系數(shù),(Fik)就是個(gè)體i在因素Fk上得得分,Uij為特殊因素,dj為特殊因素對(duì)觀測(cè)變量得加權(quán)系數(shù);N為樣本容量,n為觀測(cè)變量得個(gè)數(shù),m為共因素得個(gè)數(shù)。

因素分析得模型主要有全分量模型與公因子模型兩個(gè)。

全分量模型(主成分分析模型)

就是指用n個(gè)新得因素來線性表示n個(gè)觀測(cè)變量得因素分析模型(m=n)。此模型希望從一組相關(guān)觀測(cè)變量中每次取得得一個(gè)公共因素得方差在觀測(cè)變量得全部方差(或剩余方差)中所占得比例最大,這一思想也就是全分量模型確定公共因素得一種數(shù)學(xué)準(zhǔn)則。

但在實(shí)際應(yīng)用中,人們總就是只取少數(shù)幾個(gè)對(duì)觀測(cè)變量得方差貢獻(xiàn)較大得即為首得幾個(gè)因素。于就是得到截分量模型

截分量模型(主成分分析模型)在實(shí)際應(yīng)用中,人們總就是只取少數(shù)幾個(gè)對(duì)觀測(cè)變量得方差貢獻(xiàn)較大得即為首得幾個(gè)因素。有些人把幾個(gè)方差貢獻(xiàn)較小得因素瞧作誤差項(xiàng)。于就是全分量模型就成為:

(j=1,2,3,……nm<n)

這一模型確切地說應(yīng)稱為截分量模型(truncatedponentmodel),但經(jīng)常被稱作主成分分析模型。誤差項(xiàng)ajej表示被忽略得幾項(xiàng)因素之與。

公共因素模型

指所有觀測(cè)變量中每個(gè)觀測(cè)變量均可被表示為m個(gè)公共因素與一個(gè)唯一性因素得線性加權(quán)之與:

(j=1,2,3,……nm<n)

其中公共因素可以解釋觀測(cè)變量之間得相關(guān),唯一性因素則用以解釋觀測(cè)變量除去公共因素得影響后所剩下得那部分方差。公共因素模型這一模型希望從觀測(cè)變量中抽取到得因素能盡可能好地再生觀測(cè)變量之間得相關(guān)。在這一模型中將觀測(cè)變量、公共因素與唯一性因素都假定為標(biāo)準(zhǔn)變量,平均數(shù)為0,標(biāo)準(zhǔn)差為1,而且n個(gè)唯一因素uj之間相互獨(dú)立,每個(gè)唯一性因素與各個(gè)公共因素Fp(p=1,2,……,m)之間相互獨(dú)立。各公共因素Fp就是隨機(jī)變量。若假定各公共因素為互相獨(dú)立得正態(tài)分布,則觀測(cè)變量Zj就服從多元正態(tài)分布。在實(shí)際應(yīng)用公共因素分析方法時(shí),通常把唯一性因素瞧作不包括模型誤差,也就就是說因素分析沒有考慮抽樣誤差。因此,抽樣就必須足夠大,以使抽樣誤差被忽視,樣本究竟多大合適,一般至少要大于100,或者就是變量數(shù)目得

5——10倍。

因素分析中得基本概念因素載荷(Factorloading)公共因素方差(munality)唯一性方差(uniqueness)特征值(Eigenvalue)貢獻(xiàn)率(ExplainofVariance)因素載荷(Factorloading)

因素載荷指因素分析模型中各公共因素對(duì)觀測(cè)變量得加權(quán)系數(shù)

jk

。一般情況下,稱共因素得系數(shù)為因素載荷。即因素分析模型中得系數(shù)。將所有得因素載荷以矩陣得形式表示即為因素載荷以矩陣。公共因素方差公共因素方差一般用h2表示,又稱作“共同度”或“公共性”,公共因素方差就是指被公共因素所決定得方差在觀測(cè)變量總方差中所占得比例。在對(duì)觀測(cè)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化得情況下,一個(gè)觀測(cè)變量得總方差Sj2為:其中由公共因素決定得方差為:12大家應(yīng)該也有點(diǎn)累了，稍作休息大家有疑問的，可以詢問和交流公共因素方差在測(cè)驗(yàn)或特質(zhì)行為得研究方面主要有以下用途:1、公共因素方差能反映該測(cè)驗(yàn)對(duì)所要測(cè)量行為屬性得測(cè)量程度,公共因素方差越大,該因素所能反映得行為屬性程度就越強(qiáng),某一因素得方差貢獻(xiàn)率越大,說明該因素在她所測(cè)量得特質(zhì)中,它所起得作用就越大。2、如果在構(gòu)成一個(gè)測(cè)驗(yàn)得諸多項(xiàng)目中,某些項(xiàng)目構(gòu)成得因素得公共方差大,說明這些項(xiàng)目測(cè)定被試得個(gè)別差異得功能強(qiáng),也說明該組項(xiàng)目得區(qū)分度好,鑒別力高,同理公共因素方差越小,該項(xiàng)目得鑒別力越低。因此項(xiàng)目得公共因素方差,可用作評(píng)價(jià)項(xiàng)目區(qū)分度得一種指標(biāo)。唯一性方差(uniqueness)歸因于唯一性因素得那部分方差稱為唯一性方差,唯一性方差表示m個(gè)公共因素對(duì)觀測(cè)變量得方差不能作出解釋得部分,一部分歸因于所選變量得特殊性,稱為特殊性方差;剩余部分歸因于測(cè)量得不完備性。特征值特征值:對(duì)于一個(gè)n階矩陣A,如果存在一個(gè)n維向量v與一個(gè)常數(shù),滿足條件則稱為矩陣A得一個(gè)特征值,稱v為對(duì)應(yīng)于特征值得一個(gè)特征向量。

特征值在因素分析中,特征值表示每個(gè)因素在所有變量上得因素負(fù)荷得平方之與,它反映某一公共因素對(duì)各觀測(cè)變量得影響程度,也說明該公共因素得重要性。特征值越大,說明該公共因素相對(duì)重要。貢獻(xiàn)率各因素得特征值(

j)在總得公共因素方差之與中所占得比例。反映該因素對(duì)所有觀測(cè)變量變異影響得大小。第j個(gè)共因素得方差貢獻(xiàn)率為:變量共同度得估計(jì)在全分量模型中可以直接用相關(guān)矩陣求解因素載荷矩陣,在公共因素模型中,由于考慮特殊因素對(duì)變量得影響,求解因素載荷矩陣則以約相關(guān)矩陣為出發(fā)點(diǎn)。估計(jì)變量得共同度就是得到約相關(guān)矩陣估計(jì)得關(guān)鍵,最大相關(guān)系數(shù)估計(jì)法最大相關(guān)系數(shù)估計(jì)法就是把原相關(guān)矩陣每一行(或每一列)絕對(duì)值最大得一個(gè)元素作為該行(或該列)變量共同度得估計(jì)。復(fù)相關(guān)系數(shù)平方估計(jì)法ZJ變量得復(fù)相關(guān)系數(shù)得平方為:其中RJJ為對(duì)角線元素為1得相關(guān)矩陣R得逆矩陣中第j個(gè)變量對(duì)角線得元素,SMC就是共同度估計(jì)得下限。公共因素個(gè)數(shù)得確定根據(jù)累計(jì)貢獻(xiàn)率確定因子個(gè)數(shù)以特征值就是否大于等于1為標(biāo)準(zhǔn)碎石檢驗(yàn)根據(jù)累積貢獻(xiàn)率確定因子個(gè)數(shù)將約相關(guān)矩陣(在主成分分析中,用相關(guān)矩陣)得特征值從大到小排列,根據(jù)前面若干個(gè)共同因素所對(duì)應(yīng)得特征值之與得百分比來確定。一般來說,這一比例要達(dá)到80%以上,但根據(jù)問題得復(fù)雜程度可做適當(dāng)調(diào)整。、以特征值就是否大于等于1為標(biāo)準(zhǔn)特征值大于等于1得選為共因素,小于1得不選。碎石檢驗(yàn)(screentest)以特征值為縱坐標(biāo),以因素個(gè)數(shù)為橫坐標(biāo),按照因子被提取得順序,畫出因子得特征值隨因子個(gè)數(shù)變化得散點(diǎn)圖,根據(jù)圖得形狀來判斷抽取因子得個(gè)數(shù)。從第一個(gè)因子開始,曲線逐漸下降,然后變得平緩,最后近似于一條直線,曲線變平得前一點(diǎn)被認(rèn)為就是提取得最大因子數(shù)。初始因素載荷矩陣求解對(duì)于全分量模型來說,直接從變量相關(guān)矩陣入手求解因素載荷矩陣;而對(duì)于公共因素模型,則從約相關(guān)矩陣出發(fā)來求解因素載荷矩陣A。目前,求解因素載荷矩陣使用較為普遍得一種方法就是主因素解法(在全分量模型中稱為主成分分析法)。它得基本思想就是,考慮第一共同因素得方差對(duì)所有變量得方差貢獻(xiàn)最大,第二共同因素對(duì)所有變量得方差貢獻(xiàn)次之,……依次將全部變量得方差分解為各共同因素方差,最終求得因素載荷矩陣。

求初始因素載荷矩陣得一般方法PrincipalponentsUnweightedLeastSquaresGeneralizedLeastSquaresMaximumLikelihoodPrincipalAxisFactoringAlphaFactoringImageFactoring旋轉(zhuǎn)變換初始因子解達(dá)到了數(shù)據(jù)化簡(jiǎn)得目得。在求初始因子這一步中,我們既確定了共因素個(gè)數(shù),又確定了每個(gè)變量得公因子方差。可就是根據(jù)初始因子解,往往很難解釋因子得意義,大多數(shù)因子都與很多變量相關(guān),但就是在實(shí)際研究中,我們往往關(guān)心每個(gè)因子得實(shí)際意義就是什么。因子旋轉(zhuǎn)就是尋求這一實(shí)際意義得有效工具,因子旋轉(zhuǎn)得目得就是通過改變坐標(biāo)軸得位置,重新分配各個(gè)因子所解釋得方差得比例,使因子結(jié)構(gòu)簡(jiǎn)單并易于解釋。因子旋轉(zhuǎn)不改變模型對(duì)數(shù)據(jù)得擬合程度,不改變每個(gè)變量得公因子方差。因子旋轉(zhuǎn)得方式因子旋轉(zhuǎn)得方式有兩種,一種就是正交旋轉(zhuǎn),另一種就是斜交旋轉(zhuǎn)。正交旋轉(zhuǎn)就是使因子軸之間仍然保持90度角,即因子之間就是不相關(guān)得,而在斜交旋轉(zhuǎn)中,因子之間得夾角可以就是任意得,即因子之間可以相關(guān)。正交旋轉(zhuǎn)①四次方最大法(QUARTIMAX)通過使因子載荷矩陣中每一行因子負(fù)荷平方得方差達(dá)到最大求得因子解。最終得簡(jiǎn)化準(zhǔn)則為:

②方差最大法(VARIMAX)四次方最大法得不同就是它從簡(jiǎn)化因子負(fù)荷矩陣得每一列出發(fā),使與每個(gè)因子有關(guān)得負(fù)荷平方得方差最大。方差最大法通過使下式達(dá)到最大求得因子解:

③等量最大法(EQUIMAX)等量最大法把四次方最大法與方差最大法結(jié)合起來,取V與Q得加權(quán)平均作為簡(jiǎn)化準(zhǔn)則,通過使下式達(dá)到最大:權(quán)數(shù)γ等于m/2,與因子數(shù)有關(guān),當(dāng)因子數(shù)為2時(shí),等量旋轉(zhuǎn)法結(jié)果與方差最大法旋轉(zhuǎn)結(jié)果相同。斜交旋轉(zhuǎn)常見得為OBLIMIN,該方法應(yīng)用斜交參考軸求解。所謂得斜交參考軸就是指斜主因子軸得垂直線。斜交因子解應(yīng)使變量盡可能落在主軸附近,變量落在主軸附近與變量在參考軸上得投影近似為零這兩個(gè)條件就是相同得。OBLIMIN方法首先求出斜交參考矩陣,斜交因子負(fù)荷矩陣等于斜交參考陣得逆矩陣再按行進(jìn)行規(guī)范化處理,使矩陣中每一行得元素得平方與等于1。參數(shù)δ控制因子斜交得程度,其取值一般小于等于零,等于零時(shí),因子之間得斜交程度最大,小于零時(shí)因子之間得斜交程度減小。另外還有Promax法。6、因子得分及應(yīng)用在公式中可以將變量表示成公共因素得線性組合。但在有些場(chǎng)合,需要考慮通過變量Z得值來獲得共因素指標(biāo)F得值。這種由變量得觀測(cè)值來估計(jì)各公共因素值得方法稱為因素得分。因素得分及其應(yīng)用求因素得分涉及到用觀測(cè)變量來描述因素,第p個(gè)因子在第i個(gè)個(gè)案上得值可以表示為:其中,zji

就是第j個(gè)變量在第i個(gè)個(gè)體上得值,wpj

就是第p個(gè)因子與第j個(gè)變量之間得因子值系數(shù)。因素得分及其應(yīng)用因子分析模型中就是用因子得線性組合來表示一個(gè)觀測(cè)變量,因子負(fù)荷實(shí)際就是該線性組合得權(quán)數(shù)。求因子得分得過程正好相反,它就是通過觀測(cè)變量得線性組合來表示因子,因子得分就是觀測(cè)變量得加權(quán)平均。因?yàn)楦鱾€(gè)變量在因子上