多元統(tǒng)計(jì)分析因子分析

多元統(tǒng)計(jì)分析因子分析第1頁，共62頁，2023年，2月20日，星期四2第一節(jié)因子分析的基本思想第2頁，共62頁，2023年，2月20日，星期四3因子分析的基本思想因子分析是根據(jù)相關(guān)矩陣內(nèi)部的依賴關(guān)系，把一些具有錯(cuò)綜復(fù)雜關(guān)系的變量綜合為數(shù)量較少的幾個(gè)因子。通過不同因子來分析決定某些變量的本質(zhì)及其分類的一種統(tǒng)計(jì)方法。簡(jiǎn)單地說，就是根據(jù)相關(guān)性大小把變量分組，使得同組內(nèi)的變量之間相關(guān)性較高，不同組的變量相關(guān)性較低。每組變量代表一個(gè)基本結(jié)構(gòu)，這個(gè)基本結(jié)構(gòu)稱為因子。第3頁，共62頁，2023年，2月20日，星期四4例如某機(jī)關(guān)對(duì)其職員就以下6個(gè)方面進(jìn)行考核，這6個(gè)方面是職員的詞匯、閱讀、寫作能力，以及數(shù)字、代數(shù)、微積分的運(yùn)算能力。而這6個(gè)方面可歸結(jié)為職員的語文能力和數(shù)學(xué)能力兩個(gè)方面。第4頁，共62頁，2023年，2月20日，星期四5例如某公司與48名申請(qǐng)工作的人進(jìn)行面談，然后就申請(qǐng)人十五個(gè)方面進(jìn)行打分，這十五個(gè)方面分別是：申請(qǐng)書的形式、外貌、學(xué)術(shù)能力、討人喜歡的能力、自信心、洞察力、誠實(shí)、推銷能力、經(jīng)驗(yàn)、工作積極性、抱負(fù)、理解能力、潛力、入圍公司的強(qiáng)烈程度、適應(yīng)性。這15個(gè)方面可歸結(jié)為應(yīng)聘者的外露能力、討人喜歡的能力、經(jīng)驗(yàn)、專業(yè)能力這4個(gè)方面。第5頁，共62頁，2023年，2月20日，星期四6因子分析(factoranalysis)是一種數(shù)據(jù)簡(jiǎn)化的技術(shù)。它通過研究眾多變量之間的內(nèi)部依賴關(guān)系，探求觀測(cè)數(shù)據(jù)中的基本結(jié)構(gòu)，并用少數(shù)幾個(gè)假想變量來表示其基本的數(shù)據(jù)結(jié)構(gòu)。這幾個(gè)假想變量能夠反映原來眾多變量的主要信息。原始的變量是可觀測(cè)的顯在變量，而假想變量是不可觀測(cè)的潛在變量，稱為因子。

例如，在企業(yè)形象或品牌形象的研究中，消費(fèi)者可以通過一個(gè)有24個(gè)指標(biāo)構(gòu)成的評(píng)價(jià)體系，評(píng)價(jià)百貨商場(chǎng)的24個(gè)方面的優(yōu)劣。第6頁，共62頁，2023年，2月20日，星期四7但消費(fèi)者主要關(guān)心的是三個(gè)方面，即商店的環(huán)境、商店的服務(wù)和商品的價(jià)格。因子分析方法可以通過24個(gè)變量，找出反映商店環(huán)境、商店服務(wù)水平和商品價(jià)格的三個(gè)潛在的因子，對(duì)商店進(jìn)行綜合評(píng)價(jià)。而這三個(gè)公共因子可以表示為：

稱是不可觀測(cè)的潛在因子。24個(gè)變量共享這三個(gè)因子，但是每個(gè)變量又有自己的個(gè)性，不被包含的部分，稱為特殊因子。第7頁，共62頁，2023年，2月20日，星期四8注意：因子分析與回歸分析不同，因子分析中的因子是一個(gè)比較抽象的概念，而回歸因子有非常明確的實(shí)際意義。主成分分析分析與因子分析也有不同，主成分分析僅僅是變量變換，而因子分析需要構(gòu)造因子模型。主成分分析：原始變量的線性組合表示新的綜合變量，即主成分。因子分析：潛在的假想變量和隨機(jī)影響變量的線性組合表示原始變量。第8頁，共62頁，2023年，2月20日，星期四9第二節(jié)

因子分析模型

一、數(shù)學(xué)模型

設(shè)個(gè)變量，如果表示為第9頁，共62頁，2023年，2月20日，星期四10

稱為公共因子，是不可觀測(cè)的變量，他們的系數(shù)稱為因子載荷。是特殊因子，是不能被前m個(gè)公共因子包含的部分。并且滿足：即不相關(guān)；第10頁，共62頁，2023年，2月20日，星期四11即互不相關(guān)，方差為1。第11頁，共62頁，2023年，2月20日，星期四12即互不相關(guān)，方差不一定相等，。第12頁，共62頁，2023年，2月20日，星期四13用矩陣的表達(dá)方式第13頁，共62頁，2023年，2月20日，星期四141、因子載荷aij的統(tǒng)計(jì)意義

因子載荷是第i個(gè)變量與第j個(gè)公共因子的相關(guān)系數(shù)

模型為

（載荷矩陣中第i行，第j列的元素）反映了第i個(gè)變量與第j個(gè)公共因子的相關(guān)性。絕對(duì)值越大，相關(guān)的密切程度越高。

根據(jù)公共因子的模型性質(zhì)，有

三、因子載荷矩陣中的幾個(gè)統(tǒng)計(jì)特征第14頁，共62頁，2023年，2月20日，星期四15

因子載荷不是惟一的且滿足因子模型的條件設(shè)T為一個(gè)p×p的正交矩陣，令A(yù)*=AT，，則模型可以表示為第15頁，共62頁，2023年，2月20日，星期四162、變量共同度的統(tǒng)計(jì)意義統(tǒng)計(jì)意義：兩邊求方差

所有的公共因子和特殊因子對(duì)變量的貢獻(xiàn)為1。如果非?？拷?，非常小，則因子分析的效果好，從原變量空間到公共因子空間的轉(zhuǎn)化性質(zhì)好。定義：變量的共同度是因子載荷矩陣的第i行的元素的平方和。記為第16頁，共62頁，2023年，2月20日，星期四17

3、公共因子方差貢獻(xiàn)的統(tǒng)計(jì)意義因子載荷矩陣中各列元素的平方和稱為所有的對(duì)的方差貢獻(xiàn)和。衡量的相對(duì)重要性。第17頁，共62頁，2023年，2月20日，星期四18第三節(jié)因子載荷矩陣的估計(jì)方法

設(shè)隨機(jī)向量的均值為，協(xié)方差為,

為的特征根，為對(duì)應(yīng)的標(biāo)準(zhǔn)化特征向量，則

主成分分析法第18頁，共62頁，2023年，2月20日，星期四19

上式給出的表達(dá)式是精確的，然而，它實(shí)際上是毫無價(jià)值的，因?yàn)槲覀兊哪康氖菍で笥蒙贁?shù)幾個(gè)公共因子解釋，故略去后面的p-m項(xiàng)的貢獻(xiàn)，有第19頁，共62頁，2023年，2月20日，星期四20

上式有一個(gè)假定，模型中的特殊因子是不重要的，因而從的分解中忽略了特殊因子的方差。第20頁，共62頁，2023年，2月20日，星期四21第21頁，共62頁，2023年，2月20日，星期四22

例

假定某地固定資產(chǎn)投資率，通貨膨脹率，失業(yè)率，相關(guān)系數(shù)矩陣為試用主成分分析法求因子分析模型。第22頁，共62頁，2023年，2月20日，星期四23

特征根為：第23頁，共62頁，2023年，2月20日，星期四24

可取前兩個(gè)因子F1和F2為公共因子，第一公因子F1物價(jià)就業(yè)因子，對(duì)X的貢獻(xiàn)率為51.67%。第二公因子F2為投資因子，對(duì)X的貢獻(xiàn)為28.33%。共同度分別為1，0.706，0.706。第24頁，共62頁，2023年，2月20日，星期四25第四節(jié)因子旋轉(zhuǎn)（正交變換）

因子分析的數(shù)學(xué)目的不僅僅要找出公共因子以及對(duì)變量進(jìn)行分組，更重要的要知道每個(gè)公共因子的含義，以便進(jìn)行進(jìn)一步的分析。如果每個(gè)公共因子的含義不清，則不便于進(jìn)行實(shí)際背景的解釋。由于因子載荷陣是不惟一的，所以應(yīng)該對(duì)因子載荷陣進(jìn)行旋轉(zhuǎn)。目的是使因子載荷陣的結(jié)構(gòu)簡(jiǎn)化，使載荷矩陣每列或行的元素平方值向0和1兩極分化。主要的正交旋轉(zhuǎn)法有方差最大法和四次方最大法。（一）為什么要旋轉(zhuǎn)因子第25頁，共62頁，2023年，2月20日，星期四26

百米跑成績(jī)跳遠(yuǎn)成績(jī)鉛球成績(jī)跳高成績(jī)

400米跑成績(jī)百米跨欄鐵餅成績(jī)撐桿跳遠(yuǎn)成績(jī)標(biāo)槍成績(jī)

1500米跑成績(jī)

奧運(yùn)會(huì)十項(xiàng)全能運(yùn)動(dòng)項(xiàng)目得分?jǐn)?shù)據(jù)的因子分析

第26頁，共62頁，2023年，2月20日，星期四27

因子載荷矩陣可以看出，除第一因子中所有的變量在公共因子上有較大的正載荷，可以稱為一般運(yùn)動(dòng)因子。其他的3個(gè)因子不太容易解釋。似乎是跑和投擲的能力對(duì)比，似乎是長跑耐力和短跑速度的對(duì)比。于是考慮旋轉(zhuǎn)因子，得下表

第27頁，共62頁，2023年，2月20日，星期四28變量F1F2F3F4共同度X1X2X3X4X5X6X7X8X9X100.8840.6310.2450.2390.7970.4040.186-0.036-0.0480.0450.1360.1940.8250.1500.0750.1530.8140.1760.735-0.0410.1560.5150.2230.7500.1020.6350.1470.7620.1100.112-0.113-0.006-0.1480.0760.468-0.17-0.0790.2170.1410.9340.840.700.810.650.870.620.720.660.570.89第28頁，共62頁，2023年，2月20日，星期四29

通過旋轉(zhuǎn)，因子有了較為明確的含義。百米跑，跳遠(yuǎn)和400米跑，需要爆發(fā)力的項(xiàng)目在有較大的載荷，可以稱為短跑速度因子；鉛球，鐵餅和標(biāo)槍在上有較大的載荷，可以稱為爆發(fā)性臂力因子；百米跨欄，撐桿跳遠(yuǎn)，跳遠(yuǎn)和為跳高在上有較大的載荷，爆發(fā)腿力因子；為長跑耐力因子。第29頁，共62頁，2023年，2月20日，星期四30（二）旋轉(zhuǎn)方法

1、方差最大法2、四次方最大旋轉(zhuǎn)第30頁，共62頁，2023年，2月20日，星期四31

1、方差最大法

方差最大法從簡(jiǎn)化因子載荷矩陣的每一列出發(fā)，使和每個(gè)因子有關(guān)的載荷值平方的方差最大。當(dāng)只有少數(shù)幾個(gè)變量在某個(gè)因子上有較高的載荷值時(shí)，對(duì)因子的解釋最簡(jiǎn)單。方差最大的直觀意義是希望通過因子旋轉(zhuǎn)后，使每個(gè)因子上的載荷值盡量拉開距離，一部分的載荷趨于1，另一部分趨于0。第31頁，共62頁，2023年，2月20日，星期四32第32頁，共62頁，2023年，2月20日，星期四33根據(jù)求極值的原理，使

，由此可求出因子軸旋轉(zhuǎn)角度第33頁，共62頁，2023年，2月20日，星期四34當(dāng)公共因子個(gè)數(shù)m>2時(shí)，可以將上述m=2的方法用于逐次對(duì)每?jī)蓚€(gè)公共因子進(jìn)行旋轉(zhuǎn)。每旋轉(zhuǎn)一次，V值就會(huì)增大，即V是單調(diào)不減的，并且V是有界的，因?yàn)橐蜃虞d荷的絕對(duì)值不大于1。因此，經(jīng)過若干次旋轉(zhuǎn)后，V變化相對(duì)就不大了，即可停止旋轉(zhuǎn)。對(duì)兩因子的旋轉(zhuǎn)，第34頁，共62頁，2023年，2月20日，星期四35

2、四次方最大旋轉(zhuǎn)

四次方最大旋轉(zhuǎn)是從簡(jiǎn)化載荷矩陣的行出發(fā)，通過旋轉(zhuǎn)初始因子，使每個(gè)變量只在一個(gè)因子上有較高的載荷，而在其它的因子上盡可能低的載荷。如果每個(gè)變量只在一個(gè)因子上有非零的載荷，這時(shí)的因子解釋是最簡(jiǎn)單的。四次方最大法通過使因子載荷矩陣中每一行的因子載荷平方的方差達(dá)到最大。第35頁，共62頁，2023年，2月20日，星期四36第36頁，共62頁，2023年，2月20日，星期四37旋轉(zhuǎn)后因子的共同度設(shè)正交矩陣，做正交變換旋轉(zhuǎn)后因子的共同度沒有發(fā)生變化！第37頁，共62頁，2023年，2月20日，星期四38旋轉(zhuǎn)后公共因子的方差貢獻(xiàn)設(shè)正交矩陣，做正交變換旋轉(zhuǎn)后公共因子的方差貢獻(xiàn)發(fā)生了變化！第38頁，共62頁，2023年，2月20日，星期四39第五節(jié)因子得分

（一）因子得分的概念

前面我們主要解決了用公共因子的線性組合來表示一組觀測(cè)變量的有關(guān)問題。如果我們要使用這些因子做其他的研究，比如把得到的因子作為自變量來做回歸分析，對(duì)樣本進(jìn)行分類或評(píng)價(jià)，這就需要我們對(duì)公共因子進(jìn)行測(cè)度，即給出公共因子的值。第39頁，共62頁，2023年，2月20日，星期四40

因子分析的數(shù)學(xué)模型為：

因子得分函數(shù)：可見，要求得每個(gè)因子的得分，必須求得分函數(shù)的系數(shù)，而由于p>m，所以不能得到精確的得分，只能通過估計(jì)。第40頁，共62頁，2023年，2月20日，星期四412、回歸法

1)思想

其中第41頁，共62頁，2023年，2月20日，星期四42第42頁，共62頁，2023年，2月20日，星期四43簡(jiǎn)記為其中因此第43頁，共62頁，2023年，2月20日，星期四44而因子載荷陣故第44頁，共62頁，2023年，2月20日，星期四45

人均要素變量因子分析。對(duì)我國31個(gè)省市自治區(qū)的要素狀況作因子分析。指標(biāo)體系中有如下指標(biāo)：X1：人口（萬人）X2：面積（萬平方公里）X3：GDP（億元）X4：人均水資源（立方米/人）X5：人均生物量（噸/人）X6：萬人擁有的大學(xué)生數(shù)（人）X7：萬人擁有科學(xué)家、工程師數(shù)（人）

RotatedFactorPatternFACTOR1FACTOR2FACTOR3X1-0.21522-0.273970.89092X20.63973-0.28739-0.28755X3-0.157910.063340.94855X40.95898-0.01501-0.07556X50.97224-0.06778-0.17535X6-0.114160.98328-0.08300X7-0.110410.97851-0.07246第45頁，共62頁，2023年，2月20日，星期四46

高載荷指標(biāo)

因子命名

因子1X2；面積（萬平方公里）X4:人均水資源（立方米/人）X5:人均生物量（噸/人）自然資源因子

因子2X6：萬人擁有的大學(xué)生數(shù)（人）X7：萬人擁有的科學(xué)家、工程師數(shù)（人）

人力資源因子

因子3

X1;人口（萬人）X3:GDP(億元)經(jīng)濟(jì)發(fā)展總量因子

X1=-0.21522F1-0.27397F2+0.89092F3+X2=0.63973F1-0.28739F2-0.28755F3+X3=-0.15791F1+0.06334F2+0.94855F3+X4=0.95898F1-0.01501F2-0.07556F3X5=0.97224F1-0.06778F2-0.17535F3X6=-0.11416F1+0.98328F2-0.08300F3X7=-0.11041F1+0.97851F2-0.07246F3第46頁，共62頁，2023年，2月20日，星期四47

StandardizedScoringCoefficients

FACTOR1

FACTOR2

FACTOR3X10.05764

-0.06098

0.50391X20.22724-0.09901

-0.07713X30.146350.12957

0.59715X40.479200.11228

0.17062X50.455830.07419

0.10129X60.054160.48629

0.04099X70.057900.48562

0.04822F1=0.05764X1+0.22724X2+0.14635X3+0.47920X4+0.45583X5+0.05416X6+0.05790X7F2=-0.06098X1-0.09901X2+0.12957X3+0.11228X4+0.07419X5+0.48629X6+0.48562X7F3=0.50391X1-0.07713X2+0.59715X3+0.17062X4+0.10129X5+0.04099X6+0.04822X7第47頁，共62頁，2023年，2月20日，星期四48REGIONFACTOR1FACTOR2FACTOR3beijing?-0.081694.23473-0.37983tianjin-0.474221.31789-0.87891hebei-0.22192-0.358020.86263shanxi1-0.48214-0.32643-0.54219neimeng0.54446-0.66668-0.92621liaoning-0.205110.463770.34087jilin-0.214990.10608-0.57431heilongj0.10839-0.11717-0.02219shanghai-0.200692.38962-0.04259前三個(gè)因子得分第48頁，共62頁，2023年，2月20日，星期四49國民生活質(zhì)量的因素分析國家發(fā)展的最終目標(biāo)，是為了全面提高全體國民的生活質(zhì)量，滿足廣大國民日益增長的物質(zhì)和文化的合理需求。在可持續(xù)發(fā)展消費(fèi)的統(tǒng)一理念下，增加社會(huì)財(cái)富，創(chuàng)自更多的物質(zhì)文明和精神文明，保持人類的健康延續(xù)和生生不息，在人類與自然協(xié)同進(jìn)化的基礎(chǔ)上，維系人類與自然的平衡，達(dá)到完整的代際公平和區(qū)際公平(即時(shí)間過程的最大合理性與空間分布的最大合理化)。從1990年開始，聯(lián)合國開發(fā)計(jì)劃署(UYNP)首次采用“人文發(fā)展系數(shù)”指標(biāo)對(duì)于國民生活質(zhì)量進(jìn)行測(cè)度。人文發(fā)展系數(shù)利用三類內(nèi)涵豐富的指標(biāo)組合，即人的健康狀況(使用出生時(shí)的人均預(yù)期壽命表達(dá))、人的智力程度(使用組合的教育成就表達(dá))、人的福利水平(使用人均國民收入或人均GDP表達(dá))，并且特別強(qiáng)調(diào)三類指標(biāo)組合的整體表達(dá)內(nèi)涵，去衡量一個(gè)國家或地區(qū)的社會(huì)發(fā)展總體狀況以及國民生活質(zhì)量的總水平。第49頁，共62頁，2023年，2月20日，星期四50在這個(gè)指標(biāo)體系中有如下的指標(biāo)：X1——預(yù)期壽命X2——成人識(shí)字率X3——綜合入學(xué)率X4——人均GDP（美元）X5——預(yù)期壽命指數(shù)X6——教育成就指數(shù)X7——人均GDP指數(shù)第50頁，共62頁，2023年，2月20日，星期四51

旋轉(zhuǎn)后的因子結(jié)構(gòu)

RotatedFactorPatternFACTOR1FACTOR2FACTOR3

X1

0.38129

0.41765

0.81714

X2

0.12166

0.84828

0.45981

X3

0.64803

0.61822

0.22398

X4

0.90410

0.205310.34100

X5

0.38854

0.43295

0.80848

X6

0.28207

0.85325

0.43289

X7

0.90091

0.20612

0.35052

FACTOR1為經(jīng)濟(jì)發(fā)展因子

FACTOR2為教育成就因子

FACTOR3為健康水平因子第51頁，共62頁，2023年，2月20日，星期四52被每個(gè)因子解釋的方差和共同度VarianceexplainedbyeachfactorFACTOR1FACTOR2FACTOR3

2.4397002.2763172.009490FinalCommunalityEstimates:Total=6.725507X1X2X3X4X5

0.9875300.9457960.8523060.9758300.992050

X6X7

0.9949950.976999

第52頁，共62頁，2023年，2月20日，星期四53

StandardizedScoringCoefficients標(biāo)準(zhǔn)化得分系數(shù)

FACTOR1FACTOR2FACTOR3X1-0.18875-0.343970.85077X2-0.241090.60335-0.10234X30.354620.50232-0.59895X40.53990-0.17336-0.10355X5-0.17918-0.316040.81490X6-0.092300.62258-0.24876第53頁，共62頁，2023年，2月20日，星期四54第六節(jié)因子分析的步驟、展望和建議

計(jì)算所選原始變量的相關(guān)系數(shù)矩陣

相關(guān)系數(shù)矩陣描述了原始變量之間的相關(guān)關(guān)系?？梢詭椭袛嘣甲兞恐g是否存在相關(guān)關(guān)系，這對(duì)因子分析是非常重要的，因?yàn)槿绻x變量之間無關(guān)系，做因子分析是不恰當(dāng)?shù)?。并且相關(guān)系數(shù)矩陣是估計(jì)因子結(jié)構(gòu)的基礎(chǔ)。

選擇分析的變量用定性分析和定量分析的方法選擇變量，因子分析的前提條件是觀測(cè)變量間有較強(qiáng)的相關(guān)性，因?yàn)槿绻兞恐g無相關(guān)性或相關(guān)性較小的話，他們不會(huì)有共享因子,所以原始變量間應(yīng)該有較強(qiáng)的相關(guān)性。一、因子分析通常包括以下五個(gè)步驟第54頁，共62頁，2023年，2月20日，星期四55

提取公共因子

這一步要確定因子求解的方法和因子的個(gè)數(shù)。需要根據(jù)研究者的設(shè)計(jì)方案或有關(guān)的經(jīng)驗(yàn)或知識(shí)事先確定。因子個(gè)數(shù)的確定可以根據(jù)因子方差的大小。只取方差大于1(或特征值大于1)的那些因子，因?yàn)榉讲钚∮?的因子其貢獻(xiàn)可能很??；按照因子的累計(jì)方差貢獻(xiàn)率來確定，一般認(rèn)為要達(dá)到70％才能符合要求；

因子旋轉(zhuǎn)

通過坐標(biāo)變換使每個(gè)原始變量在盡可能少的因子之間有密切的關(guān)系，這樣因子解的實(shí)際意義更容易解釋,并為每個(gè)潛在因子賦予有實(shí)際意義的名字。第55頁，共