應(yīng)用多元分析第7章主成分分析

計(jì)劃學(xué)時(shí)：4學(xué)時(shí)教學(xué)課型：理論課教學(xué)目的與要求：理解主成分的概念，掌握主成分分析的基本方法教學(xué)重點(diǎn)：主成分分析的方法教學(xué)難點(diǎn)：主成分分析的方法教學(xué)方法、手段與媒介：根據(jù)教材用多媒體課件課堂講授教學(xué)過程與內(nèi)容：

主成分概念首先由KarlParson在1901年引進(jìn)，當(dāng)時(shí)只對(duì)非隨機(jī)變量來討論的。1933年Hotelling將這個(gè)概念推廣到隨機(jī)變量。

第七章主成分分析(Principalcomponentanalysis)§7.1引言

在多數(shù)實(shí)際問題中，不同指標(biāo)之間是有一定相關(guān)性。由于指標(biāo)較多及指標(biāo)間有一定的相關(guān)性，勢必增加分析問題的復(fù)雜性。

主成分分析就是設(shè)法將原來指標(biāo)重新組合成一組新的互相無關(guān)的幾個(gè)綜合指標(biāo)來代替原來指標(biāo)。同時(shí)根據(jù)實(shí)際需要從中可取幾個(gè)較少的綜合指標(biāo)盡可能多地反映原來的指標(biāo)的信息。主成分分析是考察多個(gè)數(shù)值變量間相關(guān)性的一種多元統(tǒng)計(jì)方法，它是研究如何通過少數(shù)幾個(gè)主成分來解釋多變量的方差—協(xié)方差結(jié)構(gòu)。導(dǎo)出幾個(gè)主成分，使它們盡可能多地保留原始變量的信息，且彼此間不相關(guān)。一、主成分分析的基本思想將原來眾多具有一定相關(guān)性的指標(biāo)重新組合成一組新的相互無關(guān)的綜合指標(biāo)來代替原來指標(biāo)。以兩個(gè)指標(biāo)為例，信息總量以總方差表示：Principalcomponentin2dOne-dimensionalprojection其中y1、y2分別都是x1、x2的線性組合，并且信息盡可能地集中在y1上。在以后的分析中舍去y2，只用主成分y1來分析問題，起到了降維的作用。主成分分析就是通過適當(dāng)?shù)淖兞刻鎿Q，使新變量成為原變量的線性組合，并尋求主成分來分析事物的一種方法。二、幾何解釋x1x2y1y2旋轉(zhuǎn)變換的目的是為了使得n個(gè)樣本點(diǎn)在y1軸方向上的離散程度最大，即y1的方差最大，變量y1代表了原始數(shù)據(jù)的絕大部分信息，在研究某經(jīng)濟(jì)問題時(shí)，即使不考慮變量y2也損失不多的信息。y1與y2除起了濃縮作用外，還具有不相關(guān)性。y1稱為第一主成分，y2稱為第二主成分。推廣開來，對(duì)于p維總體，尋求正交變換，使得在所有正交變換中，所選正交矩陣U，使最大；與不相關(guān)；并且在所有與不相關(guān)的變量中最大；與、不相關(guān)，同時(shí)在所有與、不相關(guān)的變量中最大；依次類推。

為總體的主成分，為第一主成分，為第二主成分…三、主成分分析的數(shù)學(xué)原理對(duì)原有變量作坐標(biāo)變換，要求滿足：如果z1=u1’x滿足

則稱z1為第一主成分.如果z2=u2’x滿足

則稱z2為第二主成分.…§7.2總體的主成分

設(shè)為一p維隨機(jī)向量，其二階矩存在，記為的特征值，為相應(yīng)的單位特征向量，且相互正交。則yi為第i個(gè)主成分。一、主成分的導(dǎo)出二、主成分的性質(zhì)1、主成分的均值與協(xié)方差記

2、主成分的總方差

3、原始變量與主成分的相關(guān)系數(shù)4、m個(gè)主成分對(duì)原始變量的貢獻(xiàn)率的復(fù)相關(guān)系數(shù)的平方稱為m個(gè)主成分與其特征值為相應(yīng)的特征向量為0.0000.8550.0000.9961.0001.000-0.9250.8550.9980.9960.0000.000123IProc

iml;X={1-2

0,-2

5

0,0

0

2};Val=eigval(x);Vec=eigvec(x);D=1:2;B=(val)[d,1];c=(vec)[,d];F1=(sqrt(inv(diag(X)))*vec*sqrt(diag(val)))[,d];F2=(f1#f1)[,1];F=diag(c*diag(b)*t(c))*inv(diag(x))*j(3,1);Printvalvecbcf1f2f;

VALVECBC5.8284271-0.38268300.92387955.8284271-0.382683020.923879500.382683420.923879500.171572901001

F1F2F-0.9238800.85355340.85355340.997484200.99497470.99497470101Dataw(type=cov);Inputx1x2x3;Cards;1-20-250002;Procprincompcov;Run;ThePRINCOMPProcedureObservations10000Variables3TotalVariance8EigenvaluesoftheCovarianceMatrixEigenvalueDifferenceProportionCumulative15.828427123.828427120.72860.728622.000000001.828427120.25000.978630.171572880.02141.0000EigenvectorsPrin1Prin2Prin3x1-.3826830.000000.923880x20.9238800.000000.382683x30.0000001.000000.000000主成分分析在經(jīng)濟(jì)指標(biāo)綜合評(píng)價(jià)中的應(yīng)用核心：通過主成分分析，選擇m個(gè)主成分y1,y2,…,