主成分分析法原理及應(yīng)用

一、概述得到廣泛應(yīng)用的分析方法。合指標(biāo)，通常綜合指標(biāo)（主成分）有以下幾個特點：主成分個數(shù)遠(yuǎn)遠(yuǎn)少于原有變量的個數(shù)原有變量綜合成少數(shù)幾個因子之后，因子將可以替代原有變量參與數(shù)據(jù)建模，這將大大減少分析過程中的計算工作量。主成分能夠反映原有變量的絕大部分信息成原有變量信息的大量丟失，并能夠代表原有變量的絕大部分信息。主成分之間應(yīng)該互不相關(guān)（主成分之間互不相關(guān)據(jù)建模能夠有效地解決變量信息重疊、多重共線性等給分析應(yīng)用帶來的諸多問題。主成分具有命名解釋性少數(shù)幾個因子，如何使因子具有一定的命名解釋性的多元統(tǒng)計分析方法。二、基本原理X1X2，…X（p個指標(biāo)Fm來代替原來指標(biāo)。那么綜合指標(biāo)應(yīng)該如何去提Xp所代表的信息，又能保證新指標(biāo)之間保持相互無關(guān)（信息不重疊。設(shè)F1表示原變量的第一個線性組合所形成的主成分指標(biāo)，即FaX1 11

a X21

...a Xp1

,由數(shù)學(xué)知識可知，每一個主成分所提取的信息量可用其方差來度量，Var(F1F1。常常希望第F1F1F1pF2，為有F2F2F1Cov(F1,F2)=0，F(xiàn)2F1X1，X2，…，XPF2F1F2FmX1X2……XPmFa X a

...a X 1 11 1

12

1p pFa X a X ...a X2 21 1 22 2 2p p ......根據(jù)以上分析得知：

F a Xm

a Xm2

...a Xmp pFiFjCov(Fi，F(xiàn)j)=0,Var(Fi)=ai’Σai，中ΣXF1X1，X2，…，Xp（系數(shù)滿足上述要求）Fm線性組合中方差最大者。F1F2F（m≤pm由以上分析可見，主成分分析法的主要任務(wù)有兩點：確定各主成分p）的表達(dá)式，即系數(shù)a （i=1，2，…，m；j=1，2，…，p。從數(shù)學(xué)上可以證ij明，原變量矩陣的特征根是主成分的方差，所以前mmm（這i樣選取才能保證主成分的方差依次最大）Fiai

ai

啟用的是i

對應(yīng)的單位化的特征向量，即有ai'ai=1。FiXj關(guān)聯(lián)程度： P(Zk

,x) i

a(i,1,2,,,k,m)三、主成分分析法的計算步驟主成分分析的具體步驟如下：計算協(xié)方差矩陣計算樣品數(shù)據(jù)的協(xié)方差矩陣：Σ=(s

)pp，其中ij1sijn11

n(xkik1

x)(xi

x) i，j=1，2，…，pj求出Σ的特征值i

及相應(yīng)的正交化單位特征向量aiΣm12…m>0mi對應(yīng)的單位特征向量ai主成分Fi為：

FiiFi=a'Xi主成分的方差（信息）貢獻(xiàn)率用來反映信息量的大小，為：i選擇主成分

i

/mii1F1,F2,……,Fmm（信息G(m)來確定G(m)m

/pi kik85%m計算主成分載荷FiXj原來變量Xj（j=1，2p）Fi（i=1，2，…，m）lij（2，…，m；j=1，2，…，p：l(Z,Xi

) j

a,,j,p)SPSS軟件中主成分分析后的分析結(jié)果中載荷矩陣。計算主成分得分計算樣品在m個主成分上的得分：FaXi 1i 1

a X2i

...a Xpi

i=1，2，…，m據(jù)變換：x*ij

xxij s

i1,2,...,n;j1,2,...,px

1

x，s2

j1 (x

x)2j n i1

j n1

ij ji1。也就是說，在標(biāo)準(zhǔn)化前后變量的相關(guān)系數(shù)矩陣不變化。根據(jù)以上論述，為消除量綱的影響，將變量標(biāo)準(zhǔn)化后再計算其協(xié)方差矩陣，就是直接計算原變量的相關(guān)系數(shù)矩陣，所以主成分分析的實際常用計算步驟是：☆計算相關(guān)系數(shù)矩陣☆求出相關(guān)系數(shù)矩陣的特征值i☆選擇主成分☆計算主成分得分

及相應(yīng)的正交化單位特征向量ai總結(jié)：原指標(biāo)相關(guān)系數(shù)矩陣相應(yīng)的特征值i為主成分方差的貢獻(xiàn)，方差的貢獻(xiàn)率為i

/i i1

，越大