R作主成分分析-主成分分類(lèi)和主成分回歸

精品精品可編輯可編輯?.1.3相關(guān)的R函數(shù)以及實(shí)例I湎介細(xì)與主感分分析有關(guān)的兩數(shù).X,priiicomp函數(shù)作主J*分分析最主婪的隔數(shù)ja?rinconp()函數(shù)，覽便用格式為

princonp(fomnia,daxa=NULL,subset?na.aztion....)其中fornul^^沒(méi)有響應(yīng)變ht的公式(類(lèi)似回歸分析.能分析’但無(wú)響應(yīng)變必訃玄是數(shù)擄框僕似于冋歸分析、方總分折》?或打princonptXjcor=FALSE,scores■TRUE,covn吐t■tnJLLJs'j^bset=repCTRUE>nrowCas.Eatirixlx)〕)*,.3塘t1x屋用丁主成分分析的數(shù)據(jù)，以數(shù)值矩陣或數(shù)據(jù)框的形武給出.cor是邏輯變;［匕當(dāng)cor=TRUE表示用徉木的相關(guān)矩陣R作主成分分析’與cor=FALSE｛缺省值：表示用樣本的協(xié)方推陣$作主成分分析.“冗^(guò)足協(xié)方蔓障，如果數(shù)據(jù)不用x提供，可由協(xié)方差陣提供.耳他參數(shù)的意義見(jiàn)在線幫助-prconpO函數(shù)的意義與使用方法與prmconpO爾數(shù)相同.2、sunnjuuy函數(shù)s^jmmary0與回歸分析中的用法相同，其目的是提取主成份的訶息，具作用格式為s'jmnarytobject,loadings=FALSE,cutofi=0.1,...)K；中object是由princompC)得到的對(duì)象loadings是邏輯變?cè)幃?dāng)loadings=TRUE表示顯示loadings的內(nèi)容良體舍義在F面的loadings(｝函數(shù)當(dāng)loadings■FALSE則不顯示.缶loadin^3函數(shù)loadings0甬?dāng)?shù)是li示主成分分析或因:豁析屮Loadings載荷，見(jiàn)因子分析｝的內(nèi)客.在主成分分析中，該內(nèi)容實(shí)際上是主成分對(duì)應(yīng)的各列，即前面分析的正交矩陣Q在因了分析中「其內(nèi)容就層載荷因子矩陣losings0函數(shù)的使用格式為loadings(x)其中X是由噸|數(shù)衛(wèi)匚1口｛:QEipO或刊時(shí)旦*］。見(jiàn)因子分析■得到的對(duì)象.4,predict函數(shù)predict0函敏是預(yù)測(cè)主戍分的值；類(lèi)似干冋歸分析中的使用方法:：比從用搐式為predict(objecttnewda匸呂,,-.｝其中object是由princcmpO得到的對(duì)象.newd足曲搠測(cè)值構(gòu)成的數(shù)據(jù)M當(dāng)敢甘心詳缺省時(shí)*預(yù)測(cè)已有數(shù)據(jù)的主成分僧.5,bcreeplot函數(shù)streeplo^O函數(shù)是畫(huà)出主成分的碎石圖，比使用格犬為scresplat(x,npcs=minflOjlengtii(x$sdev｝)(type=ct"barplot'*tF,lines'1,nain=deparse(SLibsT；itiite(x)),...)其中x是由princompO的對(duì)熱npcs是Hl岀的主成分的個(gè)數(shù)，type是描述畫(huà)出的碎石圖的類(lèi)型■"barplot"是直方圖類(lèi)型創(chuàng)是直線圖類(lèi)型.G?biplot函數(shù)ViplozO是畫(huà)出數(shù)據(jù)關(guān)于主成分的散點(diǎn)圖和原坐標(biāo)在主成分卜的方向，K使用格式為billot(e,choices工1:2,scale=1,pc.Mplot二FALSEs…J瓦中I是由princompf｝得劍的對(duì)象.choices足選擇的主成分，缺省値懇第1、跖2主成分.pc-biplot是邏輯變準(zhǔn)『缺省伉為FALS￡:.當(dāng)Pc.biylQt=TRUL用Gabriel(1971)提出的畫(huà)圖方法”J實(shí)例卜-面用十田I明前面介紹的函數(shù)的f吏用施例m｛中學(xué)生身依四項(xiàng)抬標(biāo)的韋成分分析)在某中學(xué)隨機(jī)柚取某年級(jí)和龍學(xué)生，剛壹其身鬲(XJ、體瑩u,阿融(心)舸世髙兀\數(shù)協(xié)期粗9.1斫示.試對(duì)這和名中學(xué)生身體四項(xiàng)指標(biāo)數(shù)操飯圭成分分析.解，用數(shù)據(jù)框的形犬輸入數(shù)據(jù).用princompO作主成分分析，由前面的分析，選擇相關(guān)矩陣作主應(yīng)分分析老合理，因此.這電選擇的參數(shù)是""氓證‘最后用summary0列岀主成分分析的偵*這里選擇1gdingWRUE?以下是相應(yīng)的

序號(hào)A\屯序號(hào)兀 備x3a4IIIS4172781615235737921393171761714947S279316()49TKi8618145357()■■414936677919⑹47743751594580862015641*S3611231667621151127352i15313768322147387378815D43777923157396SSU9151427724147311657510139316S74251571880881114029647426151367180121611778842714436687613"&197S832S1113U6776141403367112913&32687315137316673301483870祀處沖列散拆■璉形犬輸入散站>students-data,irare(Xl=cC14SJ139fISO,149t159r142,153,150,151t139.140,161f15S,140*137t152,149,145,160t156,151a147,157,1億157,151.144.141,1391148)s34,49,36.45.31.43a43P42,31t29,47,49,33,31.35I47,35,47.44」42f3Ba39,30.48,3Ss36j30,32,38),I>c(T2,71,億67.80,66a76.77,77,68,78,78s67.込73』82,70,74,78,3368,65,80>68,6?,68,70}」X4=g(78s76,86579186,76,83’他80.74,了4,84,83,73f電87,85,32,80}◎88f0Ca76t73a78)

得赫作主成分分析.并顯示分析結(jié)果studsriL.pr<-princorptsuiiisnttcor=TRIEDsuniiiryCstudenL-prjLoadings^T^JZ)Importanceofcomponents:Com.1 Coup.2 CoEp.3Comp.4Standarddevia^ion1.3817605C.55980636C-261795940.25711344Proportio口Ciim.jla^LveofVarianceStandarddevia^ion1.3817605C.55980636C-261795940.25711344Proportio口Ciim.jla^LveofVariancePrQportion0.88527450.885274=50-07834579C,963620290.01985224C.983472530,016527471.00000000Loadings:Comp.1Comp.2Comp.3Coup,4XI-0.4970.543-C.450 0.5C617-0.515-0.210-0.462-0.691X3-0.481-0.7250.175 0.461X4-0.5070.365CL744-0.232在1：述程序中，訂洵s^uden-.pr<-Erinccjip(s^idenr, =TRUE)可以ttjSstudent.pr<-princonipt~X1+X2*X3*X4,dati=student,cor=TRUE].兩衿是等價(jià)的.sunmary()陽(yáng)數(shù)別岀了主成分分析的重耍信息，Standarddeviation彳亍表示的昱主嵐分的標(biāo)桂差，即主戍分的方基的開(kāi)方，也就是相就的特征fttM忌入％入1的卄方.ProporrionofVariance行表示的是方差的貢猷率.C-jn-jla^iveProportion行表示的足廳差的累機(jī)貢獻(xiàn)率.由于在summary函數(shù)的參數(shù)中選取了loadings=TRUE.因此列岀fLoadings:載荷的內(nèi)容，它實(shí)際IJB上成分對(duì)應(yīng)于原始變熾工.兀.忑兀的系數(shù)’即前面介紹的WQ因此，得到Z；=-0.497A^一0.515X；-0.181X*-0.507A^*fZ；=0.543T；-0.210X；-O.725A；-0.368A^f由于前兩個(gè)主成分的累器質(zhì)獻(xiàn)率已達(dá)到陸匯另外二個(gè)主成分可以舍氏達(dá)到降維的目的.第1主成分對(duì)應(yīng)系數(shù)的符號(hào)都相同」其值崔牯左占它反映了中學(xué)生身材魁析程團(tuán)身體髙大的學(xué)生，他的?1個(gè)部分的尺扌都比校兄因此第1上成分的(tt就校小(因?yàn)橄禂?shù)均為負(fù)01：而肓材頊小的學(xué)也他的1部分的尺寸部比較小，因此.第I主成分絕對(duì)值就較大.我們稱(chēng)第1主成分為人小因子”第2主成

分是島度與闌度的色第2主成分值人的學(xué)生表明該學(xué)生”細(xì)空，河第2主成分價(jià)挾小的學(xué)生表明該學(xué)生憾胖：因此，稱(chēng)第2主成分為依形因子，我們看一下各樣本的主成分的肛用predictO函數(shù)純曲作預(yù)更>predict(student,pr)Cony,1CoHD.2AComp,3Conp.410.06990950-0.23813701-0.35509248-0.26612013921.59526340-0.718473990.32813232-0.1180565463-2.847931510.359*56679-0.09731731-0.2794&248740.759969880.30604335-0.04945722-0.1629492905-2.739667770017180870,360126150,35865304462-105831680.322843930.18600422-C.0364560847—1.42105591-0.060S31S50.21093321-0.0442230928-0.32583977-0.78102575-0.275577980.0572905729-0-93464402-Q.E0469242-0.088141360.131037745102.36463020-0.365321990.098404760.045520127112.837419160.348758410-03310423-0.03114693012-2.608512240.21278728-0.333980370.21015757413-2,44253342-0.16769496-0.46313095-0.162987830141,366306690.050213840.37720280-0*358521916152..81347421-0.31790107-0.03291329-0.222035112160.063929830.207184480.043343400.70353362417-1.SSS61022-1.T&439674-Q.331264060.007551879181.07392251<,067634180.022836480.04860668019-2.521742120.972743010.12164633-0.35066799120-2.140723770.022178810.37410972C.12954896021-0,796244220.163073870-12781270-0.294140762220,28708321-0.35744666-0-039621160.06099198923-0.2S15107S1,25555183-0.556173250.109068939242.C57060320,78894494H.265521090.38808864325-3.06596855-0.057753180,62110421-0.21893961226-0.163675550.0^317&320,244818500,560248997271.372650530.02220&72-0,23378320-C.257399715

282.16^977730.137332330.355897390.093123683292.40434827-0.43613137-0.16154441-0.007914021300,502874680.14734317*0-.20590831-O.122Q7S819從第1上成分來(lái)看’較小的幾個(gè)債是餡號(hào)樣也3號(hào)樣本和S號(hào)樣也因此說(shuō)明這幾個(gè)學(xué)生身材妍用而11兮樣旅15號(hào)樣木和29號(hào)樺木的的值校大，說(shuō)明這幾亍學(xué)主身材瘦小?從第2主成分來(lái)看，較人的幾個(gè)値區(qū)23號(hào)樣本、19號(hào)樣本和4號(hào)樣本,因此說(shuō)明這幾個(gè)學(xué)生屬于呦礦裁麗疔號(hào)樣本，3號(hào)樺本和2號(hào)樣本的的值校小，說(shuō)明這JL個(gè)學(xué)生身材屬于惚胖”型還可以畫(huà)出關(guān)干第】主成分和第2主成分樣本的散點(diǎn)圖.其圖形如圖9.2所示從該散點(diǎn)圖町以很容易看必陽(yáng)肥學(xué)生屬F高大魁措俱如23號(hào)學(xué)牝哪些學(xué)生屬于身材搜小酸如11號(hào)或1-號(hào)匚哪些學(xué)半屬于?細(xì)斷型，如22號(hào)昭陛學(xué)電屬F儀膵電如1；號(hào).還有哪些學(xué)主屬子正常體瑕如2右號(hào)’善

-6 -4 -2 0 2 4—-6 -4 -2 0 2 4■o-甲-甲-0.4 -0.2 0.0 0.2 0.4Conp.i圖923D名中學(xué)生身體指標(biāo)數(shù)據(jù)關(guān)T第1主成分和第2上成分的散點(diǎn)圖9丄出主成分分祈的應(yīng)用這_小節(jié)講兩個(gè)何題作為主成分分析的應(yīng)用，—T是變量分類(lèi)問(wèn)題；另f是主成分回歸問(wèn)題?匚主成分分類(lèi)例92對(duì)i曲個(gè)成年另子的身材進(jìn)行刑甕每人4剤得歷項(xiàng)指標(biāo)；身鬲M、坐鬲(X^).胸81(池八頭高g*禪也g.下檔(X^)、子走(Xr).頓?fXJ,前胸(兒丿、后背(％。八肩厚(Xn)、肩寬(Xl2}.祜長(zhǎng)(Xl3),肪團(tuán)＜￥|4八SBrxl5；和磁肚＜Xie;.16項(xiàng)指標(biāo)的相關(guān)距陣尺如表腸所示(由于相關(guān)拒陣是對(duì)稱(chēng)的*只給出下三色部分丄試從粕關(guān)拒陣R出規(guī)進(jìn)桿主成分今析，對(duì)"項(xiàng)計(jì)需進(jìn)行分奏.

LOOu.?yLOO表g山:冷項(xiàng)射1).36D.31LUU1).96D.740.381.000?390.310.901.000.790.30(J.7S0.791.00(J.7G1).550.740.731*000.19OUD.拠1.0011210.U70.2SU.2U0.18UASI曲-U.04LGO0.26D.IG0.3311220.23-0.311.00()J)7D,210,350.0&4),U20.000.10()44-0.160.231.00ILW0410.35033l).壬[).360.44L'3lj-0.050*24LOO?J1).770.470-41U.7VU79U.oy0-671).320.230.31IMU0.G2IMD.2-J0.G4U.270.27CU40.1SOJ10.15氏3丄U.171261.00051030.580.570.5L0.2Gi).3&0.560.410.500.631.000.2：n.100.510.2G0,23D.000.12LOOu.?yLOO表g山:冷項(xiàng)射1).36D.31LUU1).96D.740.381.000?390.310.901.000.790.30(J.7S0.791.00(J.7G1).550.740.731*000.19OUD.拠1.0011210.U70.2SU.2U0.18UASI曲-U.04LGO0.26D.IG0.3311220.23-0.311.00()J)7D,210,350.0&4),U20.000.10()44-0.160.231.00ILW0410.35033l).壬[).360.44L'3lj-0.050*24LOO?J1).770.470-41U.7VU79U.oy0-671).320.230.31IMU0.G2IMD.2-J0.G4U.270.27CU40.1SOJ10.15氏3丄U.171261.00051030.580.570.5L0.2Gi).3&0.560.410.500.631.000.2：n.100.510.2G0,23D.000.120.3S0.1SD.l-1QJ10.1&0.240.500.65LOOx<-c(1.00,0.79,1.00,0.36,0.31,1.00,0.96,0.74,0.38,1.00,0.89,0W&0.31,0.90,1.00,0.79,0.58,6.0.79,1.00,S餡0.55,0.35,0\7St0,74.0-73(1.00,0.26,0.19,0.5B,0.25,0,25,0.18(CL24,1+00t7,0,0.18,0.1S,0.29,-0.04,1.00.0.26,0.16,0.33,0.22,0.23?0.23,0-26,0,49,-0.34.1.00,0.0.38,0.08,-0.02.0.00,0,10.0.44,-0.16,0.23tl.OOj0.52.0-41,0.3bt0.53*C.42,0.44,0.30('Qi05,4.1.00.0"0,47.0.41’0,7910.79,0.63,0,67.0,,31」2,1.00,0.25,0.17,0.64,427,0,27.0.14,0,16,0.51,G.21,0.1S.0<31(0.17,0.26.1,005,0.5S,0.57,0.51t0.26,0.38,0.51,0.15,0+29,0.28(0.41,0.50,0.63,1.00,6,0.51,0.26t0.23,O',00,0.12,0.3S,0.18,0,14.0,31,0.18,0.2410.50,0,65,roo)牖料輸入變量名稱(chēng)naMG&C-cC^Xl"?忙*\臨3”，MX4M,BX5M,"X6H,f,I7ffttrX8ttp"X9'1,"X10","Xlllf,"X12\f,X13'\"XIA*1rMX15lf,''XIG")辟桃搟矩陣生成柑關(guān)矩薛JK-naLrizCO^nrow=16,zico1=16fdimnaries=2.isT(nanes,nanes})for(1in1;16){for(jm1:1X}}作圭成分分析pr<-^rmcanp(co\TLa^=R);1oad<-1aadines(pr)胖曲畫(huà)散點(diǎn)圖plat(loadt,!;2]);t?xx(loidlf1],Load[.2],adj=c(-0.4,0,3))得到的圖JK由圖g衛(wèi)所示.圖93屮左上侑的點(diǎn)看成一獎(jiǎng)它們是哽類(lèi)，即身高兩.坐茁兀；、頭髙(心.裨民(心.下檔GR、手氏(兀),袖艮{心}.右下角的點(diǎn)看成一類(lèi).它們是W類(lèi),即躺圍(茍，領(lǐng)幣(益)、肩厚(Xu)■助圍(Xu)、腰圍(X1B)■腿肚(XG中間的點(diǎn)看成一賄為體形持征指標(biāo)1即前胸軌、后背A；nj、肩寬:畑o￡C4eq巧-o■o2」13:\o12r二-CM屮一<il0rt7一o15o3Ofio14011-035T3C-0.25 -020 -01& -010Corrp1圖9.3：16個(gè)變鈦在第一、第二分卜-的散點(diǎn)圖2*主成分回歸在回歸分析一章中，曾經(jīng)講過(guò)，當(dāng)自變址出現(xiàn)名垂共線性時(shí)*經(jīng)典回歸方進(jìn)作回歸系數(shù)的最小二乘怙計(jì)’皿效果會(huì)較基而采用主成分冋歸能夠克服直接回山的不足?I訶訓(xùn)一個(gè)例子來(lái)說(shuō)明如何作主成分回歸，井II是如何克服經(jīng)典回歸的不足.例9-3(法國(guó)經(jīng)濟(jì)分析數(shù)據(jù)；考慮進(jìn)口總潮廣與三個(gè)自哽缶國(guó)內(nèi)總產(chǎn)值總存儲(chǔ)童左龐消費(fèi)董X,單位為皿億法郎丨之間的關(guān)氣現(xiàn)收集了⑼g年至m劉年共山年有敦堀如表0*所示.試對(duì)此敦?fù)?jù)作螳典凹?xì)w分析和主成分回歸分析.解：輸入數(shù)據(jù)｛采用數(shù)據(jù)框形式)再用一般線性間歸方法侔何歸分析｛程序名；exarOSCS,R.T用數(shù)推椎的形犬笹入數(shù)據(jù)>conoay<-dar^.frame(xl-c(149,3f161.2,171.5,175.5,180.8,190.7(

202.212.4.226.1*231.9a239.0}.X2-GC4.2,4.1*3.1,3丄L.Lt2.2A2.1*5.6,5.0」0-7),x3?cC108.1t114.8,123.2,126,9,132.1,137.7,146.0,154,1.162.3,164,3.167.6},

y=c(lS-9J16,4.19,0.19,1.19,8a20.4*22.7f26.5.28*1,27.fr,26.3}序號(hào)■x3Y1149.34.2108,115.92161.2丄1114.816.43171.53,1123,241EQ126.919.15180.8LI132.118.86WlJ.722137.733.4■20212.1116.022.7821245.6134.126.592261Mt)162.328.11023L95.1164.327.61123^.0(J7167.626.3####作蜿性回歸、Im-sol*：-lzi(y*Kl+x2+x3|daTa=colony)>stmiTiary(In.sol}Call:In(i0*^11a=y~xl+x2+x3,di~i=colony>Resid'dals:MmlLjKedianResid'dals:MmlLjKedian3Q Max^0,52367-0.38953 0.05424 0.22644 0,78313Coeificients;Estimat召Std-EttqttviluePrC>t13(Intercept)-10.127991.21216-S.3556.9e-05***xl-0,051400.07G28-0.7310.488344720.日86950*094626.203O.CC0444***0.286850.102212,8070.026277*SigniiLcodes: 0^***」0.001J**J0.01;r*J0,05 0.1'ResidualstazLdarderror:0,4889on7degreesofireedonMultipleR-Squared:Q.9919,AdjustedR-squared:C.9SB4F-statiETic:285.6on3and7DF*p-valne:1.112e-07從計(jì)於結(jié)果町以看岀’按三個(gè)變訛得到同歸方程Y=-10.12799-0-05140X1+0.58655Xa 0,28685X3* (9」4)仔細(xì)分折方程(9.14),發(fā)現(xiàn)它并不合理同到問(wèn)題本身，F(xiàn)是進(jìn)口童Xi是國(guó)內(nèi)總嚴(yán)凰而對(duì)應(yīng)系數(shù)的符號(hào)誦為負(fù).也就是說(shuō)，國(guó)內(nèi)的總產(chǎn)值越高，其進(jìn)口母確越空這與實(shí)I樂(lè)悄況是不相符的.問(wèn)WW,三個(gè)變磺存在君務(wù)取共線^后面我們將會(huì)看至憬小特fiE值按逬干。為克服多忒尖線性的影響，對(duì)變瑕作作卞成分冋歸.先作主反分分折.?###作主底分分析conomy.pr<'princomp('K1+X2+X3,daxa=concDy.cor*T)sumnary(cozicny.-pr,loadiiigs=rRUE)Zmporranceofcompoiien^s:Cwp*11.413915Standardd^Tia^ionCon;ph20.Zmporranceofcompoiien^s:Cwp*11.413915Standardd^Tia^ionCon;ph20.9990767Cgg,30.0518737839ProportionofVarianceivg?zopor^131:0.6663850.6663850.3327181c.cggioac0.00089696321.QOOOOOOCiOOLoadings::Camp.1Comp.2Comp.3xl0.706 0.707x2 ^0.999x30.707 -0+707前兩個(gè)主成分已達(dá)到陽(yáng)％的貢獻(xiàn)率弟1主成分呈關(guān)于國(guó)內(nèi)總產(chǎn)值和總消費(fèi)，因此秫第1主成分為產(chǎn)銷(xiāo)因子.第2主成分只與存儲(chǔ)葉仃關(guān)，稱(chēng)為存儲(chǔ)因干注意”A3=0,Q51873753￡)a=0.002690S89=s0.所以變訛存在著名匪共線性.卜而作主成分冋歸.首先計(jì)57樣本的主成分的預(yù)測(cè)伉，并將第1主成分的偵抑煩和第2主成分的預(yù)測(cè)值存放在數(shù)據(jù)槌w叼屮*然后再對(duì)主成分作冋歸分析.其命令格式如F##刪預(yù)測(cè)測(cè)樣本主或分，并作主咸分分析pre<-predict(conQEiy>pr)conomvSzK-pre11];corLom7$z2<-nre1.2]Im.sol<-lit(yr~zl*z2Jdaia=conony^suEiEiary(lm.sol)Ca