典型相關(guān)分析的實例

CanonicalCorrelationAnalysis典型相關(guān)分析典型相關(guān)分析的實例一、引言

典型相關(guān)分析的實例

1.兩個隨機(jī)變量Y與X簡單相關(guān)系數(shù)2.一個隨機(jī)變量Y與一組隨機(jī)變量X1,X2,…,Xp多重相關(guān)(復(fù)相關(guān)系數(shù))3.一組隨機(jī)變量Y1，Y2，…，Yq與另一組隨機(jī)變量X1，X2，…，Xp典型(則)相關(guān)系數(shù)（一）何時采用典型相關(guān)分析典型相關(guān)是簡單相關(guān)、多重相關(guān)的推廣；或者說簡單相關(guān)系數(shù)、復(fù)相關(guān)系數(shù)是典型相關(guān)系數(shù)的特例。典型相關(guān)分析的實例

典型相關(guān)是研究兩組變量之間相關(guān)性的一種統(tǒng)計分析方法。也是一種降維技術(shù)。由Hotelling(1935,1936)最早提出，CooleyandLohnes(1971)、Kshirsagar(1972)和Mardia,Kent,andBibby(1979)推動了它的應(yīng)用。

典型相關(guān)分析的實例實例（X與Y地位相同）

X1,X2,…,XpY1,Y2,…,Yq1臨床癥狀所患疾病2原材料質(zhì)量相應(yīng)產(chǎn)品質(zhì)量3居民營養(yǎng)健康狀況4生長發(fā)育（肺活量）身體素質(zhì)（跳高）5人體形態(tài)人體功能典型相關(guān)分析的實例

1985年中國28省市城市男生(19～22歲)的調(diào)查數(shù)據(jù)。記形態(tài)指標(biāo)身高(cm)、坐高、體重(kg)、胸圍、肩寬、盆骨寬分別為X1，X2，…，X6；機(jī)能指標(biāo)脈搏(次/分)、收縮壓(mmHg)、舒張壓(變音)、 舒張壓(消音)、肺活量(ml)分別為Y1，Y2，…，Y5?，F(xiàn)欲研究這兩組變量之間的相關(guān)性。

典型相關(guān)分析的實例

典型相關(guān)分析的實例簡單相關(guān)系數(shù)矩陣

典型相關(guān)分析的實例簡單相關(guān)系數(shù)公式符號Corr（X）＝R11Corr（Y）＝R22Corr（Y，X）＝R21Corr（X，Y）＝R12典型相關(guān)分析的實例簡單相關(guān)系數(shù)

描述兩組變量的相關(guān)關(guān)系的缺點

只是孤立考慮單個X與單個Y間的相關(guān)，沒有考慮X、Y變量組內(nèi)部各變量間的相關(guān)。兩組間有許多簡單相關(guān)系數(shù)（實例為30個），使問題顯得復(fù)雜，難以從整體描述。典型相關(guān)分析的實例（二）典型相關(guān)分析的思想采用主成分思想尋找第i對典型(相關(guān))變量（Ui，Vi）：典型相關(guān)系數(shù)典型變量系數(shù)或典型權(quán)重

典型相關(guān)分析的實例

X*1，X*2，…，X*p和Y*1，Y*2，…，Y*q分別為X1，X2，…，Xp和Y1，Y2，…，Yq的正態(tài)離差標(biāo)準(zhǔn)化值。記第一對典型相關(guān)變量間的典型相關(guān)系數(shù)為：＝Corr（U1，V1）（使U1與V1

間最大相關(guān)）

第二對典型相關(guān)變量間的典型相關(guān)系數(shù)為：＝Corr（U2，V2）（與U1、V1

無關(guān)；使U2與V2

間最大相關(guān)）.....……

第五對典型相關(guān)變量間的典型相關(guān)系數(shù)為：＝Corr（U5，V5）（與U1、V1

、…、U4、V4無關(guān)；U5與V5

間最大相關(guān)）有：

典型相關(guān)分析的實例典型相關(guān)變量的性質(zhì)典型相關(guān)分析的實例12η2η1典型變量典型相關(guān)系數(shù)1與2是三個X變項的線性組合。η1與η2代表兩個Y變項的線性組合。典型加權(quán)系數(shù)（三）典型相關(guān)分析示意圖典型相關(guān)分析的實例二、典型相關(guān)系數(shù)及其檢驗

典型相關(guān)分析的實例（一）求解典型相關(guān)系數(shù)的步驟求X，Y變量組的相關(guān)陣

R=

；求矩陣

A、B

可以證明A、B有相同的非零特征根；典型相關(guān)分析的實例3.求A或B的λi（相關(guān)系數(shù)的平方）與，

i＝1,…,m，即；4.求A、B關(guān)于λi的特征根向量即變量加權(quán)系數(shù)。典型相關(guān)分析的實例（二）典型相關(guān)系數(shù)計算實例求X，Y變量組的相關(guān)陣

R=典型相關(guān)分析的實例Corr（X）＝R11Corr（Y）＝R22Corr（Y，X）＝R21Corr（X，Y）＝R12典型相關(guān)分析的實例2.求矩陣A、B典型相關(guān)分析的實例A矩陣(p×p)0.52980.45860.30530.3986-0.2919-0.1778-0.0912-0.0701-0.1669-0.1939-0.0007-0.01680.22740.27390.54890.08400.52380.44680.09660.03760.05100.3877-0.2523-0.1759-0.0915-0.0979-0.0669-0.03770.0061-0.08060.09490.14210.1757-0.02100.21710.3142典型相關(guān)分析的實例B矩陣(q×q)0.2611-0.0560-0.0337-0.0551-0.0312-0.00530.55720.10090.0034-0.0543-0.0632-0.08430.08590.00130.1743-0.1175-0.00070.11830.25500.1490-0.10520.13900.35310.29120.5573典型相關(guān)分析的實例3.求矩陣A、B的λ（相關(guān)系數(shù)的平方）A、B有相同的非零特征值典型相關(guān)分析的實例B矩陣求λ

（典型相關(guān)系數(shù)的平方）0.2611-

λ-0.0560-0.0337-0.0551-0.0312-0.00530.5572-λ

0.10090.0034-0.0543-0.0632-0.08430.0859-λ

0.00130.1743-0.1175-0.00070.11830.2550-λ

0.1490-0.10520.13900.35310.29120.5573-λ

典型相關(guān)分析的實例5個λ與典型相關(guān)系數(shù)λ1＝0.7643λ2＝0.5436λ3＝0.2611λ4＝0.1256λ5＝0.0220

典型相關(guān)分析的實例4.求A、B關(guān)于λi的變量系數(shù)

（求解第1典型變量系數(shù)）

典型相關(guān)分析的實例求解第2典型變量系數(shù)

典型相關(guān)分析的實例…求解第5典型變量系數(shù)

典型相關(guān)分析的實例5組（標(biāo)準(zhǔn)化）典型變量系數(shù)(X)U1U2U3U4U5X10.5852-1.14430.78230.0352-0.8298X2-0.21750.01890.60320.12891.5590X30.52881.6213-0.7370-0.4066-1.1704X40.1890-0.9874-0.77530.12290.6988X5-0.1193-0.0626-0.2509-0.58601.0488X60.19480.81080.14670.9523-0.5140典型相關(guān)分析的實例5組（標(biāo)準(zhǔn)化）典型變量系數(shù)(X)典型相關(guān)分析的實例由標(biāo)準(zhǔn)化典型變量系數(shù)獲得原變量X對應(yīng)的粗典型變量系數(shù)粗典型變量系數(shù)可由標(biāo)準(zhǔn)典型變量系數(shù)與相應(yīng)的標(biāo)準(zhǔn)差之比獲得。典型相關(guān)分析的實例5組（標(biāo)準(zhǔn)化）典型變量加權(quán)系數(shù)(Y)V1V2V3V4V5Y1-0.0838-0.13251.08070.3750-0.0376Y2-0.08781.26880.07010.2476-0.3342Y30.2147-0.33010.2218-1.08631.4100Y40.2920-0.2392-0.57651.3368-0.2942Y50.7607-0.29950.6532-0.0017-0.6905典型相關(guān)分析的實例（三）典型相關(guān)系數(shù)的特點

兩變量組的變量單位改變，典型相關(guān)系數(shù)不變，但典型變量加權(quán)系數(shù)改變。（無論原變量標(biāo)準(zhǔn)化否，獲得的典型相關(guān)系數(shù)不變）第一對典則相關(guān)系數(shù)較兩組變量間任一個簡單相關(guān)系數(shù)的絕對值都大，即

ρ1≥max(|Corr(Xi,Yj)|)或ρ1≥max(|Corr(X,Yj)|)≥max(|Corr(Xi,Y)|)典型相關(guān)分析的實例（四）校正典型相關(guān)系數(shù)

（AdjustedCanonicalCorrelation）

為了使結(jié)果更加明了，增加大值或小值，減少中間大小的值，將典型變量系數(shù)旋轉(zhuǎn)，可得到校正的典型相關(guān)系數(shù)。缺點：1.可能影響max（U1,V1）；2.影響（U1,V1）與其他典型變量間的獨立性。典型相關(guān)分析的實例（五）典型相關(guān)系數(shù)的假設(shè)檢驗

全部總體典型相關(guān)系數(shù)均為0部分總體典型相關(guān)系數(shù)為0典型相關(guān)分析的實例1.全部總體典型相關(guān)系數(shù)為0典型相關(guān)分析的實例F近似檢驗（計算公式）典型相關(guān)分析的實例F近似檢驗（SAS結(jié)果）

TestofH0:ThecanonicalcorrelationsinthecurrentrowandallthatfollowarezeroLikelihoodApproximateRatioFValueNumDFDenDFPr>F10.067984662.2430700.003020.288405091.382060.6490.168630.631953010.801250.5610.650440.855215980.546400.772950.978034790.242210.7920典型相關(guān)分析的實例多變量統(tǒng)計量與F近似檢驗

MultivariateStatisticsandFApproximationsStatisticValueFValueNumDFDenDFPr>FWilks'Lambda0.067982.2430700.0030Pillai'sTrace1.716511.83301050.0133Hotelling-LawleyTrace4.952772.623035.3960.0032Roy'sGreatestRoot3.2422111.35621<.0001NOTE:FStatisticforRoy'sGreatestRootisanupperboun.典型相關(guān)分析的實例多變量統(tǒng)計量的計算公式典型相關(guān)分析的實例2.部分總體典型相關(guān)系數(shù)為0

僅對較小的典型相關(guān)作檢驗典型相關(guān)分析的實例卡方近似檢驗典型相關(guān)分析的實例部分總體F近似檢驗（計算公式）典型相關(guān)分析的實例三、典型結(jié)構(gòu)分析典型相關(guān)分析的實例與原變量間的相關(guān)程度和典型變量加權(quán)系數(shù)有關(guān)。典型變量與原變量的親疏關(guān)系

原變量與自已的典型變量

原變量與對方的典型變量之間的相關(guān)系數(shù)。典型相關(guān)分析的實例原變量在典型變量上的負(fù)荷(即原變量與典型變量間的相關(guān)系數(shù))U1U2U3U4U5V1V2V3V4V5身高X10.9050-0.08060.3777-0.14870.08870.7912-0.05940.1930-0.05270.0132坐高X20.86160.01120.4152-0.03600.24120.75320.00830.2121-0.01280.0357體重X30.93610.1655-0.0471-0.2933-0.02470.81840.1220-0.0240-0.1039-0.0037胸圍X40.6958-0.3189-0.53820.31910.13540.6083-0.2351-0.27500.11310.0201肩寬X50.13560.5329-0.0321-0.23760.73890.11850.3929-0.0164-0.08420.1095骨盆寬X60.24330.4412-0.04050.74780.39080.21270.3253-0.02070.26500.0579脈搏Y1-0.3610-0.06250.37570.16050.0410-0.4130-0.08480.73530.45300.2764收縮壓Y20.39630.62320.04950.05080.03320.45330.84520.09680.14330.2240舒張壓(音變)Y30.58010.15680.03780.02870.10500.66360.21270.07400.08100.7087舒張壓(消音)Y40.50030.0296-0.08370.23390.06770.57230.0401-0.16380.66000.4565肺活量Y50.79940.00940.0685-0.0743-0.04730.91440.01280.1341-0.2098-0.3190典型相關(guān)分析的實例負(fù)荷矩陣的表達(dá)左上角的矩陣

X1=0.9050U1-0.0806U2+0.3777U3-0.1487U4+0.0887U5

X2=0.8616U1+0.0112U2+0.4152U3-0.0360U4+0.2412U5……X6右下角的矩陣

Y1=-0.4130V1-0.0848V2+0.7353V3+0.4530V4+0.2764V5

Y2=0.4533V1+0.8452V2+0.0968V3+0.1433V4+0.2240V5…..Y5典型相關(guān)分析的實例各典型變量的意義解釋UVCorr(U,V)1身高、坐高、體重、胸圍舒張壓、肺活量0.87422肩寬收縮壓0.73733胸圍(-)脈搏0.51054骨盆寬舒張壓(消音)0.35425肩寬舒張壓(音變)0.1510典型相關(guān)分析的實例

等于該變量與自己這方典型變量的相關(guān)系數(shù)與典則相關(guān)系數(shù)的乘積

原變量與對方典型變量的相關(guān)典型相關(guān)分析的實例原變量與對方典型變量的相關(guān)

右上角和左下角反映了原變量和對方的典型變量間關(guān)系，為利用對方的典型變量來預(yù)測原變量(回歸)提供依據(jù)。典型相關(guān)分析的實例四、典型變量的冗余分析

（CanonicalRedundancyAnalysis）典型相關(guān)分析的實例

該方法由StewartandLove1968;CooleyandLohnes1971;vandenWollenberg1977)發(fā)展。以原變量與典型變量間相關(guān)為基礎(chǔ)。通過計算X、Y變量組由自己的典型變量解釋與由對方的典型變量解釋的方差百分比與累計百分比，反映由典型變量預(yù)測原變量的程度。典型相關(guān)分析的實例典型變量編號X1，X2，X3，X4，X5，X6被U1，U2，…，U5解釋典