PCA降維度實(shí)驗(yàn)報(bào)告

《電子商務(wù)》實(shí)驗(yàn)報(bào)告PCA降維題 目 （22）PCA成 員201461日1PAGEPAGE9摘要（1很多在低維空間具有良好性能的分類算法在計(jì)算上變得不可行（226MFCCPCA降維算法。關(guān)鍵字：降維、PCA、MFCC算法分析PCA簡(jiǎn)介PCA的目標(biāo)是為了發(fā)現(xiàn)這種特征之間的線性關(guān)系，檢測(cè)出這些線性關(guān)系，并PCAPCA的目標(biāo)是為了發(fā)現(xiàn)這種特性維度之間的線性關(guān)系，檢測(cè)出這些線性關(guān)系，并且去除這線性關(guān)系。PCA算法設(shè)X1、X2….，Xp為原始變量，F(xiàn)1、F2…，F(xiàn)m為m個(gè)主成分因子Fa X1 11

a X21

...a Xp1 p其使方差Var(F1)越大，表示F1包含的信息越多，故稱F1為第一主成分。Fa Xa X ...a X 1 11

12

1p pFa Xa X ...a X2 21 1 22 2 2p p F a Xm

a Xm2

...a Xmp pFiFj互不相關(guān)，Cov(Fi，F(xiàn)j0F1X1，X2，…，Xp的一切線性組合中方差最大的,……,FmF1，的所有線性組合中方差最大者。m個(gè)主成分。PCA降維步驟,p1計(jì)算原變量協(xié)方差矩陣 (s,p1ijns n1ijn

(x xki

ij pp)(x xkj j

i,j1,2,k1求出Σ的特征值及相應(yīng)的正交化單位特征向量Σ的前m個(gè)較大的特征值1 2 … m>0,就是前m個(gè)主成分對(duì)應(yīng)的方差對(duì)應(yīng)的單位特征向量就是原來變量在主成分Fi上的載荷系數(shù)（數(shù)學(xué)上可以證明，則原變量的第i個(gè)主成分i為：FaTXi i i主成分的方差（信息）貢獻(xiàn)率用來反映信息量的大小，為：選擇主成分

i

mii1最終要選擇幾個(gè)主成分，即F1,F2,……,Fm中m的確定是通過方差累計(jì)貢獻(xiàn)率G(m)來確定G(m)

m ii1

p kk185%mm個(gè)主成分。實(shí)驗(yàn)過程實(shí)驗(yàn)環(huán)境MATLAB2014a+windows8操作系統(tǒng)MATLAB是一種用于算法開發(fā)、數(shù)據(jù)可視化、數(shù)據(jù)分析以及數(shù)值計(jì)算的高級(jí)/數(shù)據(jù)圖像等常用功能外，B（包括C+和）2014aMATLAB版本。Windows820121026日正式推出的操作系統(tǒng)。系統(tǒng)metroIntelAMD的芯片架構(gòu)，Windows7所支持的軟件和硬件。實(shí)驗(yàn)步驟1.打開MATLAB2014a1.打開MATLAB2014a，點(diǎn)擊mfcc.mat所在目錄下，如下圖：MATLAB的工作文件夾定mfcc.mat，將數(shù)據(jù)加載到工作區(qū)。在命令行窗口輸入命令：[coeff,score,latent,tsquared]=pca(mfcc); 并回車得到MATLAB自帶的pca算法運(yùn)行后的數(shù)據(jù)，如下圖：圖2-2ratecumsum(latent)./sum(latent);并回車，得到特征值的累計(jì)貢獻(xiàn)率，如下圖：圖2-395%21命令行窗口輸入命令：tranMatrixcoeff(:,1:21);并回車，得到主成分變換矩2621維空間。在命令行窗口輸入命令：并回車，得到降維t，點(diǎn)擊右鍵，選擇“另存為mfcc_result.mat，如下圖：

圖2-4MATLABPCA函數(shù)分析[coeff,scorelatenttsquaredpca(X)MATLAB自帶的函數(shù)，其各個(gè)變量代表的意義如下：X：為要輸入的n維原始數(shù)據(jù)。XV的大小遞減排序。Xn維數(shù)據(jù)按貢獻(xiàn)率由大到小排列。latentX所對(duì)應(yīng)的協(xié)方差矩陣的特征值向量，每一個(gè)數(shù)據(jù)scorenn大到小排列。tsquared：是表示對(duì)每個(gè)樣本點(diǎn)Hotelling的T方統(tǒng)計(jì)量。實(shí)驗(yàn)代碼行分析[coeff,score,latent,tsquared]=pca(mfcc)：通過MATLAB自帶的函數(shù)，得到mfcc數(shù)據(jù)的MATLAB pca函數(shù)分析果。rate=cumsum(latent)./sum(latent)：計(jì)算特征值的累計(jì)貢獻(xiàn)率，算出降維后的空間所能表示原空間的程度。tranMatrix=coeff(:,1:21)：根據(jù)得到的累計(jì)貢獻(xiàn)率，分析需要保留的維度數(shù)，因?yàn)橹恍枰鼙硎驹臻g95%以上的特性，就可以保證數(shù)據(jù)完整性。通過查看rate的結(jié)果，前21個(gè)特征值就可以表示原空間95%的特性，同時(shí)原空間所有的特征向量組成的矩陣為coeff，所以保留coeff的前21個(gè)列向量。mfcc_result=bsxfun(@minus,mfcc,mean(mfcc,1))*tranMatrix：scorescore=bsxfun(@minus,mfcc,mean(mfcc,1))*coeffsoeff的特征維度數(shù)mfcc*tranMatrix得到降維后的空間，bsxfun(@minus,mfcc,mean(mfcc,1))*tranMatrix來計(jì)算。實(shí)驗(yàn)結(jié)果實(shí)驗(yàn)得到的結(jié)果保存在mfcc_result.mat文件中，最終降維后的數(shù)據(jù)有以下變化：結(jié)果數(shù)據(jù)沒有打亂樣本的排列順序。95%5很成功。PCA請(qǐng)參照“1.3PCA降維步驟”進(jìn)行測(cè)試數(shù)據(jù)的處理。以下為