版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
PCA和LDA
葛永新PCA和LDAContents特征臉的物理含義關(guān)于主成分的理解作者信息
論文信息
訓(xùn)練階段識別階段Contents特征臉的物理含義關(guān)于主成分的理解作者信息論論文信息TurkM,PentlandA.Eigenfacesforrecognition[J].JoumalofCognitiveNeumseience,1991,3(1):71—86.
論文信息TurkM,PentlandA.Eigenfac作者信息(1/2)MatthewTurkProfessorComputerScienceDepartmentMediaArtsandTechnologyProgramUniversityofCalifornia,SantaBarbara
Researchinterests:Computervisionandimaging,perceptualinterfaces,multimodalinteraction,human-computerinteraction,gesturerecognition,artificialintelligence
/~mturk/作者信息(1/2)MatthewTurkProfes4作者信息(1/2)Prof.AlexPaulPentland
ToshibaProfessorofMedia,Arts,andSciences
MassachusettsInstituteofTechnology
/~pentland
Director,HumanDynamicsLaboratoryDirector,MediaLabEntrepreneurshipProgram
作者信息(1/2)Prof.AlexPaulPentl5關(guān)于主成分的理解(1/3)五行是一種哲學(xué)觀,認為萬事萬物都是由金木水火土這五種要素組成
西方人:所有事物都是由元素周期表中的103種元素組成的水:H2O=2*H+1*O線性代數(shù)尋找基向量的過程
關(guān)于主成分的理解(1/3)五行是一種哲學(xué)觀,認為萬事萬物都是6關(guān)于主成分的理解(2/3)PCA的基礎(chǔ)就是K-L變換,是一種常用的正交變化,K-L變換思想如下:假設(shè)X為n維隨機變量,X可以用n個基向量的加權(quán)和表示
其中是加權(quán)系數(shù),是基向量,其矩陣表示形式是
其系數(shù)向量為關(guān)于主成分的理解(2/3)PCA的基礎(chǔ)就是K-L變換,是一種7關(guān)于主成分的理解(3/3)綜上所述,K-L展開式的系數(shù)可用下列步驟求出
求隨機向量X的自相關(guān)矩陣R=E(XTX),通常我們采用數(shù)據(jù)集的協(xié)方差矩陣作為K-L坐標(biāo)系的產(chǎn)生矩陣;求出自相關(guān)矩陣或協(xié)方差矩陣的特征值和特征向量,;3.展開式系數(shù)即為,由正交性可得,此二式為K-L變換公式
關(guān)于主成分的理解(3/3)綜上所述,K-L展開式的系數(shù)可用下8特征臉的物理含義(1/4)比如ORL人臉數(shù)據(jù)庫中有400幅人臉圖像,是不是可以找到一組基,讓所有的人臉庫中的人臉都可以用這組基的線性組合來表示特征臉的物理含義(1/4)比如ORL人臉數(shù)據(jù)庫中有400幅人9特征臉的物理含義(2/4)意義何在?1.維度大大減少假設(shè)數(shù)據(jù)庫中的圖像大小為112*92,那么存儲這些圖像所需要的空間大小為112*92*200=4121600;假設(shè)我們尋找一組基,不妨假定為40維(即40幅人臉圖像),則數(shù)據(jù)庫中的每幅圖像都可以用這40幅圖像表示,則這個數(shù)據(jù)庫所需的存儲空間為40*400=16000;對比:4121600/16000=257.6特征臉的物理含義(2/4)意義何在?1.維度大大減少10特征臉的物理含義(3/4)意義何在?2.投影方向區(qū)分度大命題1:隨機變量方差越大,包含的信息越多,特別地,如果一個變量方差為0,則該變量為常數(shù),不包含任何信息。命題2:所有原始數(shù)據(jù)在主分量上的投影方差為特征值。PCA思想:尋找主分量,即尋找一組向量,使得原始數(shù)據(jù)在這組向量上的投影值的方差盡可能大。最大方差對應(yīng)的向量就是第一主分量,以此類推特征臉的物理含義(3/4)意義何在?2.投影方向區(qū)分度大11特征臉的物理含義(4/4)意義何在?3.去除原始數(shù)據(jù)的相關(guān)性t=COV(X,Y),t=1,相關(guān);t=0,不相關(guān)命題:對于矩陣A來說,如果AAT是一個對角矩陣,則A中的向量是非相關(guān)的。1)特征臉,即基是正交的,非相關(guān)2)投影系數(shù),可以證明也是非相關(guān)的特征臉的物理含義(4/4)意義何在?3.去除原始數(shù)據(jù)的相關(guān)12訓(xùn)練階段(1/12)訓(xùn)練階段即是尋求最優(yōu)特征臉(基)第一步:假設(shè)訓(xùn)練集有400個樣本,由灰度圖組成,每個樣本的大小為M*N寫出訓(xùn)練樣本矩陣:
X=(x1,x2,…,x200)其中向量x為由第個圖像的每一列向量堆成一列的MN維列向量,即把矩陣向量化,如下圖所示:訓(xùn)練階段(1/12)訓(xùn)練階段即是尋求最優(yōu)特征臉(基)第一步:13訓(xùn)練階段(2/12)如:第i個圖像的矩陣為
則xi用這個列向量來表示訓(xùn)練階段(2/12)如:第i個圖像的矩陣為14訓(xùn)練階段(3/12)第二步:計算平均臉計算訓(xùn)練圖片的平均臉訓(xùn)練階段(3/12)第二步:計算平均臉15訓(xùn)練階段(4/12)平均臉示意圖訓(xùn)練階段(4/12)16訓(xùn)練階段(5/12)第三步:計算差值臉(也叫去平均化)計算每張人臉與平均臉的差值訓(xùn)練階段(5/12)第三步:計算差值臉(也叫去平均化)17訓(xùn)練階段(6/12)
差值臉示意圖訓(xùn)練階段(6/12)18訓(xùn)練階段(7/12)第四步:構(gòu)建協(xié)方差矩陣訓(xùn)練階段(7/12)第四步:構(gòu)建協(xié)方差矩陣19訓(xùn)練階段(8/12)第五步:求協(xié)方差矩陣的特征值和特征向量,構(gòu)造特征臉空間協(xié)方差矩陣的維數(shù)為MN*MN,考慮其維數(shù)較大,計算量也比較大,所以一般采用奇異值分解(SingularValueDecomposition,SVD),通過求解ATA來獲得AAT的特征值和特征向量。訓(xùn)練階段(8/12)第五步:求協(xié)方差矩陣的特征值和特征向量,20訓(xùn)練階段(9/12)求出ATA的特征值及其正交歸一化特征向量協(xié)方差vi根據(jù)特征值的貢獻率選取前p個最大特征值及其對應(yīng)的特征向量貢獻率是指選取的特征值之和與所有特征值之和的比,即訓(xùn)練階段(9/12)求出ATA的特征值及其正交歸一化21訓(xùn)練階段(10/12)選取的特征臉示例Discussion:對應(yīng)較大特征值的特征向量,用于表示人體的大體形狀(低頻信息),而對應(yīng)于較小特征值的特征向量則用于描述人臉的具體細節(jié)(高頻信息)訓(xùn)練階段(10/12)22訓(xùn)練階段(11/12)第六步:將每一幅人臉與平均臉的差值臉矢量投影到“特征臉”空間,即訓(xùn)練階段(11/12)第六步:將每一幅人臉與平均臉的差值臉矢23訓(xùn)練階段(12/12)一般選取即使訓(xùn)練樣本在前p個特征向量集上的投影有99%的能量求出原協(xié)方差矩陣的特征向量則“特征臉”空間為訓(xùn)練階段(12/12)一般選取24識別階段(1/5)第一步:將待識別的人臉圖像T與平均臉的差值臉投影到特征空間,得到其特征向量表示:識別階段(1/5)第一步:將待識別的人臉圖像T與平均臉的差值25識別階段(2/5)待識別的人臉圖像T及其與平均臉的差值臉識別階段(2/5)待識別的人臉圖像T26識別階段(3/5)第二步:采用歐式距離來計算與每個人臉之間的距離:識別階段(3/5)第二步:采用歐式距離來計算與每27識別階段(4/5)第
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 工程部年終總結(jié)報告
- 二零二五年度合資成立人工智能技術(shù)研發(fā)合作協(xié)議3篇
- 第一次月考測評卷Lesson1 ~ lesson3-2024-2025學(xué)年科普版(三起)英語四年級上冊含答案
- 貴州師范大學(xué)《播音創(chuàng)作基礎(chǔ)》2023-2024學(xué)年第一學(xué)期期末試卷
- Unit 1 How can I get there?(說課稿)-2024-2025學(xué)年人教PEP版英語六年級上冊
- 貴州黔南經(jīng)濟學(xué)院《動畫表演》2023-2024學(xué)年第一學(xué)期期末試卷
- 二零二五年度建筑工程債權(quán)轉(zhuǎn)讓與安全文明施工協(xié)議3篇
- DB32-T 1264-2024 天目湖白茶質(zhì)量分級
- 貴州理工學(xué)院《模擬電子學(xué)基礎(chǔ)》2023-2024學(xué)年第一學(xué)期期末試卷
- 貴州農(nóng)業(yè)職業(yè)學(xué)院《電路理論》2023-2024學(xué)年第一學(xué)期期末試卷
- 《人力資源情緒管理問題研究開題報告(含提綱)》
- 哮喘吸入裝置的正確使用方法課件
- 2023年成都東部集團有限公司招聘筆試題庫及答案解析
- 角點網(wǎng)格一.角點網(wǎng)格定義
- 聚酯合成反應(yīng)動力學(xué)
- 自動控制原理全套課件
- 視頻監(jiān)控室值班記錄表
- 歌曲《梁?!泛喿V完整版
- 小學(xué)語文教研組期末考試質(zhì)量分析
- 校園安全存在問題及對策
- 鉆井作業(yè)常見安全隱患
評論
0/150
提交評論