稀疏表示算法及應(yīng)用

稀疏表示算法及應(yīng)用信息與通信工程專題課程報(bào)告報(bào)告人：王晶晶BA12006029導(dǎo)師：俞能海教授專業(yè)：信號(hào)與信息處理中國(guó)科學(xué)技術(shù)大學(xué)6系2016年5月20日書(shū)籍及作者簡(jiǎn)介目錄研究背景稀疏表示稀疏表示建模稀疏表示求解算法不同算法的對(duì)比字典學(xué)習(xí)字典學(xué)習(xí)建模字典學(xué)習(xí)求解算法稀疏表示的應(yīng)用圖像處理視覺(jué)識(shí)別為什么需要稀疏表示信號(hào)壓縮：壓縮感知模型選擇：奧卡姆剃刀法則特征選擇：模型可解釋性生物學(xué)解釋稀疏表示的應(yīng)用稀疏表示建模線性表示過(guò)完備字典方程組欠定，有無(wú)窮多解稀疏先驗(yàn)：中僅有k個(gè)非零值如何表示稀疏性：范數(shù)范數(shù)的定義

范數(shù)

范數(shù)

范數(shù)如何表示稀疏性：范數(shù)稀疏表示問(wèn)題稀疏表示問(wèn)題信號(hào)中的噪聲有噪聲情況下的稀疏表示問(wèn)題范數(shù)下稀疏表示問(wèn)題的三種形式有約束條件下的表示形式無(wú)約束條件下的表示形式范數(shù)下稀疏表示問(wèn)題的三種形式有約束條件下的表示形式無(wú)約束條件下的表示形式稀疏表示優(yōu)化算法貪婪策略算法MP算法OMP算法包含約束的優(yōu)化策略GPSR算法算法基于近端算法的優(yōu)化策略ISTA算法FISTA算法PALM算法DALM算法同倫算法OMP算法正交匹配追蹤(OMP)算法包含約束的優(yōu)化策略不可導(dǎo)的無(wú)約束優(yōu)化問(wèn)題有約束的平滑優(yōu)化問(wèn)題GPSR方法梯度投影稀疏重建方法(Gradientprojectionsparsereconstruction,GPSR)目標(biāo)函數(shù)方法基于內(nèi)點(diǎn)法的稀疏表示方法目標(biāo)函數(shù)內(nèi)點(diǎn)法基于近端算法的優(yōu)化策略軟閾值收縮操作符近端操作符：ISTA算法迭代收縮閾值算法(Iterativeshrinkagethresholdingalgorithm,ISTA)泰勒展開(kāi)二階近似子問(wèn)題如何轉(zhuǎn)換為簡(jiǎn)單形式？FISTA算法快速迭代收縮閾值算法(Fastiterativeshrinkagethresholdingalgorithm,FISTA)二階近似更新基于同倫算法的稀疏表示分段線性起始點(diǎn)選擇更新方向計(jì)算步長(zhǎng)

不同算法的對(duì)比—數(shù)據(jù)集ORLExtendedYaleBLFWCOIL20Fifteenscene不同算法的對(duì)比—參數(shù)的影響ORLLFWCOIL20Fifteenscene不同算法的對(duì)比—分類結(jié)果字典學(xué)習(xí)固定的字典小波變換Bandelets變換Curvelets變換Contourlets變換FFT變換學(xué)習(xí)的字典更好的適應(yīng)性在具體的任務(wù)上效果比固定字典好字典學(xué)習(xí)目標(biāo)函數(shù)無(wú)監(jiān)督字典學(xué)習(xí)有監(jiān)督字典學(xué)習(xí)無(wú)監(jiān)督字典學(xué)習(xí)范數(shù)字典學(xué)習(xí)范數(shù)字典學(xué)習(xí)局部約束線性編碼拉普拉斯稀疏編碼局部約束線性編碼局部約束線性編碼(Localityconstrainedlinearcoding,LLC)JinjunWang,JianchaoYang,KaiYu,FengjunLv,ThomasHuang,andYihongGong.Localityconstrainedlinearcodingforimageclassification.CVPR2010.LocalitySparsitySparsityLocality目標(biāo)函數(shù)拉普拉斯稀疏編碼拉普拉斯稀疏編碼(Laplaciansparsecoding)ShenghuaGao,IvorWai-HungTsang,Liang-TienChia,andPeilinZhao.Localfeaturesarenotlonely–laplaciansparsecodingforimageclassification.CVPR2010.目標(biāo)函數(shù)卷積稀疏編碼卷積稀疏編碼(Convolutionalsparsecoding)Song-ChunZhu,Cheng-EnGuo,YizhouWang,andZijianXu.Whataretextons?InternationalJournalofComputerVision,62(1-2):121–143,2005.目標(biāo)函數(shù)判別性KSVD判別性KSVD(DiscriminativeKSVD,DKSVD)QiangZhangandBaoxinLi.Discriminativek-svdfordictionarylearninginfacerecognition.CVPR2010.目標(biāo)函數(shù)簡(jiǎn)化形式標(biāo)簽一致性KSVD標(biāo)簽一致性KSVD(LabelconsistentKSVD)類別1類別2ZhuolinJiang,ZheLin,andLarrySDavis.Learningadiscriminativedictionaryforsparsecodingvialabelconsistentk-svd.CVPR2011.目標(biāo)函數(shù)標(biāo)簽一致性簡(jiǎn)化形式Fisher判別性字典學(xué)習(xí)Fisher判別性字典學(xué)習(xí)MengYang,LeiZhang,XiangchuFeng,andDavidZhang.Fisherdiscriminationdictionarylearning

forsparserepresentation.ICCV2011.目標(biāo)函數(shù)類內(nèi)散度類間散度判別性重建字典學(xué)習(xí)求解算法兩種形式基于隨機(jī)梯度下降的求解算法目標(biāo)函數(shù)對(duì)字典D求導(dǎo)梯度下降投影基于交替優(yōu)化的方法

基于交替優(yōu)化的方法KSVD方法目標(biāo)函數(shù)同時(shí)優(yōu)化字典和稀疏表示稀疏表示在圖像處理中的應(yīng)用主要步驟將退化的圖像X分解成有重疊的圖像塊（Patches）構(gòu)建字典D，對(duì)每一個(gè)圖像塊x求其稀疏表示利用稀疏表示和字典，重建相應(yīng)的圖像塊將重構(gòu)的圖像塊放到原先的位置，然后對(duì)重疊區(qū)域去平均值，從而獲得整個(gè)重構(gòu)的圖像X′令X=X′，以新圖像為重建目標(biāo)，重復(fù)上面的步驟應(yīng)用圖像去燥圖像修復(fù)圖像超分辨率重構(gòu)圖像去噪

圖像去噪結(jié)果圖像修復(fù)目標(biāo)函數(shù)圖像超分辨率重構(gòu)訓(xùn)練：重構(gòu)：JianchaoYang,JohnWright,ThomasSHuang,andYiMa.Imagesuper-resolutionviasparserepresentation.ImageProcessing,IEEETransactionson,19(11):2861–2873,2010.稀疏表示在視覺(jué)識(shí)別中的應(yīng)用稀疏表示在圖像分類中的應(yīng)用圖像編碼人臉識(shí)別圖像塊分類稀疏表示在目標(biāo)跟蹤中的應(yīng)用基于稀疏表示的跟蹤算法基于字典學(xué)習(xí)的跟蹤算法稀疏表示在圖像編碼中的應(yīng)用圖像分類的框架稀疏表示在圖像編碼中的應(yīng)用圖像編碼目標(biāo)函數(shù)稀疏表示在人臉識(shí)別中的應(yīng)用SRC(Sparse-representationbasedclassifier)方法JohnWright,AllenYYang,ArvindGanesh,ShankarSSastry,andYiMa.Robustfacerecognitionviasparserepresentation.PatternAnalysisandMachineIntelligence,IEEETransactionson,31(2):210–227,2009.稀疏表示在人臉識(shí)別中的應(yīng)用對(duì)遮擋的處理對(duì)misalignment的處理稀疏表示在圖像塊分類中的應(yīng)用基于重建誤差分類稀疏表示在圖像塊分類中的應(yīng)用基于稀疏表示系數(shù)分類稀疏表示在目標(biāo)跟蹤中的應(yīng)用l1TrackXueMeiandHaibinLing.Robustvisualtrackingusingl1minimization.InComputerVision,2009IEEE12thInternationa