AI建模師-素養(yǎng)手冊(cè)(17)-理解Diffusion-從DAE降噪出發(fā)-

AI建模師素養(yǎng)手冊(cè)第理解Diffusion——從DAE降噪出發(fā)By高煥堂/AI建模師俱樂(lè)部會(huì)長(zhǎng)—般AE面對(duì)MissingDataDAE有更強(qiáng)的過(guò)濾能力過(guò)濾能力愈強(qiáng)，生成能力愈好多層DAE設(shè)計(jì)OvercompleteDAE模型-本文發(fā)表于臺(tái)灣AIC產(chǎn)業(yè)聯(lián)盟技術(shù)分享大會(huì)上?原來(lái)的主題是：AI生成與DAE降噪機(jī)制。-最近，由于Diffusi。n的爆紅，它又非常依賴降噪機(jī)制的訓(xùn)練，所以我就拿簡(jiǎn)單的DAE降噪機(jī)制來(lái)做為理解Diffusion的基礎(chǔ)。本文發(fā)表于臺(tái)灣AIC產(chǎn)業(yè)聯(lián)盟

技術(shù)分享大會(huì)(2022.2.17)2022/2/172022/2/17臺(tái)灣AIC(AI+IC)技術(shù)分享大會(huì)請(qǐng)參閱：/pdi7id=h4EOymDV3vV這文章里寫道：-最近，以連續(xù)時(shí)間隨機(jī)微分方程形式的擴(kuò)張(Diffusion)模型，已被證實(shí)是一個(gè)成功的〈非對(duì)抗性〉生成模型。-這類模型是采用〈降噪分?jǐn)?shù)匹配(DSM)＞的加權(quán)和進(jìn)行訓(xùn)練，可以看作是多尺度的DAE(降噪自編碼器)。也請(qǐng)參閱：https://www.iro.umontreal.ca/~vincentp/Publications/smdae_techreportpdf-這篇文章的主題是：“AConnectionBetweenScoreMatchingandDenoisingAutoencoders”(降噪分?jǐn)?shù)匹配(DSM)與DAE的連結(jié))一般AE面對(duì)MissingDataAE面對(duì)MissingData復(fù)習(xí)AE(Autoencoder)-在上一集里，您已經(jīng)看到了，一般典型的AE就具有過(guò)濾的能力。而本集所介紹DAE的過(guò)濾能力將更上一層樓。-于此先復(fù)習(xí)一下AE的基本性質(zhì)，然后看看它如何面對(duì)MissingData。AE面對(duì)MissingData從補(bǔ)值角度來(lái)看AE-先從AE說(shuō)起。例如有一個(gè)AE模型（daeOLpy）:ABcABcDEFGHIJKLMNX（輸入值）H（潛藏空間）T（目標(biāo)值）xOxlx2hOhltotlt26162161621135135135135-請(qǐng)按下〈學(xué)習(xí)〉，就展幵訓(xùn)練流程。X（輸入值）xOxlx26■2■16■2■11■3■5135訓(xùn)練資料（4只動(dòng)物）耳朵長(zhǎng)度X（輸入值）訓(xùn)練資料（4只動(dòng)物）耳朵長(zhǎng)度眼睛大小訓(xùn)練資料（4只動(dòng)物）耳朵長(zhǎng)度眼睛大小胡須長(zhǎng)度訓(xùn)練資料（4只動(dòng)物）X（輸入值）xOxlxOxl訓(xùn)練資料TOC\o"1-5"\h\z6 2 1訓(xùn)練資料6 2 11 3 51 3 5EncoderDecoderY^X幵始訓(xùn)練?得出Encoder和Decoder:ABCDEFGHIJKLM1X（輸入值）H（潛藏空間）T（目標(biāo)值）2xOxJx.2hOhltot]t23610.990.016214610.99Q016215<<1350.010.9911355勇35J0,99391OCQ3WH0.87-1.06JWO3.711-0.81A學(xué)習(xí)&補(bǔ)值100,090,15-1,392,013,2611-1.181.11BO2330.991.7812BH0.420□J完成了!13K_XEncoderH1DecoderY XWH0.97-0.96WO4,160.86I-1.21H30.060.12-0.921.892.87BH-1.290.42L010BO]L88L12I2.17WH0.97-0.96BH0.060.12-1.29L010.420顯著特征顯著特征顯著特征顯著特征顯著■特征-0.960.12-1.21顯著特征X0k■0.861.072.8/AE面對(duì)MissingDataI檢驗(yàn)一下這個(gè)AE模型新資料6 2 1新資料6 2 11 3 5EncoderDecoderEncoderDecoderWH 0.97 -0.960.06 0.12WH 0.97 -0.960.06 0.12-1.29 L01BH 0.42 0WO 416 0.86 -L21-0.92 L89 2.87BO L88 1.12 2J7AE面對(duì)MissingDataI檢驗(yàn)一下這個(gè)AE模型?實(shí)際操作daeOl.py:

AE面對(duì)MissingDataI進(jìn)行測(cè)試-按下〈預(yù)測(cè)〉，就得到：。WHABCDE新資料621135BHW04.160.864,21預(yù)測(cè)（還原）-0.921,892.87B01.881.122.17?正確地還原了。AE面對(duì)MissingData使用MissingData來(lái)測(cè)試-剛才的輸入數(shù)據(jù)，都是完整的。?如果測(cè)試數(shù)據(jù)含有MissingData，會(huì)如何呢?AE面對(duì)MissingData使用MissingData來(lái)測(cè)試MissingData6某些特征值遺失了MissingData6某些特征值遺失了?如果測(cè)試數(shù)據(jù)含有MissingData，如下:MissingDataMissingDataEncoderDecoderWH0.97-0.960.060.12-1.29WH0.97-0.960.060.12-1.29L01BH0.420-0.92 L89 2.87BO L88 1.12 2J7AE面對(duì)MissingDataI進(jìn)行預(yù)測(cè)（補(bǔ)值）?準(zhǔn)備輸入數(shù)據(jù)（MissingData）°H向量MissingDataImputedData"收9平均值0.97預(yù)測(cè)（還原）-0.960.12AI2345d6789WH101112BH134.160.86-1,21-0.921,892.87L881.122.1714141414AE面對(duì)MissingDataX（輸入值）x0xlx2進(jìn)行預(yù)測(cè)（補(bǔ)值）-先設(shè)定為〈平均值〉。ABCDEFGH2.5MissingData6661122331155H向量ImputedData設(shè)定平均值6789WH0.97-0.96WO4,160.864.21100.060.12-0.921,892.8711-1.29L01BO1.881.122J7435212BH0,420133.5預(yù)測(cè)（還原）AE面對(duì)MissingDataI進(jìn)行預(yù)測(cè)（補(bǔ)值）-按下〈預(yù)測(cè)〉，就得到：。12345678MissingData613.50.930.080.090.920.520.48H向量ImputedData619WH0.97-0.96WO4.160.86-1,21100,060,12-0,921.892,8711-1.291,01BO1.881.122.1711BH0.42■13設(shè)定

平均值預(yù)測(cè)（還原）很好補(bǔ)值很好補(bǔ)值A(chǔ)E面對(duì)MissingDataI進(jìn)行預(yù)測(cè)（補(bǔ)值）12345678BMissingData61G3.50.930.080.090.920.520.48H向量611LM[moutedData213523設(shè)定平均值9WH0.97-0.96WO4.160.86-1,21100,060,12-0,921.892,8711-1.291,01BO1.881.122.1711BH0.42■13預(yù)測(cè)（還原）AE面對(duì)MissingDataI進(jìn)行預(yù)測(cè)（補(bǔ)值）不理想的補(bǔ)值!BMissingData61G3.50.930.080.090.920.520.48H向量6MImputedData19WH0.97-0.96WO4.160.86-1,21100,060,12-0,921.892,8711-1.291,01BO1.881.122.1712BH0.42■137設(shè)定

平均值預(yù)測(cè)（還原）H1H向量230.930,08MissingData繼續(xù)改進(jìn)10111213WHBH■60.970,06-1.290.42-0.960,121.01WOBO0.090.524.16

-0,921.880.920.480.86L891.12-1.212,872.17不理想的補(bǔ)值!LMImputedData21,/J35/423領(lǐng)醐懼設(shè)定平均值預(yù)測(cè)（還原）DAE有更好的過(guò)濾能力簡(jiǎn)介DAE(DenoisingAutoencoder)-顧名思義，DAE的〃Denoising”是去除噪音之意，也就是把噪音＜過(guò)濾〉掉。?而本集所介紹DAE的過(guò)濾能力將更上一層樓。?DAE有更好的過(guò)濾能力|復(fù)習(xí)：典型的AE架構(gòu)feHiddenLayerInputLayerOutputLayer復(fù)習(xí)：典型的AE架構(gòu)（潛藏空間）HiddenLayerIlDecoderyInputLayer XOutputLayer（輸入值）（輸出值）?DAE有更好的過(guò)濾能力|擴(kuò)大為DAE架構(gòu)autoencoder::hautoencoder::h■denoisingautoencoderiHiddenLayerInputData■VICorrupted■

partially:InputLayerOutputLayer；autoencoder:: …… j；IdenoisingautoencoderiX（輸入值）xOxlx2621621135X（輸入值）X（輸入值）MissingDataDAEX（輸入值）MissingDataDAE有更好的過(guò)濾能力訓(xùn)練數(shù)據(jù)也能含有MissingData?將上一節(jié)的一筆MissingData并入訓(xùn)練數(shù)據(jù)集I使用MissingData來(lái)訓(xùn)練它Encoder新的訓(xùn)練資料(含MissingData)DecoderY&X建立AE模型123456J8123456J89101112131415X（輸入值）KLM一（百標(biāo)值）tOt)t2設(shè)定

平均值學(xué)習(xí)&補(bǔ)值-按下〈設(shè)定＞和＜學(xué)習(xí)〉按鈕，就展開學(xué)習(xí)：幵始訓(xùn)練?得出Encoder和Decoder:123456BCDX（輸入值）x0xlx2621611351353521H（潛藏空間）h0hl0.010.490.490.93KLMT（目標(biāo)值）tot]t26216211351356210.930.016凱0.48完成了!1,690.010.34-0.31-1.520.750.61-07110111213 BH15EncoderDecoderWH WH 1.69 0.010.34 -0.31-1.52 0.75BH 0.61 -0.21TOC\o"1-5"\h\zWO5 -0.21 -2.98-0.16 1.77 2.4BO 1.08 1.35 2.81

MissingDataMissingDataEncoderDecoderWH 1.69 0.010.34 -0.31-1.52 0.75BH 0.61 -0.21MissingDataMissingDataEncoderDecoderWH 1.69 0.010.34 -0.31-1.52 0.75BH 0.61 -0.21-0.16 1.77 2.4BO 1.08 1.35 2.81實(shí)際操作?準(zhǔn)備輸入數(shù)據(jù)(MissingData)°-按下〈設(shè)定＞和＜預(yù)測(cè)〉按鈕，就進(jìn)行還原：

DAE有更好的過(guò)濾能力|展開補(bǔ)值-輸出預(yù)測(cè)結(jié)果：

?DAE有更好的過(guò)濾能力改進(jìn)了I提升補(bǔ)值能力了改進(jìn)了MissingData-0.21H向量0.79-2.980.220.750.93-0.21-0.16ImputedData6設(shè)定平均值預(yù)測(cè)（還原）X（輸入值）X（輸入值）MissingDataX（輸入值）X（輸入值）MissingDataDAE有更好的過(guò)濾能力拿更多MissingData來(lái)訓(xùn)練它建立AE模型-按下〈設(shè)定＞和＜學(xué)習(xí)〉按鈕，就進(jìn)行訓(xùn)練：得到更好的補(bǔ)值I111213141516171819xOxlx261621351353.521132.43-2.53-0,450,36-2.162.010.47-071cDWHBHMissingData1B一X（輸入值）3hOhl10100101100.010.994.490.71-1.27-0,521,712,411.511.292.61H向量100.010.990.830.09HWOBOG瓦:潛藏空間）KLMNT（目標(biāo)值）totlt26-很不錯(cuò)

的補(bǔ)值學(xué)習(xí)&補(bǔ)值完成了!5設(shè)定平均值23tedData1.31.8精益求精…例如,采隨機(jī)方式,從X里得出更多MissingData來(lái)訓(xùn)練它denoisingautoencoder?潛藏空間H向量的變化|H向量的意義?DAE是一種能接受損壞（遺失）資料作為輸入，并訓(xùn)練AE來(lái)預(yù)測(cè)（補(bǔ)值）原始未被損壞資料作為輸出的自編碼器。autoencoder:hdenoisingautoencoder

潛藏空間H向量的變化-DAE通過(guò)學(xué)習(xí)原始數(shù)據(jù)和損壞數(shù)據(jù)的共同潛在表示。(…learningcommonlatentrepresentationiovertheoriginalandcorrupteddata.)InputDataCorrupted:partially:InputLayertHiddenLayerOutputLayer；：Zautoencoder:： _________——……登:■denoisingautoencoderi潛藏空間H向量的變化-DAE通過(guò)學(xué)習(xí)原始數(shù)據(jù)和損壞數(shù)據(jù)的共同潛在表示。J./earningcommonlatentrepresentationovertheoriginalandcorrupteddata.)-俗語(yǔ)說(shuō)：萬(wàn)變不離其宗。?這個(gè)＜宗＞就是共同潛在的表示(Commonlatentrepresentation)涵意。?潛藏空間H向量的變化|請(qǐng)看一個(gè)簡(jiǎn)單的AE模型(dae02.py)-按下〈學(xué)習(xí)〉按鈕，就進(jìn)行訓(xùn)練：14141414?潛藏空間H向量的變化I展幵訓(xùn)練?得出Encoder和Decoder:ABCDEFGHIJKLM1X（輸入值）H（潛藏空間）T（目標(biāo)值）2x0xlx2hOhltotlt231350.010.9813546110.036156lotAWH1.04-0.770.030.1-L36BH0.410學(xué)習(xí)EncoderEncoderDecoderWH 1.04 -0.770.03 0.1-136 0.89BH 041 0TOC\o"1-5"\h\zWH 1.04 -0.770.03 0.1-136 0.89BH 041 0-0.6 1.76 2.56BO 1.57 1.27 2.5新資料2EncoderEncoderDecoderWH 1.04 -0.770.03 0.1-136 0.89BH 041 0TOC\o"1-5"\h\zWH 1.04 -0.770.03 0.1-136 0.89BH 041 0-0.6 1.76 2.56BO 1.57 1.27 2.5?潛藏空間H向量的變化|準(zhǔn)備預(yù)測(cè)-按下〈預(yù)測(cè)〉按鈕，就進(jìn)行預(yù)測(cè)：潛藏空間H潛藏空間H向量的變化|展開預(yù)測(cè)?輸出結(jié)果：很不錯(cuò)

的預(yù)測(cè)661新資料預(yù)測(cè)值DecoderEncoderWH1.04-0.770.030.1-1.360.8904110,03WO4470,69-1,57-0.61.762.56BO1.571.272.5新資料0,03EncoderDecoder新資料0,03EncoderDecoder

Decoder

潛藏空間H向量的變化檢驗(yàn)一下它的補(bǔ)值能力-剛才是拿完整的數(shù)據(jù)來(lái)預(yù)測(cè)。?現(xiàn)在改拿MissingData來(lái)進(jìn)行補(bǔ)值?；谝粯拥腅ncoder和Decoder:EncoderDecoderMissingDataEncoderEncoderDecoderWH 1.04 -0.770.03 0.1-136 0.89BH 041 0TOC\o"1-5"\h\zWH 1.04 -0.770.03 0.1-136 0.89BH 041 0-0.6