深度學(xué)習(xí)及自動(dòng)駕駛應(yīng)用 課件 第9章 生成對(duì)抗網(wǎng)絡(luò)及自動(dòng)駕駛應(yīng)用

生成對(duì)抗網(wǎng)絡(luò)及自動(dòng)駕駛應(yīng)用第九章DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第2頁(yè)9.4實(shí)踐項(xiàng)目9.1生成式對(duì)抗網(wǎng)絡(luò)概述9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論目錄ContentDeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第3頁(yè)9.1生成式對(duì)抗網(wǎng)絡(luò)概述什么是對(duì)抗？在射雕英雄傳中，老頑童周伯通被困在桃花島，閑的無(wú)聊，自創(chuàng)了左右手互搏術(shù)，左手打右手，右手打左手，雙手的武功不斷精進(jìn)。這就是對(duì)抗在現(xiàn)實(shí)世界里沒(méi)有左右手互搏術(shù)，但在人工智能的世界里卻有，這就是GAN，中文名字：生成對(duì)抗網(wǎng)絡(luò)。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第4頁(yè)9.1生成式對(duì)抗網(wǎng)絡(luò)概述生成對(duì)抗網(wǎng)絡(luò)能干啥？2018年10月，一幅肖像畫在紐約佳士得以43萬(wàn)美元的高價(jià)被成功拍賣作者為GANDeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第5頁(yè)9.1生成式對(duì)抗網(wǎng)絡(luò)概述生成對(duì)抗網(wǎng)絡(luò)能干啥？如果將GAN比作一個(gè)人的話，書法、作畫、譜曲，樣樣都可以做到精通，就像他的名字“生成對(duì)抗網(wǎng)絡(luò)”一樣，他的誕生就是為了生成、為了創(chuàng)作。GAN有哪些應(yīng)用？DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第6頁(yè)9.1生成式對(duì)抗網(wǎng)絡(luò)概述深度學(xué)習(xí)中常見(jiàn)生成式模型自編碼（AE）其隱變量z是一個(gè)單值映射：z=f(x)變分自編碼（VAE）其隱變量z是一個(gè)正態(tài)分布的采樣生成式對(duì)抗網(wǎng)絡(luò)（GAN）條件生成式對(duì)抗網(wǎng)絡(luò)（CGAN）在生成器和判別器中添加某一標(biāo)簽信息深度卷積生成式對(duì)抗網(wǎng)絡(luò)（DCGAN）判別器和生成器都使用了卷積神經(jīng)網(wǎng)絡(luò)（CNN）來(lái)替代GAN

中的多層感知機(jī)DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第7頁(yè)9.1生成式對(duì)抗網(wǎng)絡(luò)概述GAN起源GAN(GenerativeAdversarialNetworks)，中文翻譯為生成式對(duì)抗網(wǎng)絡(luò)，是IanGoodfellow等在2014年提出的一種生成式模型。GAN的基本思想源自博弈論的二人零和博弈,由一個(gè)生成器和一個(gè)判別器構(gòu)成,通過(guò)對(duì)抗學(xué)習(xí)的方式來(lái)訓(xùn)練.目的是估測(cè)數(shù)據(jù)樣本的潛在分布并生成新的數(shù)據(jù)樣本。2001年，TonyJebara在畢業(yè)論文中以最大熵形式將判別模型與生成模型結(jié)合起來(lái)聯(lián)合學(xué)習(xí)2007年，ZhuowenTu提出將基于boosting分類器的判別模型與基于采樣的生成模型相結(jié)合，來(lái)產(chǎn)生出服從真實(shí)分布的樣本。2012年，JunZhu將最大間隔機(jī)制與貝葉斯模型相結(jié)合進(jìn)行產(chǎn)生式模型的學(xué)習(xí)。2014年，IanGoodfellow等人提出生成式對(duì)抗網(wǎng)絡(luò)，迎合了大數(shù)據(jù)需求和深度學(xué)習(xí)熱潮，給出了一個(gè)大的理論框架及理論收斂性分析。起源發(fā)展DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第8頁(yè)9.1生成式對(duì)抗網(wǎng)絡(luò)概述

GAN的核心思想來(lái)源于博弈論的納什均衡它設(shè)定參與游戲雙方分別為一個(gè)生成器(Generator)和一個(gè)判別器(Discriminator)，生成器的目的是盡量去學(xué)習(xí)真實(shí)的數(shù)據(jù)分布，而判別器的目的是盡量正確判別輸入數(shù)據(jù)是來(lái)自真實(shí)數(shù)據(jù)還是來(lái)自生成器；為了取得游戲勝利，這兩個(gè)游戲參與者需要不斷優(yōu)化，各自提高自己的生成能力和判別能力，這個(gè)學(xué)習(xí)優(yōu)化過(guò)程就是尋找二者之間的一個(gè)納什均衡。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第9頁(yè)9.1生成式對(duì)抗網(wǎng)絡(luò)概述DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第10頁(yè)9.4實(shí)踐項(xiàng)目9.1生成式對(duì)抗網(wǎng)絡(luò)概述9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論目錄ContentDeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第11頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論生成對(duì)抗模型的特性——博弈生成器的目標(biāo)：接收隨機(jī)向量，生成與真實(shí)樣本盡可能相似的樣本。判別器的目標(biāo)：接收生成器生成的樣本和真實(shí)樣本，盡可能地判斷兩者之間的真假。納什均衡：生成器和判別器都能得到最多的好處DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第12頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論GAN應(yīng)用的一般框架隨機(jī)變量+真實(shí)數(shù)據(jù)+生成器+判別器

一般為二分類網(wǎng)絡(luò)網(wǎng)絡(luò)結(jié)構(gòu)根據(jù)生成內(nèi)容定義DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第13頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論訓(xùn)練過(guò)程訓(xùn)練過(guò)程中，固定一方，更新另一方的網(wǎng)絡(luò)權(quán)重，交替迭代。那么先訓(xùn)練誰(shuí)呢？生成器學(xué)生：負(fù)責(zé)產(chǎn)出內(nèi)容判別器老師：負(fù)責(zé)評(píng)判分?jǐn)?shù)先訓(xùn)練判別器。1、樣本直接輸入到判別器之中。2、只有判別器具有一定的判斷能力后，生成器的訓(xùn)練才有意義。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第14頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論使用步驟建立模型生成器和判別器網(wǎng)絡(luò)訓(xùn)練過(guò)程損失函數(shù)參數(shù)學(xué)習(xí)DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第15頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論常用：交叉熵?fù)p失函數(shù)判別器目標(biāo)函數(shù):對(duì)于真實(shí)樣本，其標(biāo)簽值為1，那么其單個(gè)樣本損失函數(shù)就是同理可得生成器輸出樣本的總體損失函數(shù)，判別器的目標(biāo)函數(shù)定義如下其中，D(x)表示判別器輸出的真實(shí)圖像的概率分布,D(G(z))表示判別器輸出的生成器生成圖像的概率分布。

真實(shí)樣本的總體損失函數(shù)是

DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第16頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論模型總目標(biāo)函數(shù)對(duì)于判別器，我們盡可能地希望其分類正確，但是對(duì)于生成器而言，我們又希望D(G(z))越接近1越好，所以GAN網(wǎng)絡(luò)的目標(biāo)函數(shù)如下所示

DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第17頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論使用步驟GAN的主要分支-CGANCGAN--條件生成對(duì)抗網(wǎng)絡(luò)，為了防止訓(xùn)練崩塌將前置條件加入輸入數(shù)據(jù)。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第18頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論使用步驟DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第19頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論使用步驟GAN的主要分支-DCGANDCGAN--深度卷積生成對(duì)抗網(wǎng)絡(luò)，提出了能穩(wěn)定訓(xùn)練的網(wǎng)絡(luò)結(jié)構(gòu)，更易于工程實(shí)現(xiàn)。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第20頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論使用步驟GAN的主要分支-CGANCGAN--條件生成對(duì)抗網(wǎng)絡(luò)，為了防止訓(xùn)練崩塌將前置條件加入輸入數(shù)據(jù)。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第21頁(yè)9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論使用步驟DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第22頁(yè)9.4實(shí)踐項(xiàng)目9.1生成式對(duì)抗網(wǎng)絡(luò)概述9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用9.2生成式對(duì)抗網(wǎng)絡(luò)基本理論目錄ContentDeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第23頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用GAN的應(yīng)用

圖像和視覺(jué)領(lǐng)域語(yǔ)音和語(yǔ)言領(lǐng)域其他領(lǐng)域作為一個(gè)具有“無(wú)限”生成能力的模型,GAN的直接應(yīng)用就是建模,生成與真實(shí)數(shù)據(jù)分布一致的數(shù)據(jù)樣本，GAN可以用于解決標(biāo)注數(shù)據(jù)不足時(shí)的學(xué)習(xí)問(wèn)題。其可以應(yīng)用于：DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第24頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用圖像和視覺(jué)領(lǐng)域GAN能夠生成與真實(shí)數(shù)據(jù)分布一致的圖像。一個(gè)典型應(yīng)用是利用GAN來(lái)將一個(gè)低清模糊圖像變換為具有豐富細(xì)節(jié)的高清圖像。用VGG網(wǎng)絡(luò)作為判別器，用參數(shù)化的殘差網(wǎng)絡(luò)表示生成器，實(shí)驗(yàn)結(jié)果如圖所示，可以看到GAN生成了細(xì)節(jié)豐富的圖像。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第25頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用語(yǔ)音和語(yǔ)言領(lǐng)域用GAN來(lái)表征對(duì)話之間的隱式關(guān)聯(lián)性，從而生成對(duì)話文本。用CNN作為判別器,判別器基于擬合LSTM的輸出，用矩匹配來(lái)解決優(yōu)化問(wèn)題；在訓(xùn)練時(shí)，和傳統(tǒng)更新多次判別器參數(shù)再更新一次生成器不同,需要多次更新生成器再更新CNN判別器。SeqGAN基于策略梯度來(lái)訓(xùn)練生成器。用GAN基于文本描述來(lái)生成圖像，文本編碼被作為生成器的條件輸入，同時(shí)為了利用文本編碼信息，也將其作為判別器特定層的額外信息輸入來(lái)改進(jìn)判別器，判別是否滿足文本描述的準(zhǔn)確率。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第26頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用其他領(lǐng)域除了將GAN應(yīng)用于圖像和視覺(jué)、語(yǔ)音和語(yǔ)言等領(lǐng)域，GAN還可以與強(qiáng)化學(xué)習(xí)、模仿學(xué)習(xí)等相合。有人提出用MalGAN幫助檢測(cè)惡意代碼，用GAN生成具有對(duì)抗性的病毒代碼樣本，實(shí)驗(yàn)結(jié)果表明基于GAN的方法可以比傳統(tǒng)基于黑盒檢測(cè)模型的方法性能更好。也有人提出了一個(gè)擴(kuò)展GAN的生成器，用判別器來(lái)正則化生成器而不是用一個(gè)損失函數(shù)，用國(guó)際象棋實(shí)驗(yàn)示例證明了所提方法的有效性。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第27頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用GAN的優(yōu)點(diǎn)和意義GAN對(duì)于生成式模型的發(fā)展具有重要的意義。GAN作為一種生成式方法，有效解決了可建立自然性解釋的數(shù)據(jù)的生成難題。GAN的訓(xùn)練過(guò)程創(chuàng)新性地將兩個(gè)神經(jīng)網(wǎng)絡(luò)的對(duì)抗作為訓(xùn)練準(zhǔn)則并且可以使用反向傳播進(jìn)行訓(xùn)練，大大改善了生成式模型的訓(xùn)練難度和訓(xùn)練效率。GAN在生成樣本的實(shí)踐中，生成的樣本易于人類理解。GAN除了對(duì)生成式模型的貢獻(xiàn)，對(duì)于半監(jiān)督學(xué)習(xí)也有啟發(fā)。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第28頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用GAN的缺陷GAN雖然解決了生成式模型的一些問(wèn)題，并且對(duì)其他方法的發(fā)展具有一定的啟發(fā)意義，但是GAN并不完美，它在解決已有問(wèn)題的同時(shí)也引入了一些新的問(wèn)題。GAN優(yōu)化過(guò)程存在不穩(wěn)定性，很容易陷入到一個(gè)鞍點(diǎn)或局部極值點(diǎn)上，即“崩潰模式現(xiàn)象”。GAN作為以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的生成式模型，存在神經(jīng)網(wǎng)絡(luò)類模型的一般性缺陷，即可解釋性差。GAN模型需要提高延展性，尤其在處理大規(guī)模數(shù)據(jù)的時(shí)候。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第29頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用GAN的發(fā)展前景GAN的研究進(jìn)展表明它具有廣闊的發(fā)展前景,未來(lái)研究方向可以是：如何徹底解決崩潰模式并繼續(xù)優(yōu)化訓(xùn)練過(guò)程。關(guān)于GAN收斂性和均衡點(diǎn)存在性的理論推斷。如何將GAN與特征學(xué)習(xí)、模仿學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等技術(shù)更好地融合,開(kāi)發(fā)新的人工智能應(yīng)用或者促進(jìn)這些方法的發(fā)展。DeepLearningAndAutonomousDriving深度學(xué)習(xí)與自動(dòng)駕駛應(yīng)用第30頁(yè)9.3生成對(duì)抗網(wǎng)絡(luò)應(yīng)用GAN的應(yīng)用

圖像和視覺(jué)領(lǐng)域語(yǔ)音和語(yǔ)言領(lǐng)域其他領(lǐng)域作為一個(gè)具有“無(wú)限”