深度學習及自動駕駛應(yīng)用 課件 第9章 生成對抗網(wǎng)絡(luò)及自動駕駛應(yīng)用

生成對抗網(wǎng)絡(luò)及自動駕駛應(yīng)用第九章DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第2頁9.4實踐項目9.1生成式對抗網(wǎng)絡(luò)概述9.3生成對抗網(wǎng)絡(luò)應(yīng)用9.2生成式對抗網(wǎng)絡(luò)基本理論目錄ContentDeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第3頁9.1生成式對抗網(wǎng)絡(luò)概述什么是對抗？在射雕英雄傳中，老頑童周伯通被困在桃花島，閑的無聊，自創(chuàng)了左右手互搏術(shù)，左手打右手，右手打左手，雙手的武功不斷精進。這就是對抗在現(xiàn)實世界里沒有左右手互搏術(shù)，但在人工智能的世界里卻有，這就是GAN，中文名字：生成對抗網(wǎng)絡(luò)。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第4頁9.1生成式對抗網(wǎng)絡(luò)概述生成對抗網(wǎng)絡(luò)能干啥？2018年10月，一幅肖像畫在紐約佳士得以43萬美元的高價被成功拍賣作者為GANDeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第5頁9.1生成式對抗網(wǎng)絡(luò)概述生成對抗網(wǎng)絡(luò)能干啥？如果將GAN比作一個人的話，書法、作畫、譜曲，樣樣都可以做到精通，就像他的名字“生成對抗網(wǎng)絡(luò)”一樣，他的誕生就是為了生成、為了創(chuàng)作。GAN有哪些應(yīng)用？DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第6頁9.1生成式對抗網(wǎng)絡(luò)概述深度學習中常見生成式模型自編碼（AE）其隱變量z是一個單值映射：z=f(x)變分自編碼（VAE）其隱變量z是一個正態(tài)分布的采樣生成式對抗網(wǎng)絡(luò)（GAN）條件生成式對抗網(wǎng)絡(luò)（CGAN）在生成器和判別器中添加某一標簽信息深度卷積生成式對抗網(wǎng)絡(luò)（DCGAN）判別器和生成器都使用了卷積神經(jīng)網(wǎng)絡(luò)（CNN）來替代GAN

中的多層感知機DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第7頁9.1生成式對抗網(wǎng)絡(luò)概述GAN起源GAN(GenerativeAdversarialNetworks)，中文翻譯為生成式對抗網(wǎng)絡(luò)，是IanGoodfellow等在2014年提出的一種生成式模型。GAN的基本思想源自博弈論的二人零和博弈,由一個生成器和一個判別器構(gòu)成,通過對抗學習的方式來訓練.目的是估測數(shù)據(jù)樣本的潛在分布并生成新的數(shù)據(jù)樣本。2001年，TonyJebara在畢業(yè)論文中以最大熵形式將判別模型與生成模型結(jié)合起來聯(lián)合學習2007年，ZhuowenTu提出將基于boosting分類器的判別模型與基于采樣的生成模型相結(jié)合，來產(chǎn)生出服從真實分布的樣本。2012年，JunZhu將最大間隔機制與貝葉斯模型相結(jié)合進行產(chǎn)生式模型的學習。2014年，IanGoodfellow等人提出生成式對抗網(wǎng)絡(luò)，迎合了大數(shù)據(jù)需求和深度學習熱潮，給出了一個大的理論框架及理論收斂性分析。起源發(fā)展DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第8頁9.1生成式對抗網(wǎng)絡(luò)概述

GAN的核心思想來源于博弈論的納什均衡它設(shè)定參與游戲雙方分別為一個生成器(Generator)和一個判別器(Discriminator)，生成器的目的是盡量去學習真實的數(shù)據(jù)分布，而判別器的目的是盡量正確判別輸入數(shù)據(jù)是來自真實數(shù)據(jù)還是來自生成器；為了取得游戲勝利，這兩個游戲參與者需要不斷優(yōu)化，各自提高自己的生成能力和判別能力，這個學習優(yōu)化過程就是尋找二者之間的一個納什均衡。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第9頁9.1生成式對抗網(wǎng)絡(luò)概述DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第10頁9.4實踐項目9.1生成式對抗網(wǎng)絡(luò)概述9.3生成對抗網(wǎng)絡(luò)應(yīng)用9.2生成式對抗網(wǎng)絡(luò)基本理論目錄ContentDeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第11頁9.2生成式對抗網(wǎng)絡(luò)基本理論生成對抗模型的特性——博弈生成器的目標：接收隨機向量，生成與真實樣本盡可能相似的樣本。判別器的目標：接收生成器生成的樣本和真實樣本，盡可能地判斷兩者之間的真假。納什均衡：生成器和判別器都能得到最多的好處DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第12頁9.2生成式對抗網(wǎng)絡(luò)基本理論GAN應(yīng)用的一般框架隨機變量+真實數(shù)據(jù)+生成器+判別器

一般為二分類網(wǎng)絡(luò)網(wǎng)絡(luò)結(jié)構(gòu)根據(jù)生成內(nèi)容定義DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第13頁9.2生成式對抗網(wǎng)絡(luò)基本理論訓練過程訓練過程中，固定一方，更新另一方的網(wǎng)絡(luò)權(quán)重，交替迭代。那么先訓練誰呢？生成器學生：負責產(chǎn)出內(nèi)容判別器老師：負責評判分數(shù)先訓練判別器。1、樣本直接輸入到判別器之中。2、只有判別器具有一定的判斷能力后，生成器的訓練才有意義。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第14頁9.2生成式對抗網(wǎng)絡(luò)基本理論使用步驟建立模型生成器和判別器網(wǎng)絡(luò)訓練過程損失函數(shù)參數(shù)學習DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第15頁9.2生成式對抗網(wǎng)絡(luò)基本理論常用：交叉熵損失函數(shù)判別器目標函數(shù):對于真實樣本，其標簽值為1，那么其單個樣本損失函數(shù)就是同理可得生成器輸出樣本的總體損失函數(shù)，判別器的目標函數(shù)定義如下其中，D(x)表示判別器輸出的真實圖像的概率分布,D(G(z))表示判別器輸出的生成器生成圖像的概率分布。

真實樣本的總體損失函數(shù)是

DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第16頁9.2生成式對抗網(wǎng)絡(luò)基本理論模型總目標函數(shù)對于判別器，我們盡可能地希望其分類正確，但是對于生成器而言，我們又希望D(G(z))越接近1越好，所以GAN網(wǎng)絡(luò)的目標函數(shù)如下所示

DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第17頁9.2生成式對抗網(wǎng)絡(luò)基本理論使用步驟GAN的主要分支-CGANCGAN--條件生成對抗網(wǎng)絡(luò)，為了防止訓練崩塌將前置條件加入輸入數(shù)據(jù)。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第18頁9.2生成式對抗網(wǎng)絡(luò)基本理論使用步驟DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第19頁9.2生成式對抗網(wǎng)絡(luò)基本理論使用步驟GAN的主要分支-DCGANDCGAN--深度卷積生成對抗網(wǎng)絡(luò)，提出了能穩(wěn)定訓練的網(wǎng)絡(luò)結(jié)構(gòu)，更易于工程實現(xiàn)。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第20頁9.2生成式對抗網(wǎng)絡(luò)基本理論使用步驟GAN的主要分支-CGANCGAN--條件生成對抗網(wǎng)絡(luò)，為了防止訓練崩塌將前置條件加入輸入數(shù)據(jù)。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第21頁9.2生成式對抗網(wǎng)絡(luò)基本理論使用步驟DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第22頁9.4實踐項目9.1生成式對抗網(wǎng)絡(luò)概述9.3生成對抗網(wǎng)絡(luò)應(yīng)用9.2生成式對抗網(wǎng)絡(luò)基本理論目錄ContentDeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第23頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用GAN的應(yīng)用

圖像和視覺領(lǐng)域語音和語言領(lǐng)域其他領(lǐng)域作為一個具有“無限”生成能力的模型,GAN的直接應(yīng)用就是建模,生成與真實數(shù)據(jù)分布一致的數(shù)據(jù)樣本，GAN可以用于解決標注數(shù)據(jù)不足時的學習問題。其可以應(yīng)用于：DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第24頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用圖像和視覺領(lǐng)域GAN能夠生成與真實數(shù)據(jù)分布一致的圖像。一個典型應(yīng)用是利用GAN來將一個低清模糊圖像變換為具有豐富細節(jié)的高清圖像。用VGG網(wǎng)絡(luò)作為判別器，用參數(shù)化的殘差網(wǎng)絡(luò)表示生成器，實驗結(jié)果如圖所示，可以看到GAN生成了細節(jié)豐富的圖像。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第25頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用語音和語言領(lǐng)域用GAN來表征對話之間的隱式關(guān)聯(lián)性，從而生成對話文本。用CNN作為判別器,判別器基于擬合LSTM的輸出，用矩匹配來解決優(yōu)化問題；在訓練時，和傳統(tǒng)更新多次判別器參數(shù)再更新一次生成器不同,需要多次更新生成器再更新CNN判別器。SeqGAN基于策略梯度來訓練生成器。用GAN基于文本描述來生成圖像，文本編碼被作為生成器的條件輸入，同時為了利用文本編碼信息，也將其作為判別器特定層的額外信息輸入來改進判別器，判別是否滿足文本描述的準確率。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第26頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用其他領(lǐng)域除了將GAN應(yīng)用于圖像和視覺、語音和語言等領(lǐng)域，GAN還可以與強化學習、模仿學習等相合。有人提出用MalGAN幫助檢測惡意代碼，用GAN生成具有對抗性的病毒代碼樣本，實驗結(jié)果表明基于GAN的方法可以比傳統(tǒng)基于黑盒檢測模型的方法性能更好。也有人提出了一個擴展GAN的生成器，用判別器來正則化生成器而不是用一個損失函數(shù)，用國際象棋實驗示例證明了所提方法的有效性。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第27頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用GAN的優(yōu)點和意義GAN對于生成式模型的發(fā)展具有重要的意義。GAN作為一種生成式方法，有效解決了可建立自然性解釋的數(shù)據(jù)的生成難題。GAN的訓練過程創(chuàng)新性地將兩個神經(jīng)網(wǎng)絡(luò)的對抗作為訓練準則并且可以使用反向傳播進行訓練，大大改善了生成式模型的訓練難度和訓練效率。GAN在生成樣本的實踐中，生成的樣本易于人類理解。GAN除了對生成式模型的貢獻，對于半監(jiān)督學習也有啟發(fā)。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第28頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用GAN的缺陷GAN雖然解決了生成式模型的一些問題，并且對其他方法的發(fā)展具有一定的啟發(fā)意義，但是GAN并不完美，它在解決已有問題的同時也引入了一些新的問題。GAN優(yōu)化過程存在不穩(wěn)定性，很容易陷入到一個鞍點或局部極值點上，即“崩潰模式現(xiàn)象”。GAN作為以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的生成式模型，存在神經(jīng)網(wǎng)絡(luò)類模型的一般性缺陷，即可解釋性差。GAN模型需要提高延展性，尤其在處理大規(guī)模數(shù)據(jù)的時候。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第29頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用GAN的發(fā)展前景GAN的研究進展表明它具有廣闊的發(fā)展前景,未來研究方向可以是：如何徹底解決崩潰模式并繼續(xù)優(yōu)化訓練過程。關(guān)于GAN收斂性和均衡點存在性的理論推斷。如何將GAN與特征學習、模仿學習、強化學習等技術(shù)更好地融合,開發(fā)新的人工智能應(yīng)用或者促進這些方法的發(fā)展。DeepLearningAndAutonomousDriving深度學習與自動駕駛應(yīng)用第30頁9.3生成對抗網(wǎng)絡(luò)應(yīng)用GAN的應(yīng)用

圖像和視覺領(lǐng)域語音和語言領(lǐng)域其他領(lǐng)域作為一個具有“無限”