深度學(xué)習(xí)應(yīng)用開發(fā) 課件 cha7 2-遷移學(xué)習(xí)訓(xùn)練方法與技巧

目錄1遷移學(xué)習(xí)方法依據(jù)01任務(wù)四種遷移學(xué)習(xí)方法02任務(wù)1遷移學(xué)習(xí)方法依據(jù)1遷移學(xué)習(xí)方法依據(jù)遷移學(xué)習(xí)的訓(xùn)練方法和技巧主要依據(jù)兩種情況：（1）新數(shù)據(jù)集的大小如果新數(shù)據(jù)集的數(shù)據(jù)量為幾萬筆數(shù)據(jù)，就屬于大數(shù)據(jù)集；如果新數(shù)據(jù)集的數(shù)據(jù)量為幾千或幾百筆數(shù)據(jù)，就屬于小數(shù)據(jù)集。（2）數(shù)據(jù)集的相似程度新數(shù)據(jù)集與預(yù)訓(xùn)練模型所使用的數(shù)據(jù)集之間的相似程度。例如，貓與老虎屬于相似度高的數(shù)據(jù)，而貓與桌子則屬于相似度低的數(shù)據(jù)。2四種遷移學(xué)習(xí)方法2四種遷移學(xué)習(xí)方法根據(jù)新數(shù)據(jù)集的大小和數(shù)據(jù)集的相似程度，可以將遷移學(xué)習(xí)方法分為四種情況：（1）小數(shù)據(jù)集&相似數(shù)據(jù)（2）小數(shù)據(jù)集&不相似數(shù)據(jù)（3）大數(shù)據(jù)集&相似數(shù)據(jù)（4）大數(shù)據(jù)集&不相似數(shù)據(jù)2四種遷移學(xué)習(xí)方法（1）小數(shù)據(jù)集&相似數(shù)據(jù)小數(shù)據(jù)集在龐大的網(wǎng)絡(luò)架構(gòu)上訓(xùn)練時容易發(fā)生過擬合問題，因此預(yù)訓(xùn)練模型的權(quán)重必須保持不變。由于新數(shù)據(jù)集與預(yù)訓(xùn)練模型使用的數(shù)據(jù)集相似性高，新數(shù)據(jù)集在每一層卷積層都有相似的特征，尤其是更高層的卷積層，因此提取特征的卷積層不需要改變，只對處理特征分類的全連接層進行改變即可。故而我們將最后幾層全連接層刪除，并加上新的全連接層。2四種遷移學(xué)習(xí)方法步驟如下：(1）刪除全連接層：可以選擇刪除最后一層的全連接層或刪除多層的全連接層。(2）新增全連接層：將新增加的全連接層接在原來的網(wǎng)絡(luò)架構(gòu)后面，且最后一層全連接層的輸出與新數(shù)據(jù)集的類別數(shù)一樣。只訓(xùn)練新增的全連接層。(3）固定卷積層的權(quán)重：在訓(xùn)練新的網(wǎng)絡(luò)架構(gòu)時，將大部分網(wǎng)絡(luò)層的權(quán)重固定。不進行訓(xùn)練。2四種遷移學(xué)習(xí)方法（2）小數(shù)據(jù)集&不相似數(shù)據(jù)因為小數(shù)據(jù)集在龐大的網(wǎng)絡(luò)架構(gòu)上訓(xùn)練時容易發(fā)生過擬合問題，所以預(yù)訓(xùn)練模型的權(quán)重必須保持不變。由于新數(shù)據(jù)集與預(yù)訓(xùn)練模型使用的數(shù)據(jù)集相似度低，新數(shù)據(jù)集只有在低層卷積層有相似特征，更高層卷積層的特征大多不相似，因此只需要保留低層卷積層，其他卷積層和全連接層都刪除，并加入新的全連接層，2四種遷移學(xué)習(xí)方法步驟如下：(1）刪除全連接層：刪除大部分網(wǎng)絡(luò)，只保留前面小部分網(wǎng)絡(luò)層（提取線條、顏色或紋路的網(wǎng)絡(luò)層）。(2）新增全連接層：將新增加的全連接層接在原來的網(wǎng)絡(luò)架構(gòu)后面，且最后一層全連接層輸出與新數(shù)據(jù)集的類別一樣。(3）固定卷積層的權(quán)重：在訓(xùn)練新的網(wǎng)絡(luò)架構(gòu)時，將大部分網(wǎng)絡(luò)層的權(quán)重固定，不進行訓(xùn)練，只訓(xùn)練新增的全連接層。2四種遷移學(xué)習(xí)方法（3）大數(shù)據(jù)集&相似數(shù)據(jù)擁有大數(shù)據(jù)集一般不需要擔(dān)心在訓(xùn)練過程中發(fā)生過擬合問題，因此可以對整個預(yù)訓(xùn)練模型進行訓(xùn)練。由于新數(shù)據(jù)集與預(yù)訓(xùn)練模型使用的數(shù)據(jù)集相似度高，新數(shù)據(jù)集在每一層卷積層都有相似的特征，因此提取特征的卷積層不必改變，只改變處理特征分類的全連接層即可。2四種遷移學(xué)習(xí)方法步驟如下：(1）刪除全連接層：可以選擇刪除最后或多層的全連接層。(2）新增全連接層：在網(wǎng)絡(luò)最后添加新的全連接層，最后全連接層的輸出與新數(shù)據(jù)集的類別數(shù)一樣。(3）固定卷積層的權(quán)重：在訓(xùn)練新的網(wǎng)絡(luò)架構(gòu)時，將大部分網(wǎng)絡(luò)層的權(quán)重固定，不進行訓(xùn)練，只訓(xùn)練新增的全連接層。2四種遷移學(xué)習(xí)方法（4）大數(shù)據(jù)集&不相似數(shù)據(jù)擁有大量的數(shù)據(jù)集一般不需要擔(dān)心在訓(xùn)練過程中發(fā)生過擬合問題，因此可以對整個預(yù)訓(xùn)練模型或全新的隨機初始化權(quán)重的網(wǎng)絡(luò)模型進行訓(xùn)練，由于新數(shù)據(jù)集與預(yù)訓(xùn)練模型使用的數(shù)據(jù)集相似度低，新數(shù)據(jù)集與大多數(shù)網(wǎng)絡(luò)層的特征都不相似，因此我們先將最后幾層全連接層刪除，并加上新的全連接層，再對整個預(yù)訓(xùn)練模型進行訓(xùn)練。2四種遷移學(xué)習(xí)方法步驟如下：(1）刪除全連接層：可以選擇刪除最后一層的全連接層或刪除多層的全連接層。(2）新增全連接