《深度學(xué)習(xí)進(jìn)階 自然語(yǔ)言處理》讀書(shū)筆記PPT模板思維導(dǎo)圖下載

PPT書(shū)籍導(dǎo)讀最新版本讀書(shū)筆記模板《深度學(xué)習(xí)進(jìn)階自然語(yǔ)言處理》最新版讀書(shū)筆記，下載可以直接修改01OReillyMedia,Inc．...第1章神經(jīng)網(wǎng)絡(luò)的復(fù)習(xí)第3章word2vec譯者序第2章自然語(yǔ)言和單詞的分布式表示第4章word2vec的高速化目錄030502040607第5章RNN第7章基于RNN生成文本附錄Asigmoid函數(shù)和tanh函數(shù)...第6章GatedRNN第8章Attention附錄B運(yùn)行WordNet目錄0901108010012013附錄CGRU致謝文獻(xiàn)后記參考文獻(xiàn)目錄015017014016內(nèi)容摘要《深度學(xué)習(xí)進(jìn)階：自然語(yǔ)言處理》是《深度學(xué)習(xí)入門(mén)：基于Python的理論與實(shí)現(xiàn)》的續(xù)作，圍繞自然語(yǔ)言處理和時(shí)序數(shù)據(jù)處理，介紹深度學(xué)習(xí)中的重要技術(shù)，包括word2vec、RNN、LSTM、GRU、seq2seq和Attention等。本書(shū)語(yǔ)言平實(shí)，結(jié)合大量示意圖和Python代碼，按照“提出問(wèn)題”“思考解決問(wèn)題的新方法”“加以改善”的流程，基于深度學(xué)習(xí)解決自然語(yǔ)言處理相關(guān)的各種問(wèn)題，使讀者在此過(guò)程中更深入地理解深度學(xué)習(xí)中的重要技術(shù)。OReillyMedia,Inc．...某個(gè)單詞的含義由它周?chē)膯卧~形成”，稱為分布式假設(shè)（distributionalhypothesis）將向量和矩陣擴(kuò)展到N維的數(shù)據(jù)集合，就是張量。譯者序全連接層的變換是線性變換。第1章神經(jīng)網(wǎng)絡(luò)的復(fù)習(xí)激活函數(shù)賦予它“非線性”的效果。1.1數(shù)學(xué)和Python的復(fù)習(xí)1.2神經(jīng)網(wǎng)絡(luò)的推理1.3神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)1.4使用神經(jīng)網(wǎng)絡(luò)解決問(wèn)題1.5計(jì)算的高速化1.6小結(jié)010302040506第1章神經(jīng)網(wǎng)絡(luò)的復(fù)習(xí)第2章自然語(yǔ)言和單詞的分布式表示嚴(yán)格地講，使用非線性的激活函數(shù)，可以增強(qiáng)神經(jīng)網(wǎng)絡(luò)的表現(xiàn)力。2.1什么是自然語(yǔ)言處理2.2同義詞詞典2.3基于計(jì)數(shù)的方法2.4基于計(jì)數(shù)的方法的改進(jìn)2.5小結(jié)12345第2章自然語(yǔ)言和單詞的分布式表示第3章word2vec向量?jī)?nèi)積直觀地表示了“兩個(gè)向量在多大程度上指向同一方向”進(jìn)行多類別分類的神經(jīng)網(wǎng)絡(luò)通常使用交叉熵誤差（crossentropyerror）作為損失函數(shù)。3.1基于推理的方法和神經(jīng)網(wǎng)絡(luò)3.2簡(jiǎn)單的word2vec3.3學(xué)習(xí)數(shù)據(jù)的準(zhǔn)備3.4CBOW模型的實(shí)現(xiàn)3.5word2vec的補(bǔ)充說(shuō)明3.6小結(jié)010302040506第3章word2vec第4章word2vec的高速化CBOW模型和skip-gram模型是word2vec中使用的兩個(gè)神經(jīng)網(wǎng)絡(luò)當(dāng)np.dot（x,y）的參數(shù)都是一維數(shù)組時(shí)，計(jì)算向量?jī)?nèi)積。4.1word2vec的改進(jìn)①4.2word2vec的改進(jìn)②4.3改進(jìn)版word2vec的學(xué)習(xí)4.4wor2vec相關(guān)的其他話題4.5小結(jié)12345第4章word2vec的高速化第5章RNN當(dāng)參數(shù)都是二維數(shù)組時(shí)，計(jì)算矩陣乘積。5.1概率和語(yǔ)言模型5.2RNN5.3RNN的實(shí)現(xiàn)5.4處理時(shí)序數(shù)據(jù)的層的實(shí)現(xiàn)5.5RNNLM的學(xué)習(xí)和評(píng)價(jià)5.6小結(jié)010302040506第5章RNN第6章GatedRNN單詞本身沒(méi)有含義，單詞含義由它所在的上下文（語(yǔ)境）形成我們將關(guān)注能準(zhǔn)確把握單詞含義的向量表示。6.1RNN的問(wèn)題6.2梯度消失和LSTM6.3LSTM的實(shí)現(xiàn)6.4使用LSTM的語(yǔ)言模型6.5進(jìn)一步改進(jìn)RNNLM6.6小結(jié)010302040506第6章GatedRNN第7章基于RNN生成文本在自然語(yǔ)言處理領(lǐng)域，這稱為分布式表示。7.1使用語(yǔ)言模型生成文本7.2seq2seq模型7.3seq2seq的實(shí)現(xiàn)7.4seq2seq的改進(jìn)7.5seq2seq的應(yīng)用7.6小結(jié)010302040506第7章基于RNN生成文本第8章Attention這個(gè)表格的各行對(duì)應(yīng)相應(yīng)單詞的向量。8.1Attention的結(jié)構(gòu)8.2帶Attention的seq2s...8.3Attention的評(píng)價(jià)8.4關(guān)于Attention的其他話題8.5Attention的應(yīng)用8.6小結(jié)010302040506第8章Attention附錄Asigmoid函數(shù)和tanh函數(shù)...因?yàn)閳D2-7的表格呈矩陣狀，所以稱為共現(xiàn)矩陣（co-occurencematrix）。A.1sigmoid函數(shù)A.3小結(jié)A.2tanh函數(shù)附錄Asigmoid函數(shù)和tanh函數(shù)...附錄B運(yùn)行WordNet略有不足的地方是后兩章質(zhì)量略有下降，有些地方一筆帶過(guò)解釋得不夠清晰，比如attention中的權(quán)重a為什么可以由單詞向量hs和狀態(tài)向量h點(diǎn)積求得，也許作者覺(jué)得讀者讀到這里應(yīng)該掌握了自行求解的能力。B.1NLTK的安裝B.2使用WordNet獲得同義詞B.3WordNet和單詞網(wǎng)絡(luò)B.4基于WordNet的語(yǔ)義相似度附錄B運(yùn)行WordNet附錄CGRU側(cè)重原理：不依賴外部庫(kù)，使用Python3從零開(kāi)始創(chuàng)建深度學(xué)習(xí)程序，通過(guò)親自創(chuàng)建程序并運(yùn)行，讀者可透徹掌握word2vec、RNN、LSTM、GRU、seq2seq和Attention等技術(shù)背后的運(yùn)行原理。C.2GRU的計(jì)算圖C.1GRU的接口附錄CGRU后記不過(guò)只能給你一個(gè)overallpicture。致謝這一個(gè)月對(duì)我有很大幫助的一本書(shū)（很切實(shí)的幫助，指完成人工智能導(dǎo)論課的lab）。