論文寫作系列課程1-導論

導師：John老師講師簡介：中國科學院大學博士研究生，曾在騰訊和微軟亞洲研究院進行NLP相關的項目。在國際會議發(fā)表論文近20篇。5項專利，多次獲得國家獎學金，科研學術競賽top-3。科研論文寫作系列課程導論NORTHWESTERNPOLYTECHNICALUNIVERSITY內容提要科研流程

文獻管理

論文想法

寫作繪圖

回顧總結目錄Contents循環(huán)往復科研流程前期工作尋找ideas進行實驗新的idea？？？？？？？？？舉個例子？？？NORTHWESTERNPOLYTECHNICALUNIVERSITY內容提要目錄Contents

科研流程

文獻管理

論文想法

寫作繪圖

回顧總結文獻管理直接演示NORTHWESTERNPOLYTECHNICALUNIVERSITY內容提要目錄Contents

科研流程

文獻管理

論文想法（IDEAS）

寫作繪圖

回顧總結IDEAS論文想法多讀論文從論文的實驗+分析得出結論實例：ESConv數據集動手做實驗不親自做實驗永遠不知道有什么BUG實例：DureaderCase分析跑別人的代碼，分析預測的數據結果。直覺的（睡夢中想到也說不定）NORTHWESTERNPOLYTECHNICALUNIVERSITY內容提要目錄Contents

科研流程

文獻管理

論文想法

寫作繪圖

回顧總結Latex推薦我們以OVERLEF為例——一個好用的在線LATEX編輯器表格生成：/Latex推薦我們以OVERLEF為例——一個好用的在線LATEX編輯器Draw.ioMac:omnigraffeWin:Draw.io含有

網頁版Draw.ioNORTHWESTERNPOLYTECHNICALUNIVERSITY內容提要目錄Contents

科研流程

文獻管理

論文想法

寫作繪圖

回顧總結總結回顧總結

1.科學研究的基本流程

2.文獻管理工具Zotero+Google插件

3.如何從論文中尋找idea（實踐）從三個方面進行闡述

4.論文的寫作和繪圖工具（實踐）LatexDraw.io/omnigraffe1.矩陣計算2.概率論、信息論神經網絡基礎知識一、神經網絡與多層感知器

1.1人工神經元：MP模型1.2多層感知機1.3激活函數（sigmoid/tanh/relu）1.4反向傳播（BP）：梯度下降，學習率1.5損失函數：MSE/CE；Softmax函數1.6權值初始化1.7正則化：L1、L2和Dropout；提及BN/GN/IN/LN二、卷積神經網絡基礎2.1卷積神經網絡簡介2.2卷積層2.3池化層2.4Lenet5三、循環(huán)神經網絡3.1rnn循環(huán)神經網絡3.2lstm長短記憶循環(huán)神經網絡3.3gru門控循環(huán)單元NLP基礎知識基本概念預備知識形式語言與自動機語料庫與語言知識庫語言模型概率圖模型自動分詞、命名實體識別與詞性標注Python基礎1.編程基礎2.機器學習庫數學基礎PyTorch入門PyTorch簡介及安PyTorch人名幣分類PyTorch數據讀取模塊PyTorch數據增強PyTorchModule模塊PyTorch常用網絡層PyTorch損失函數PyTorch優(yōu)化器OptimizerPyTorch可視化TensorBoardPyTorch實用技巧GPU/Finetune/保存加載學習路徑NLPBaselineICLR2013，EfficientEstimationofWordRepresentationinVectorSpace，詞向量扛鼎之作EMNLP2014，GloVe:GlobalVectorsforWordRepresentation，最著名的詞向量訓練模型之一EMNLP2015，Compositionalcharactermodelsforopenvocabularywordrepresentation，第一篇介紹字符嵌入EMNLP2014，ConvolutionalNeuralNetworkforSentenceClassification，CNN文本分類扛鼎之作NIPS2015，Character-levelConvolutionalNetworksforTextClassification，第一篇字符級別的文本分類EACL2017，BagofTricksforEfficientTextClassification，細粒度文本分類模型NIPS2014，SequencetoSequenceLearningwithNeuralNetworks，深度LSTM做神經機器翻譯ICLR2015，NeuralMachineTranslationbyJointlyLearningtoAlignandTranslate，第一篇提出注意力機制的論文NAACL2016，HierarchicalAttentionNetworksforDocumentClassification，HanAttention用于文本分類Coling2018，SGM:SequenceGenerationModelforMulti-labelClassification，第一篇使用序列生成做多標簽文本分類學習路徑數學基礎Python基礎神經網絡基礎知識Pytorch快速入門圖像基礎NLP基礎Step0：選修知識CV方向NLP方向10篇論文10篇論文Step1：BaselinePaperStep2：細分專題Paper語義分割；目標檢測；GAN；OCR；輕量化網絡信息抽?。活A訓練模型；圖神經網絡；句子匹配；機器翻譯；注：根據個人學習基礎，進入不同學習階段學習路徑Thanks！Morerelatedworkscanbeviewedasfollows導師：