大數(shù)據(jù)技術(shù)原理

大數(shù)據(jù)技術(shù)張瑞芝計算機科學(xué)與技術(shù)16081200210009DeeplearningYannLeCun,YoshuaBengio,GeoffreyHinton

SupervisedlearningBackpropagationtotrainmultilayerarchitecturesConvolutionalneuralnetworksImageunderstandingwithdeepconvolutionalnetworksDistributedrepresentationsandlanguageprocessingRecurrentneuralnetworksThefutureofdeeplearningSupervisedlearning監(jiān)督學(xué)習(xí)是利用一組已知類別的樣本調(diào)整分類器的參數(shù)，并使其達到所要求性能的過程，監(jiān)督學(xué)習(xí)完成了從標(biāo)記的訓(xùn)練數(shù)據(jù)來實現(xiàn)分類功能的機器學(xué)習(xí)任務(wù)。傳統(tǒng)的方法是通過手工方法來設(shè)計良好的特征提取器，這需要大量的工程技術(shù)和專業(yè)領(lǐng)域知識。深度學(xué)習(xí)的關(guān)鍵優(yōu)勢在于使用了通用的學(xué)習(xí)過程從數(shù)據(jù)中學(xué)到良好的特征，從而避免了傳統(tǒng)方法中所需的人工工程。Backpropagationtotrainmultilayerarchitectures通過反向傳播算法來訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)反向傳播算法（Backpropagation）是目前用來訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)的最常用且最有效的算法。Convolutionalneuralnetworks卷積神經(jīng)網(wǎng)絡(luò)是一種前饋神經(jīng)網(wǎng)絡(luò)，它包括卷積層和池化層，它的人工神經(jīng)元可以響應(yīng)一定覆蓋范圍內(nèi)的周圍單元，對大型圖像的處理表現(xiàn)得很出色。在BP神經(jīng)網(wǎng)絡(luò)中，每一層都是全連接的，這使訓(xùn)練變得困難。而CNN的卷積層每個節(jié)點與上一層某個區(qū)域通過卷積核連接，而與這塊區(qū)域以外的區(qū)域無連接。但每個節(jié)點對應(yīng)不同的卷積核導(dǎo)致訓(xùn)練量依然很大。為此，CNN提出了權(quán)值共享概念，即同一個卷積層內(nèi)，所有神經(jīng)元的權(quán)值是相同的。池化層夾在卷積層中間，其主要作用是逐步壓縮減少數(shù)據(jù)和參數(shù)的數(shù)量，也在一定程度上減少過擬合現(xiàn)象。其功能是把上一層輸入數(shù)據(jù)的某塊區(qū)域壓縮成一個值。Imageunderstandingwithdeepconvolutionalnetworks左圖為人工智能專家李飛飛利用大數(shù)據(jù)來訓(xùn)練計算機視覺，通過深度CNN來教計算機理解圖片。而且李飛飛共享了ImageNet。作為和大腦神經(jīng)原理類似的卷積神經(jīng)網(wǎng)絡(luò)，使用ImageNet進行訓(xùn)練是非常合適的選擇。Distributedrepresentationsandlanguageprocessing要將自然語言交給機器學(xué)習(xí)中的算法來處理，通常需要首先將語言數(shù)學(xué)化，詞向量就是用來將語言中的詞進行數(shù)學(xué)化的一種方式。DistributedRepresentation的基本想法是：通過訓(xùn)練將某種語言中的每一個詞映射成一個固定長度的短向量，將所有這些向量放在一起形成一個詞向量空間，而每一個向量則為該空間中的一個點，在這個空間上引入“距離”，則可以根據(jù)詞之間的距離來判斷它們之間的（詞法、語義上的）相似性了。下面的左、右兩幅圖中五個詞在兩個向量空間中的相對位置差不多，這說明兩種不同語言對應(yīng)向量空間的結(jié)構(gòu)之間具有相似性，從而進一步說明了在詞向量空間中利用距離刻畫詞之間相似性的合理性。Recurrentneuralnetworks在RNN中，輸入層和來自序列中上一元素隱藏層的信號共同作用于當(dāng)前的隱藏層數(shù)據(jù)挖掘與醫(yī)學(xué)數(shù)據(jù)資源開發(fā)利用醫(yī)學(xué)數(shù)據(jù)資料的狀況數(shù)據(jù)挖掘的應(yīng)用數(shù)據(jù)挖掘的方法以及具體應(yīng)用聚類分析（ClusteringAnalysis）關(guān)聯(lián)分析（CorrelationAnalysis）決策樹（DecisionTree）

結(jié)論聚類分析（ClusteringAnalysis）聚類分析是對輸入集中的記錄進行分類。根據(jù)一定的規(guī)則，合理地進行分組或聚類，并用顯式或者隱式的方法描述不同的類別。聚類分析是一種探索性的統(tǒng)計分析方法，是在沒有先驗知識的情況下對數(shù)據(jù)資料進行分類，其實質(zhì)就是按照資料的內(nèi)在相似或相關(guān)程度將數(shù)據(jù)分為若干個類別，以使得類別內(nèi)數(shù)據(jù)的“差異”盡可能小，類別間“差異”盡可能大。關(guān)聯(lián)分析（CorrelationAnalysis）表示數(shù)據(jù)庫中一組對象之間某種關(guān)聯(lián)關(guān)系的規(guī)則，挖掘一個事件和其他事件之間依賴或關(guān)聯(lián)的知識。如果兩項或多項屬性之間存在關(guān)聯(lián)，那么其中一項的屬性值就可以依據(jù)其他屬性值進行預(yù)測。關(guān)聯(lián)規(guī)則的挖掘問題就是在給定的數(shù)據(jù)庫中，找出滿足最小支持度和最小置信度的關(guān)聯(lián)規(guī)則。關(guān)聯(lián)規(guī)則有如下優(yōu)點：可以產(chǎn)生清晰有用的結(jié)果；支持間接數(shù)據(jù)挖掘；可以處理變長的數(shù)據(jù)；計算的消耗量可以預(yù)見。決策樹（DecisionTree）首先通過一批已知的訓(xùn)練數(shù)據(jù)建立一顆決策樹；然后，利用建好的決策樹，對數(shù)據(jù)進行預(yù)測。這是一種用樹枝狀展現(xiàn)數(shù)據(jù)受各變量影響情況的分析預(yù)測模型，根據(jù)對目標(biāo)變量產(chǎn)生效應(yīng)的不同，而制定分類規(guī)則，它是建立在信息論基礎(chǔ)之上的對數(shù)據(jù)進行分類的一種方法。決策樹的建立過程是數(shù)據(jù)規(guī)則的生成過程，因此這種方法實現(xiàn)了數(shù)據(jù)規(guī)則的可視化，其輸出結(jié)果容易理解，精確度較好，效率較高，因而較為常用。結(jié)論聚類分析、關(guān)聯(lián)分析以及決策樹是醫(yī)學(xué)數(shù)據(jù)挖掘中的主要方法，三者的結(jié)合，可以對某一類疾病進行