TensorFlow +OpenVINO 整合開(kāi)發(fā)CR-A08-化解維度災(zāi)難-活用自編碼器

目錄目錄6.范例實(shí)現(xiàn)-17.范例實(shí)現(xiàn)-200遇到的一系列計(jì)算難題。應(yīng)到計(jì)算空間的維度也就愈高。被稱為高維數(shù)據(jù)。時(shí)，常常會(huì)發(fā)生的一些奇奇怪怪的現(xiàn)象。Bellman)在考慮優(yōu)化問(wèn)題時(shí)首次提出來(lái)的術(shù)語(yǔ)，用來(lái)描述當(dāng)計(jì)算空間維度增加時(shí)，分析高維空間(如數(shù)千維)時(shí)，會(huì)遇到各種問(wèn)題場(chǎng)景。是一個(gè)有效的工具?！绷?xí)?！?例如，在基因醫(yī)學(xué)領(lǐng)域里，基因排序相關(guān)的數(shù)據(jù)，AI個(gè)維度，于是計(jì)算空間成為極高維度的空間。?如今，利用ML的自編碼器(Autoencoder)模型的降據(jù)空間的重要特征。?這樣即可在低維度的潛藏空間中，進(jìn)行高速的運(yùn)算。常用的。?在本節(jié)課里，就拿基因醫(yī)學(xué)的GWAS分析來(lái)舉例說(shuō)明之，也設(shè)計(jì)一個(gè)簡(jiǎn)單的StackedAE模型，然后解析其代碼內(nèi)容。前言?ThehighdimensionalitypresentingeneticdatamakesuateallPcombinations使得計(jì)算上變得困難。前言?WithregardstothediscoveryofSNP-to-SNPnpromise?關(guān)于SNP到SNP交互的發(fā)現(xiàn)，深度學(xué)習(xí)(DL)已顯示出光明的前景。bydeephiddenlayersandneurons?它的特色在于深層的隱藏層及其神經(jīng)元。SNPsandtheirassociationtothephenotype.聲這些特征來(lái)辨別曲風(fēng)。場(chǎng)，來(lái)幫忙進(jìn)行各種識(shí)別(如遺傳表征)了。11目的?Genome-wideAssociationStudies(GWAS)：目的?Genome-wideAssociationStudies(GWAS)：目的?Genome-wideAssociationStudies(GWAS)：手段?GWAS(Genome-wideAssociationStudies)：?觀察基因的變異，探索其與特定表型之間潛藏的定義?Genome-wideAssociationStudies(GWAS)：ctinga定義?Genome-wideAssociationStudies(GWAS)：?從全體基因組中探索其中數(shù)以百萬(wàn)計(jì)的SNPs(即<基因ies定義?(GWASlookathundredsofthousandsofSNPsacrossthewholegenome,toseewhichofthemareassociatedwithaspecificdisease.)認(rèn)識(shí)GWAS定義ies?(GWASlookathundredsofthousandsofSNPsacrossthewholegenome,toseewhichofthemareassociatedwithaspecificdisease.)定義GWASGenomewideassociationstudies)：從全體?基因組就像一本書(shū)，各版本可能會(huì)有變異。ies定義?(GWASlookathundredsofthousandsofSNPsacrossthewholegenome,toseewhichofthemareassociatedwithaspecificdisease.)認(rèn)識(shí)GWAS?GWASareusedtoidentifywhethercommonSNPsinthepopulationareassociatedwithdisease.認(rèn)識(shí)GWAS?GWASareusedtoidentifywhethercommonSNPsinthepopulationareassociatedwithdisease.認(rèn)識(shí)GWAS?GWASareusedtoidentifywhethercommonSNPsinthepopulationareassociatedwithdisease.認(rèn)識(shí)GWAS?GWASareusedtoidentifywhethercommonSNPspopulationareassociatedwithdisease預(yù)測(cè)認(rèn)識(shí)GWAS22?近些年，GWAS利用SNP(單核苷酸多態(tài))分子標(biāo)記已經(jīng)定號(hào)在多次試驗(yàn)中有很高的可重復(fù)性。?例如，人類常見(jiàn)疾病肥胖，糖尿病，精神分裂等。在。定義一部分個(gè)體(如：1%以上)中的基因多樣性。?ASNPisdefinedasasinglebasechangeinaDNAcethatoccursinasignificantproportionmorethan1%)ofalargepopulation.定義一部分個(gè)體(如：1%以上)中的基因多樣性。?ASNPisdefinedasasinglebasechangeinaDNAcethatoccursinasignificantproportionmorethan1%)ofalargepopulation.定義個(gè)體(如：1%以上)中的基因多樣性。?ASNPisdefinedasasinglebasechangeinaDNAcethatoccursinasignificantproportionmorethan1%)ofalargepopulation.定義族中明顯一部分個(gè)體(如：1%以上)中的基因多樣性。?ASNPisdefinedasasinglebasechangeinaDNAcethatoccursinasignificantproportionmorethan1%)ofalargepopulation.定義族中明顯一部分個(gè)體(如：1%以上)中的基因多樣性。是指含氮堿基(NitrogenousBase)，一般簡(jiǎn)稱：堿基(Base)?DNA主要堿基共有4種：胞嘧啶(C)、鳥(niǎo)嘌呤(G)、腺嘌呤(A)、胸腺嘧啶(T)。?人類基因組含有30億個(gè)堿基對(duì)。?人類基因組含有30億個(gè)堿基對(duì)。?每一物種都有一致的DNA序列，但每一個(gè)個(gè)體會(huì)有些變異。?人們的99.9%基因序列都是相同的。認(rèn)識(shí)SNP?DNA主要堿基共有4種：胞嘧啶(C)、鳥(niǎo)嘌呤(G)、腺嘌呤(A)、胸腺嘧啶(T)。染色體&DNA堿基對(duì)定義群族中明顯一部分個(gè)體(如：1%以上)中的基因多樣性。定義群族中明顯一部分個(gè)體(如：1%以上)中的基因多樣性。或者多個(gè)磷酸基團(tuán)組成。個(gè)體(如：1%以上)中的基因多樣性?；蛘叨鄠€(gè)磷酸基團(tuán)組成。NA認(rèn)識(shí)SNP列中的單一堿基對(duì)(Basepair)變異」，也就是DNA序列中A、TCG即基因組(genome)的一個(gè)特異和定位的位個(gè)的核苷酸可能性，會(huì)造成這樣的變異原因?yàn)榛虬l(fā)生刪除、插入或是取代反應(yīng)。Mr.B?例如上圖，兩不同個(gè)體相對(duì)應(yīng)的DNA區(qū)段分別是AAGCCTA和AAGCTTA其包含有一單一堿基對(duì)變異。變異。genome-widesetofgeneticvariantsUgenome-widesetofgeneticvariantsUrrr33GWAS的進(jìn)展?Advancesinthefieldhaveidentifiedgeneticvariationserliecommondisorderssuchascertaincancers.?GWAS領(lǐng)域的進(jìn)展已經(jīng)確定了導(dǎo)致常見(jiàn)疾病(如某些癌癥基于SNP特征?GWASutilizeSNPInformationandthishashelpedtodgeandunderstandingofdiseasegenetics.學(xué)的了解和理解。commontypeofgeneticvariationamonghumans.?Thesehavebecomethegeneticmarkerofchoiceinthegeneticmappingofcomplextraits.?單核苷酸多態(tài)性(SNPs)是人類身體最常見(jiàn)的基因變異類型。?這些已成為復(fù)雜特征基因圖譜中首選的遺傳標(biāo)志。diseasesremainsasignificantchallenge.?了解常見(jiàn)病的遺傳(基因)結(jié)構(gòu)仍然是一項(xiàng)嚴(yán)峻的挑戰(zhàn)。?GWASimplementssingle-locianalysiswhereSNPsareytestedforassociationwithphenotypesestwithoutconsiderationoftheinteractionsthatoccurbetweenloci.?GWAS實(shí)踐了單位點(diǎn)分析，其拿SNPs來(lái)獨(dú)立測(cè)試以便找互作用。?ThisisamajorlimitationinGWAS,particularlywhenausedbySNPSNPgene-geneandgene-environmentinteractions.疾病時(shí)。新方向：SNPs之間的相互作用?Traditionalstatisticalmethodssuchaslogisticsionhaveshownlimitedpowerinmodellingghordernonlinearinteractionsbetweengeneticvariants.?傳統(tǒng)的統(tǒng)計(jì)方法(例如邏輯回歸)有項(xiàng)缺點(diǎn)：在建立的。新方向：SNPs之間的相互作用?Thisapproachassumesthatgenesdonotworkeffectsontestedphenotypes網(wǎng)絡(luò)”，成為對(duì)測(cè)試表型的主要影響因子。新方向：SNPs之間的相互作用?Thisapproachassumesthatgenesdonotworkeffectsontestedphenotypes網(wǎng)絡(luò)”，成為對(duì)測(cè)試表型的主要影響因子。：：?Therefore,tobetterunderstandthemissingssarytoexamineepistasisinteractions.expressionofanothergene.xpressionofanothergeneexpressionofanothergene.expressionofanothergene.下下位基因?位于不同染色體的基因。被抑制biologicalmechanismsandpredictcomplextraitsfromgenotypedata.制并根據(jù)基因型數(shù)據(jù)預(yù)測(cè)復(fù)雜性狀。44ML善于表達(dá)SNPs與表型之間的關(guān)聯(lián)性SNPsandtheirassociationtothephenotype.關(guān)系和相互作用；以及表達(dá)它們與表型之間的關(guān)聯(lián)性。ML善于表達(dá)SNPs與表型之間的關(guān)聯(lián)性SNPsandtheirassociationtothephenotype.機(jī)器學(xué)習(xí)助力GWASstodetectSNPionandfeatureselection.預(yù)測(cè)、和特征選擇。機(jī)器學(xué)習(xí)助力GWASistodetectSNPionandfeatureselection.預(yù)測(cè)、和特征選擇。機(jī)器學(xué)習(xí)助力GWAStectionofgenegeneinteractionsanddiseaseclassification.病分類。機(jī)器學(xué)習(xí)助力GWAStectionofgenegeneinteractionsanddiseaseclassification.sideredthemostrelevantbutdifficultchallenge.挑戰(zhàn)。?Although,thesetypesofmachinelearninglingcomplexamongasmallnumberheydonotscaletolargernumbersofASdataonemillionSNPsandthousandsofsamples).?Although,thesetypesofmachinelearninglingcomplexongasmallnumberheydonotscaletolargernumbersofASdataonemillionSNPsandthousandsofsamples).GWAS與機(jī)器學(xué)習(xí)?ThehighdimensionalitypresentingeneticdatamakesuateallPcombinations使得計(jì)算上變得困難。?Therefore,analternativeapproachtomodelhigh-actionsbetweenSNPsisneeded.?Therefore,analternativeapproachtomodelhigh-actionsbetweenSNPsisneeded.sappealingsinceitexhibitsthepotentialtodealtaandthedetectionofcomplexfeaturesandassociatedinteractions.的相互作用。sappealingsinceitexhibitsthepotentialtodealdataandthedetectionofcomplexfeaturesandassociatedinteractions.深度學(xué)習(xí)(DL)+GWAS?GWAS是在人類全基因組范圍內(nèi)找出存在的序列變異，即單核苷酸多態(tài)性(SNP)，并進(jìn)行SNP插補(bǔ) (imputation)以補(bǔ)足未被定序的基因變異片段。?然后探索出哪些基因位點(diǎn)(genelocus)的序列變異與特定表型(phenotype)的關(guān)聯(lián)。?GWAS為人們打開(kāi)了一扇通往研究復(fù)雜疾病的大門(mén)。深度學(xué)習(xí)(DL)+GWAS?GWAS是在人類全基因組范圍內(nèi)找出存在的序列變異，即單核苷酸多態(tài)性(SNP)，并進(jìn)行SNP插補(bǔ) (imputation)以補(bǔ)足未被定序的基因變異片段。?然后探索出哪些基因位點(diǎn)(genelocus)的序列變異與特定表型(特定表型(phenotype)的關(guān)聯(lián)。Ingenetics,alocus(pluralloci)isaspecific,fixedpositiononachromosomewhereaparticulargeneorgeneticmarkerislocated.應(yīng)用范例Ps與血清丙胺酸轉(zhuǎn)胺酶(ALT)濃度的變化趨勢(shì)相關(guān)。atMountSinai)的研究團(tuán)隊(duì)，透過(guò)全基因組關(guān)聯(lián)分析迄今最大規(guī)模的躁郁癥基因研究，并找出15個(gè)與疾病緊密相關(guān)、有望成為治療標(biāo)靶的基因。該論文發(fā)表于期刊應(yīng)用范例Ps與血清丙胺酸轉(zhuǎn)胺酶(ALT)濃度的變化趨勢(shì)相關(guān)。atMountSinai)的研究團(tuán)隊(duì)，透過(guò)全基因組關(guān)聯(lián)分析迄今最大規(guī)模的躁郁癥基因研究，并找出15個(gè)與疾病緊密深度學(xué)習(xí)的特點(diǎn)?WithregardstothediscoveryofSNP-to-SNPomise?關(guān)于SNP到SNP交互的發(fā)現(xiàn)，深度學(xué)習(xí)(DL)已顯示出光明的前景。GWAS與機(jī)器學(xué)習(xí)深度學(xué)習(xí)的特點(diǎn)?WithregardstothediscoveryofSNP-to-SNPnpromise?關(guān)于SNP到SNP交互的發(fā)現(xiàn)，深度學(xué)習(xí)(DL)已顯示出光明的前景。denlayersandneurons?它的特色在于深層的隱藏層及其神經(jīng)元。以AE(Autoencoder)為例以AE(Autoencoder)為例?Anautoencoder(AE)isanunsupervisedlearningo?AE可以透過(guò)反向傳播技術(shù)來(lái)訓(xùn)練模型，讓其輸出Y值，非?AE(自編碼器)是一種可以實(shí)現(xiàn)編碼和譯碼的神經(jīng)網(wǎng)絡(luò)。將原始資料。>>>>XH55?多個(gè)AE逐層堆棧以產(chǎn)生堆棧式自動(dòng)編碼器(SAE)。都可以實(shí)現(xiàn)<降維>的效果。?多個(gè)AE逐層堆棧以產(chǎn)生堆棧式自動(dòng)編碼器(SAE)。都可以實(shí)現(xiàn)<降維>的效果。?把各AE里的Encoder遷移過(guò)來(lái)，堆棧在一起。Encoder1Encoder2?形成一個(gè)多層次深度<降維>模型。I?分類模型)的輸入值。更多組合形式?也可以結(jié)合起來(lái)，成為一個(gè)深度學(xué)習(xí)模型?；钣肧AE修正權(quán)重?OurproposedapproachextendsGWASbycombiningautoencodersSAEsandRMtoidentifyepistaticinteractionsbetweenSNPs.tsignificantSNPsareuentanalysistoinvestigateepistasis.?從傳統(tǒng)的GWAS質(zhì)量控制和關(guān)聯(lián)分析中，挑選出最顯著的作用。tsignificantSNPsareuentanalysistoinvestigateepistasis.?從傳統(tǒng)的GWAS質(zhì)量控制和關(guān)聯(lián)分析中，挑選出最顯著的作用。?Therefore,SAEsarecombinedwithassociationrulenscontributetoclassificationresultss交互作用有助于分類結(jié)果。?AssociationrulesareimplementedtorevealbiologicallyNPsIfSNPsfrequentlylyingrelationshipbetweenthem.?ARM用來(lái)揭示SNPs之間的生物學(xué)的組合關(guān)聯(lián)。如果SNPs經(jīng)常出現(xiàn)在一起，則它們之間存在潛在的關(guān)系。tomodelepistaticinetuneafullyconnectedmulti-layerperceptron(MLP).Ps?ThisisthefirststudyofitskindtocombinesisedlearningbuiltonstackedautoencodersLPclassifierfortheclassificationofTDsusingGWASdata.Ds進(jìn)行分類。entinSNPSNPinteractionsdforwardartificialneuralnetwork(ANN)classifier.化一個(gè)ANN分類器。kingfoursinglelayerAEswith000-500-50hiddenunits.500和50個(gè)神經(jīng)元。?透過(guò)這個(gè)AE來(lái)從2465個(gè)SNPs中，進(jìn)行特征提取。ckingfoursinglelayerAEswith000-500-50hiddenunits.ecompressedhiddenunitsconsideredintheSAE.ANN(使用softmax激活函數(shù))模型。SAE+ANN分類器的效果?ThisdemonstratesthepotentialofusingourdeeplargecomplexentrepresentationsectbetweenSNPsinGWAS.GWAS中SNP之間的上位性效應(yīng)。SAE+ANN分類器的效果classifierinedinourpreviousstudyusingthesamedataset.更棒的效果。SAE+ANN分類器的效果identifywhatinformationPscontributedtothecompressinlyduetothelackofinterpretationofdeeplearningmodelswhichactasablackbox.?但是，使用SAE壓縮功能很難識(shí)別2465個(gè)SNP中的哪些子一樣，人們難以解釋其推論邏輯所致。SAE+ANN分類器的效果?Thislimitationfosterstheneedtocreaterobust?因此想辦法來(lái)解釋這個(gè)DL模型。SAE+ANN分類器的效果?Wecombinedcommongenetictoolsandtechniquesionanalysiswithdeeplearningtotinformationandt