2020年度湖南省科學(xué)技術(shù)獎(jiǎng)勵(lì)擬提名項(xiàng)目公示內(nèi)容

2020年度湖南省科學(xué)技術(shù)獎(jiǎng)勵(lì)擬提名項(xiàng)目公示內(nèi)容（自然科學(xué)獎(jiǎng)）項(xiàng)目名稱面向人工智能的異構(gòu)并行算法設(shè)計(jì)理論與方法提名意見當(dāng)前，人工智能正逐步滲透到醫(yī)療、科學(xué)、財(cái)產(chǎn)、安全、交通等各個(gè)領(lǐng)域。然而，人工智能應(yīng)用具有數(shù)據(jù)處理規(guī)模大、計(jì)算密集、實(shí)時(shí)性要求高等特征，傳統(tǒng)以計(jì)算任務(wù)映射為中心的并行計(jì)算不再適用。為此，項(xiàng)目組提出了異構(gòu)協(xié)同并行計(jì)算理論、異構(gòu)協(xié)同并行算法，和新型面向人工智能應(yīng)用的并行算法。項(xiàng)目成果已成功應(yīng)用于癌癥診斷、年齡識(shí)別等應(yīng)用，為促進(jìn)人工智能應(yīng)用水平（尤其是實(shí)時(shí)性能）、提升重大復(fù)雜應(yīng)用算例計(jì)算性能做出了重要貢獻(xiàn)。提名該項(xiàng)目為湖南省自然科學(xué)獎(jiǎng)一等獎(jiǎng)。項(xiàng)目簡(jiǎn)介以深度學(xué)習(xí)為代表的新型人工智能應(yīng)用計(jì)算和訪存密集、實(shí)時(shí)性要求高，在此背景下，新型融合異構(gòu)并行計(jì)算結(jié)構(gòu)、數(shù)據(jù)和深度學(xué)習(xí)模型的高效智能計(jì)算已逐步在工業(yè)界和學(xué)術(shù)界引起重視。但相較于傳統(tǒng)計(jì)算，人工智能數(shù)據(jù)處理規(guī)模大、數(shù)據(jù)間依賴性強(qiáng)，傳統(tǒng)以任務(wù)映射為中心的并行計(jì)算方法不再適用。鑒此，申請(qǐng)者針對(duì)人工智能數(shù)據(jù)規(guī)模大、依賴性強(qiáng)、計(jì)算結(jié)構(gòu)復(fù)雜異構(gòu)等挑戰(zhàn)，設(shè)計(jì)了異構(gòu)協(xié)同并行計(jì)算理論、異構(gòu)協(xié)同并行算法，以及面向人工智能高效應(yīng)用的異構(gòu)并行算法。取得的主要研究成果概述如下：(1)異構(gòu)協(xié)同并行計(jì)算理論，首先提出一個(gè)描述大規(guī)模稀疏矩陣和張量非零元素的分布密度函數(shù)（DistributionMassFunction，DMF），利用該函數(shù)可以分析稀疏矩陣和張量非零元素的密度分布，能夠從理論上分析其稀疏模式的數(shù)字特征，利用這些數(shù)值特征可以定量分析稀疏矩陣和張量在不同壓縮方法下的壓縮效率，以及在并行計(jì)算中的數(shù)據(jù)訪問效率；其次發(fā)現(xiàn)了在大規(guī)模異構(gòu)計(jì)算機(jī)系統(tǒng)上針對(duì)異構(gòu)處理器的算力和計(jì)算特征進(jìn)行合理的數(shù)據(jù)劃分，以獲得最佳并行效率；最后設(shè)計(jì)了適應(yīng)異構(gòu)體系結(jié)構(gòu)的多級(jí)映射隊(duì)列，保證計(jì)算效率的同時(shí)提升了計(jì)算系統(tǒng)可靠性。(2)異構(gòu)協(xié)同并行算法，首先，針對(duì)異構(gòu)計(jì)算結(jié)構(gòu)，設(shè)計(jì)了基于非合作博弈的自主協(xié)同并行算法；其次，提出了一種針對(duì)大規(guī)模線性系統(tǒng)的混合直接法和迭代法的求解算法；最后，針對(duì)矩陣乘，設(shè)計(jì)了基于矩陣分解的異構(gòu)并行算法。(3)新型人工智能高效異構(gòu)并行算法，針對(duì)大數(shù)據(jù)環(huán)境對(duì)數(shù)據(jù)移動(dòng)的需求，設(shè)計(jì)了基于數(shù)據(jù)關(guān)聯(lián)推斷的深度學(xué)習(xí)并行方法，能顯著減少數(shù)據(jù)移動(dòng)次數(shù)從而提升并行計(jì)算效率。3針對(duì)異構(gòu)協(xié)同并行計(jì)算理論，該項(xiàng)工作的3篇代表論文已經(jīng)發(fā)表在高性能計(jì)算國(guó)際頂級(jí)刊物TC、TPDS等，并受到了國(guó)內(nèi)外同行的較高關(guān)注和評(píng)價(jià)。中國(guó)科學(xué)院陳國(guó)良院士在并行與分布式計(jì)算領(lǐng)域權(quán)威期刊TPDS上發(fā)表的論文中認(rèn)為“我們提出了針對(duì)特定目標(biāo)的執(zhí)行時(shí)間預(yù)測(cè)模型”；華中科技大學(xué)IEEEFellow金海教授在國(guó)際著名綜述刊物ACMComputingSurveys的論文指出“我們的論文表明SpMV的壓縮格式隨數(shù)據(jù)特征的變化而變化，因?yàn)獒槍?duì)不同數(shù)據(jù)應(yīng)當(dāng)選擇最優(yōu)的壓縮格式”；ACMComputingSurveys副編輯HamidSarbazi-Azad教授在其發(fā)表在國(guó)際高性能計(jì)算權(quán)威期刊TheJournalofSupercomputing上的論文指出“更重要的是，我們的文章中提出了一個(gè)性能預(yù)測(cè)模型來預(yù)測(cè)SpMV的合適壓縮方式。我們提出的模型能夠分析矩陣中非零元素的分布”。南洋理工大學(xué)P.N.Suganthan教授（獲評(píng)“2015年世界最有影響力的科學(xué)家”）在其發(fā)表在AppliedSoftComputing中的論文指出“我們提出的進(jìn)化算法已經(jīng)驗(yàn)證了實(shí)際參數(shù)優(yōu)化標(biāo)準(zhǔn)問題并已成功用于實(shí)際應(yīng)用”。代表作及論文目錄1,KenliLi,WangdongYang,andKeqinLi.PerformanceanalysisandoptimizationforSpMVonGPUusingprobabilisticmodeling.IEEETransactionsonParallelandDistributedSystems,vol.26,no.1,pp.196-205,January20152,,WangdongYang,KenliLi,ZeyaoMo,andKeqinLi.PerformanceoptimizationusingpartitionedSpMVonGPUsandmulticoreCPUs.IEEETransactionsonComputers,vol.64,no.9,pp.2623-2636,September20153,YumingXu,KenliLi,JingtongHu,andKeqinLi.Ageneticalgorithmfortaskschedulingonheterogeneouscomputingsystemsusingmultiplepriorityqueues.InformationSciences,vol.270,pp.255-287,June20144,ChuboLiu,KenliLi,ChengzhongXu,andKeqinLi.Strategyconfigurationsofmultipleuserscompetitionforcloudservicereservation.IEEETransactionsonParallelandDistributedSystems,vol.27,no.2,pp.508-520,August20165,KenliLi,WangdongYang,KeqinLi.AHybridParallelSolvingAlgorithmonGPUforQuasi-TridiagonalSystemofLinearEquations[J].IEEETransactionsonParallelandDistributedSystems,2016,27(10):2795-28086,JianguoChen,KenliLi,ZhuoTang,KashifBilal,ShuiYu,

ChuliangWeng,

Keqin?Li.AParallelRandomForestAlgorithmforBigDatainaSparkCloudComputingEnvironment.IEEETransactionsonParallelandDistributedSystems,2017,28(4):919-9337,QingLiao,YeDing,ZoeL.Jiang,XuanWang,ChunkaiZhang,QianZhang,Multi-taskdeepconvolutionalneuralnetworkforcancerdiagnosis.Neurocomputing,2019,348:66-738,M.Duan,K.LiandK.Li,AnEnsembleCNN2ELMforAgeEstimation,IEEETransactionsonInformationForensicsandSecurity,vol.13,no.3,pp.758-772,March2018主要完成人情況摘自“主要完成人情況表”中的部分內(nèi)容，公示姓名、排名、行政職務(wù)、技術(shù)職稱、工作單位、主要完成單位、對(duì)本項(xiàng)目的貢獻(xiàn)。李肯立，1，院長(zhǎng)/主任，教授，湖南大學(xué)，湖南大學(xué)主要貢獻(xiàn)：項(xiàng)目負(fù)責(zé)人，負(fù)責(zé)異構(gòu)協(xié)同并行計(jì)算理論與算法關(guān)鍵難點(diǎn)的研究。劉楚波，2，無，副教授，湖南大學(xué)，湖南大學(xué)主要貢獻(xiàn)：負(fù)責(zé)異構(gòu)自主協(xié)同調(diào)度算法和架構(gòu)的研究。提出了基于非合作博弈的自主協(xié)同并行算法。廖清，3，無，副教授，哈爾濱工業(yè)大學(xué)（深圳），哈爾濱工業(yè)大學(xué)（深圳）主要貢獻(xiàn)：針對(duì)大數(shù)據(jù)環(huán)境對(duì)數(shù)據(jù)移動(dòng)的需求，設(shè)計(jì)了基于數(shù)據(jù)關(guān)聯(lián)推斷的高效深度學(xué)習(xí)并行算法。陽王東，4，無，教授，湖南大學(xué)，湖南大學(xué)主要貢獻(xiàn)：提出和實(shí)現(xiàn)了SpMV基于CPU/GPU異構(gòu)結(jié)構(gòu)劃分和并行算法。段明星，5，無，博士后，湖南大學(xué)，湖南大學(xué)主要貢獻(xiàn)：設(shè)計(jì)了計(jì)算和數(shù)據(jù)感知的極限學(xué)習(xí)機(jī)并行算法。李克勤，6，無，教授，StateUniversityofNewYork，湖南大學(xué)主要貢獻(xiàn)：建立了稀疏矩陣非零元素分布的概率模型。主要完成單位情況摘自“主要完成單位情況表”中的部分內(nèi)容，公示單位名稱、排名、對(duì)本項(xiàng)目的貢獻(xiàn)。湖南大學(xué)，1主要貢獻(xiàn)：(1)系統(tǒng)提出了異構(gòu)協(xié)同并行計(jì)算理論和方法，率先設(shè)計(jì)了基于非零元素分布預(yù)測(cè)的分布模型，從而減少了大量冗余數(shù)據(jù)計(jì)算；(2)設(shè)計(jì)了針對(duì)CPU/GPU異構(gòu)結(jié)構(gòu)的協(xié)同并行算法；(3)設(shè)計(jì)了面向人工智能應(yīng)用的并行優(yōu)化算法。哈爾濱工業(yè)大學(xué)（深圳），2主要貢獻(xiàn)：針對(duì)大數(shù)據(jù)環(huán)境對(duì)數(shù)據(jù)移動(dòng)的需求，設(shè)計(jì)了基于數(shù)據(jù)關(guān)聯(lián)推斷的深度學(xué)習(xí)并行計(jì)算算法。針對(duì)人工智能高效應(yīng)用，提出了并行優(yōu)化方案并推廣了其更深度應(yīng)用。主要完成人合作關(guān)系說明湖南大學(xué)李肯立教授，主持該項(xiàng)目的總體設(shè)計(jì)，對(duì)三個(gè)科學(xué)發(fā)現(xiàn)的基礎(chǔ)理論和關(guān)鍵算法難點(diǎn)進(jìn)行突破，并協(xié)調(diào)落實(shí)其在人工智能高效應(yīng)用方面的實(shí)現(xiàn)和產(chǎn)業(yè)化工作。作為湖南大學(xué)超級(jí)計(jì)算與云計(jì)算研究所的骨干成員，自2008年開始，李肯立、劉楚波、陽王東及其團(tuán)隊(duì)成員始終圍繞異構(gòu)并行協(xié)同計(jì)算、高性能計(jì)算等本項(xiàng)目核心內(nèi)容進(jìn)行研究攻關(guān)。自2013年開始，李肯立教授帶領(lǐng)湖南大學(xué)超級(jí)計(jì)算與云計(jì)算研究所、哈爾濱工業(yè)大學(xué)（深圳）分布式系統(tǒng)研發(fā)團(tuán)隊(duì)開始針對(duì)本項(xiàng)目中關(guān)鍵技技術(shù)的推廣應(yīng)用進(jìn)行緊密合作。針對(duì)異構(gòu)并行計(jì)算理論研究。與陽王東、李克勤合作設(shè)計(jì)了基于稀疏矩陣的快速和異構(gòu)并行算法，并完成了論文“PerformanceoptimizationusingpartitionedSpMVonGPUsandmulticoreCPUs.IEEETransactionsonComputers,vol.64,no.9,pp.2623-2636,September2015”；與陽王東、李克勤合作研設(shè)計(jì)了SpMV的分布模型，并完成了論文“PerformanceanalysisandoptimizationforSpMVonGPUusingprobabilisticmodeling.IEEETransactionsonParallelandDistributedSystems,215,26(1):196-205”；針對(duì)異構(gòu)協(xié)同算法研究，與劉楚波合作完成了論文“Strategyconfigurationsofmultipleuserscompetitionforcloudservicereservation,IEEETransactionsonParallelandDistributedSystems,27(2):508-520”；與陽王東合作完成了論文“AHybridParallelSolvingAlgorithmonGPUforQuasi-TridiagonalSystemofLinearEquations[J].IEEETransactionsonParallela