北京金融科技產(chǎn)業(yè)聯(lián)盟-人工智能行業(yè)：金融機(jī)構(gòu)AI芯片應(yīng)用情況專題報(bào)告

編委會(huì)成員：潘潤(rùn)紅編寫組成員：聶麗琴胡達(dá)川王碩紀(jì)鐘羅方華徐斌劉玉海崔雨萍伊純方科徐梓丞王靜逸張彬李銀鳳胡捷鄧玉潔徐小芳王景俊 1 4 5 1習(xí)近平總書記在中共中央政治局第九次集體學(xué)習(xí)上的講話加快發(fā)展新一代人工智能是事關(guān)我國(guó)能否抓住新一輪科技革命信息分散，沒有充分發(fā)揮數(shù)據(jù)價(jià)值。光學(xué)字符識(shí)別（Optical文件信息進(jìn)行了識(shí)別處理，實(shí)現(xiàn)自動(dòng)化分類整理、內(nèi)容級(jí)2;效率低下、信息安全等現(xiàn)實(shí)問題，有助于滿足金融機(jī)構(gòu)對(duì)于AI4可以承擔(dān)相應(yīng)的工作任務(wù)？CPU作為中央處理器，最擅長(zhǎng)的是表格1不同AI芯片技術(shù)路線對(duì)比平臺(tái)性能資源效率靈活性軟件生態(tài)CPU單核性能強(qiáng)，但核心數(shù)較少CPU硬件加速效率最低程靈活廣泛應(yīng)用，軟件生態(tài)龐大且成熟GPGPU并行計(jì)算性能相較CPU大幅提升，比DSA/ASIC有較大差距高效集成數(shù)千至上萬(wàn)個(gè)高效率小核，以及數(shù)百個(gè)AI加速核，資源效率很高本質(zhì)是眾核并行，具有很高的靈活1.由于GPGPU有極強(qiáng)通用性，主流的和新出的AI算子和框架都基于GPGPU實(shí)現(xiàn)，AI生態(tài)較健全2.硬件產(chǎn)品升級(jí)后，計(jì)算框架生態(tài)可持續(xù)維護(hù)ASIC針對(duì)特定場(chǎng)景定論上有極致的性能。受限于設(shè)計(jì)復(fù)雜度，難以超大規(guī)模設(shè)計(jì)理論上最高的資源效率，但不可避免存在功能超集1.功能邏輯完全式調(diào)整功能2.不支持AI算子編寫不同領(lǐng)域及不同廠家的ASIC實(shí)現(xiàn)都存在巨大差別，且都需要特定驅(qū)動(dòng)程序，軟件生態(tài)不完善FPGA針對(duì)特定場(chǎng)景定制，無(wú)冗余設(shè)計(jì)AIAI算法硬件定制，資源利用效率取決于算法設(shè)靈活性較ASIC和DSA高，但是AI算法設(shè)計(jì)難度大，需要針對(duì)具體AI算法或應(yīng)用進(jìn)行定制化設(shè)計(jì)和開發(fā)，軟件生態(tài)不完善5算法和應(yīng)用，計(jì)算性能高計(jì)水平和實(shí)際需求需要大規(guī)模開發(fā)DSANPU、DSP接近ASIC的性能，由于一定程度的軟硬件解耦，能夠?qū)崿F(xiàn)較大規(guī)模設(shè)計(jì)1.在AI算子與DSA指令集高度DSA資源效率很ASIC2.在AI算子與DSA指令集不適配時(shí)，算子性能表現(xiàn)很差，甚至無(wú)法適配要強(qiáng)大的編譯器，把算法映射到特定DSA架構(gòu)；相比ASIC，具有一定的可編程性研框架2.對(duì)主流計(jì)算框架不支持或支持度十分有限3.AI算法及框架層出不窮且持或無(wú)法支持，無(wú)法構(gòu)建持續(xù)的AI軟件生態(tài)編程通用性，基于該架構(gòu)的CUDA（ComputeUnifiedDevice6通信，其存在的目的是為了對(duì)程序某些模塊或者函數(shù)進(jìn)行加速。圖1GPGPU整體架構(gòu)處理單元，因此其吞吐量非常高，如果任務(wù)有足夠的并行性，7考慮數(shù)據(jù)排布和讀取方式等優(yōu)化方法來(lái)提升緩存命中率。8線程可以通過(guò)計(jì)算單元上的共享內(nèi)存交換數(shù)據(jù)或者把一些常用圖2常見異構(gòu)計(jì)算節(jié)點(diǎn)內(nèi)部互聯(lián)結(jié)構(gòu)9GPGPU之間的互聯(lián)GPGPU之間通過(guò)PCI-E互連并完成數(shù)據(jù)傳輸，在高級(jí)模塊化的軟件開發(fā)環(huán)境，可以提供多種開發(fā)工具和運(yùn)行時(shí)圖3GPU生態(tài)系統(tǒng)架構(gòu)OpenCL是為異構(gòu)平臺(tái)編程設(shè)計(jì)的框架，此異構(gòu)平臺(tái)可由CPU、GPU、FPGA或其他類型的處理器與硬件加速器組成。個(gè)供應(yīng)商平臺(tái)編寫的OpenCL應(yīng)用程序正常情況下可以在其他SYCL作為基于C++的單源特定于域的嵌入式語(yǔ)言，是（如高性能計(jì)算、機(jī)器學(xué)習(xí)、內(nèi)嵌計(jì)算等簡(jiǎn)單來(lái)說(shuō)構(gòu)計(jì)算代碼的可移植性和編程效率。SYCL在在計(jì)算上已經(jīng)超越了通用的性，在風(fēng)險(xiǎn)評(píng)估和交易決策等場(chǎng)景中有重要意義。此外，使用金融機(jī)構(gòu)正在越來(lái)越多地使用人工智能和機(jī)器學(xué)習(xí)技術(shù)來(lái)GPU的過(guò)程。這種技術(shù)可以使多個(gè)用戶同時(shí)使用同一個(gè)物理進(jìn)行抽象，軟件化后形成一個(gè)統(tǒng)一的資源池，方便用戶按需對(duì)隱私計(jì)算可以幫助金融機(jī)構(gòu)在保護(hù)客戶隱私的同時(shí)滿足合傳輸安全與運(yùn)行時(shí)安全想結(jié)合，打造基于國(guó)密的金融業(yè)務(wù)中需要處理大量的交易數(shù)據(jù)和財(cái)務(wù)報(bào)表等文本信GPGPU在金融行業(yè)的自然語(yǔ)言處理（NaturalLanguageProcessing,NLP）方面應(yīng)用可以加速算法的運(yùn)行，從而更快地提更好的投資決策。（Automatic化客戶服務(wù)場(chǎng)景，LLM模型支持風(fēng)格和音色控制，神經(jīng)網(wǎng)絡(luò)處理單元（Neural-networkProcessUnits,NPU）采NPU是專門用于硬件加速人工智能應(yīng)用的微處理器或計(jì)算圖4神經(jīng)網(wǎng)絡(luò)模式圖TNN2參考來(lái)源：主流手機(jī)NPU軟件棧調(diào)研（2021Q2/p/38031/developer/article/1819147?areaSource=102001.13&traceId=HDLu9TPBTtI6eFfa45參考來(lái)源1：PaddlePaddle/Paddle-Lite:PaddlePaddleHighPerfo），6參考來(lái)源2：Paddle-Lite文檔，https://pNPU擁有對(duì)矩陣和卷積運(yùn)算的高效性，主要得益于其架構(gòu)NPU能夠快速地處理大量的傳感器數(shù)據(jù)，在自動(dòng)駕駛系統(tǒng)人臉識(shí)別是一個(gè)需要高效計(jì)算的應(yīng)用場(chǎng)景，NPU可以為人開發(fā)將更加注重多樣性，以支持更廣泛的應(yīng)用場(chǎng)景和算國(guó)際上主流的并行計(jì)算平臺(tái)和編程模型以英偉達(dá)公司的platform）為主。其中英偉達(dá)公司的用戶數(shù)量具有較大優(yōu)勢(shì)。表格2開發(fā)平臺(tái)對(duì)比列NCCL算因此可能會(huì)出現(xiàn)某些廠商的硬件資源不夠而另外一些廠商的硬可根據(jù)業(yè)務(wù)需求及算力負(fù)載情況提供算力資源彈性擴(kuò)縮容的能 圖圖6芯片產(chǎn)業(yè)鏈術(shù)”的大型企業(yè)的資本支出稅收優(yōu)惠從目前的最高3％提高到;;時(shí)API則是對(duì)驅(qū)動(dòng)API的封裝。程序設(shè)計(jì)過(guò)程中既可以調(diào)用開發(fā)庫(kù)是基于CUDA技術(shù)所提供的應(yīng)用開發(fā)庫(kù)。其中，CUDA包含了兩個(gè)重要的標(biāo)準(zhǔn)數(shù)學(xué)運(yùn)算庫(kù)——CUDA快語(yǔ)言或接口，指令最終都會(huì)被驅(qū)動(dòng)程序轉(zhuǎn)換成并行線程執(zhí)行AMD的開發(fā)平臺(tái)Radeon開放計(jì)算平臺(tái)（RadeonOpenComputingplatform,ROCm）是基于開表格3我國(guó)人工智能芯片重點(diǎn)政策匯總7將“集成電路及專用設(shè)備將“集成電路及專用設(shè)備”作為新一代信息技術(shù)產(chǎn)業(yè)的重點(diǎn)突破口列在需要大力推動(dòng)的重點(diǎn)領(lǐng)域之首。提出著力提升集成電路設(shè)計(jì)水平,不斷豐富知識(shí)產(chǎn)權(quán)(IP)核和設(shè)計(jì)工具,突破關(guān)系國(guó)家信息與網(wǎng)絡(luò)安全及電子整機(jī)產(chǎn)業(yè)發(fā)展的核心通用芯片,提對(duì)人工智能芯片發(fā)展方案提出多項(xiàng)要求,并促進(jìn)智面向2030年體現(xiàn)國(guó)家戰(zhàn)略意圖的重大科技項(xiàng)目中，類腦計(jì)算的開發(fā)是重點(diǎn)之一;新一代信息技術(shù)《國(guó)家信息化發(fā)展戰(zhàn)制定國(guó)家信息領(lǐng)域核心技術(shù)設(shè)備發(fā)展戰(zhàn)略綱要,以體系化思維彌補(bǔ)單點(diǎn)弱勢(shì),打造國(guó)際先進(jìn)、安全可《產(chǎn)業(yè)技術(shù)創(chuàng)新能力發(fā)展規(guī)劃2016-2020著力提升集成電路設(shè)計(jì)水平,發(fā)展高端芯片,不斷豐富知識(shí)產(chǎn)權(quán)IP核和設(shè)計(jì)工具,推動(dòng)先進(jìn)制造和特色制造工藝發(fā)展,提升封裝測(cè)試產(chǎn)業(yè)的發(fā)展水平，形成關(guān)鍵制造裝備和關(guān)鍵材料供貨能力,加緊略性新興產(chǎn)業(yè)發(fā)展規(guī)平,發(fā)展面向新應(yīng)用的芯片。加強(qiáng)類腦芯片、超導(dǎo)組件研發(fā),推進(jìn)后摩爾定律時(shí)代微電子技術(shù)開發(fā)與《新一代人工智能發(fā)平同步,人工智能產(chǎn)業(yè)成為新的重要經(jīng)濟(jì)增長(zhǎng)點(diǎn),《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)從推動(dòng)產(chǎn)業(yè)發(fā)展角度出發(fā),結(jié)合“中國(guó)制造2025”,對(duì)《新一代人工智能發(fā)展規(guī)劃》相關(guān)任務(wù)進(jìn)行細(xì)化和落實(shí),以信息技術(shù)與制造技術(shù)深度融合為主線,以新一代人工智能技術(shù)的產(chǎn)業(yè)化和集成應(yīng)《大數(shù)據(jù)產(chǎn)業(yè)發(fā)展規(guī)《人工智能標(biāo)準(zhǔn)化白宣布成立國(guó)家人工智能標(biāo)準(zhǔn)化總體組、專家咨詢組,負(fù)責(zé)全面統(tǒng)籌規(guī)劃和協(xié)調(diào)管理我國(guó)人工智能標(biāo)《擴(kuò)大和升級(jí)信息消動(dòng)電子產(chǎn)品智能化升級(jí),提升手機(jī)、計(jì)算機(jī)、彩色《關(guān)于集成電路生產(chǎn)企業(yè)有關(guān)企業(yè)所得稅對(duì)滿足要求的集成電路生產(chǎn)企業(yè)實(shí)行稅收優(yōu)惠減免政策,符合條件的集成電路生產(chǎn)企業(yè)可享受前五年免征企業(yè)所得稅,第六年至第十年按照25%的法定稅率減半征收企業(yè)所得稅,并享受至期滿為止的《關(guān)于集成電路設(shè)計(jì)和軟件產(chǎn)業(yè)企業(yè)所得依法成立且符合條件的集成電路設(shè)計(jì)企業(yè)和軟件優(yōu)惠期,第一年至第二年免征企業(yè)所得稅,第三年至第五年按照25%的法定稅率減半征收企業(yè)所得《工業(yè)和信息化部關(guān)于加快培育共享制造新模式新業(yè)態(tài)促進(jìn)制造業(yè)高質(zhì)量發(fā)展的指大容量、低延時(shí)網(wǎng)絡(luò)覆蓋范圍,鼓勵(lì)制造企業(yè)通過(guò)內(nèi)網(wǎng)改造升級(jí)實(shí)現(xiàn)人、機(jī)、物互聯(lián),為共享制造提中共中央政治局常務(wù)應(yīng)用的解耦。其異構(gòu)軟件開發(fā)平臺(tái)DTK（DCUToAI框架的主要目的是把程序員從繁瑣細(xì)致的具體編程工作科學(xué)行業(yè)應(yīng)用開發(fā)。目前已推出面向電子信息行業(yè)的MindElecAI芯片行業(yè)發(fā)展政策、市場(chǎng)供需、競(jìng)爭(zhēng)格/pid_277705567.s技在技術(shù)方面積極創(chuàng)新，OrionX現(xiàn)在已經(jīng)能兼容除英偉達(dá)以外單機(jī)多卡、多機(jī)多卡在內(nèi)的多種部署模式。MTTS3000兼容工具鏈的全棧式解決方案，涵蓋元宇宙的多個(gè)核心要素。MUSA(MooreThreadsUnif并行計(jì)算引擎。MUSA帶有一個(gè)軟件環(huán)境，開發(fā)人員可以使用完整的MUSA開發(fā)環(huán)境提供co用按照技術(shù)復(fù)雜度和應(yīng)用成熟度等可分為傳統(tǒng)場(chǎng)景和創(chuàng)新客戶提出的業(yè)務(wù)咨詢，并能根據(jù)客戶語(yǔ)音導(dǎo)航至指定業(yè)務(wù)款對(duì)象進(jìn)行風(fēng)險(xiǎn)排查。個(gè)人客戶需要提供銀行流水，經(jīng)過(guò)OCR屏助手、手機(jī)銀行營(yíng)銷助手、自助終端虛擬形象等檔分析與識(shí)別國(guó)際會(huì)議（InternationalConferenceonDocument