智能計算中心規(guī)劃建設(shè)指南(PPT

1、國家信息中心信息化和產(chǎn)業(yè)發(fā)展部二零二零年十二月概念界定智能計算中心（簡稱智算中心）是基于最新人工智能理論，采用領(lǐng)先的人工智能計算架構(gòu)，提供 人工智能應(yīng)用所需算力服務(wù)、數(shù)據(jù)服務(wù)和算法服務(wù)的公共算力新型基礎(chǔ)設(shè)施，通過算力的生產(chǎn)、 聚合、調(diào)度和釋放，高效支撐數(shù)據(jù)開放共享、智能生態(tài)建設(shè)、產(chǎn)業(yè)創(chuàng)新聚集，有力促進AI產(chǎn)業(yè)化、 產(chǎn)業(yè)AI化及政府治理智能化核心技術(shù)AI化基于深度學(xué)習(xí)、強化學(xué)習(xí)等創(chuàng)新AI技術(shù)重點圍繞生產(chǎn)算力、聚合算力、調(diào)度算力、釋放算力四大關(guān)鍵環(huán)節(jié)提升AI算力智能計算中心輸出產(chǎn)品AI化面向政府、企業(yè)等輸出包括AI數(shù)據(jù)庫、AI模型、AI開放平臺等在內(nèi)的多種AI產(chǎn)品基于AI產(chǎn)品矩陣可以通過打包或定制

2、化服務(wù)等方式助力AI產(chǎn)業(yè)化、產(chǎn)業(yè)AI化和政府治理智能化服務(wù)應(yīng)用AI化基于先進的AI算力基礎(chǔ)平臺、AI算力調(diào)度平臺和AI算法模型，打造人工智能開放服務(wù)平臺匯聚并賦能行業(yè)AI應(yīng)用，助力行業(yè)智慧應(yīng)用高效化開發(fā)，加速行業(yè)和產(chǎn)業(yè)AI化最新人工智能理論深度學(xué)習(xí) 自監(jiān)督學(xué)習(xí) 強化學(xué)習(xí)自動機器學(xué)習(xí) 跨媒體多模態(tài)領(lǐng)先人工智能計算架構(gòu)AI芯片 AI服務(wù)器 高速互聯(lián)深度學(xué)習(xí)框架 資源調(diào)度算力生產(chǎn)供應(yīng)平臺智能生態(tài)建設(shè)平臺產(chǎn)業(yè)創(chuàng)新聚集平臺數(shù)據(jù)服務(wù)算法服務(wù)平臺服務(wù)智 算 中 心 作 業(yè) 環(huán) 節(jié)數(shù)據(jù)開放共享平臺算力服務(wù)釋 放 算 力聚 合 算 力生 產(chǎn) 算 力調(diào) 度 算 力AI產(chǎn)業(yè)化產(chǎn)業(yè)AI化政府治理智能化識別檢測 語音交

3、互 AI芯片 自動駕駛 機器人智能制造 醫(yī)療影像 無人商店 智能客服 智慧物流 智慧農(nóng)林智慧交通 應(yīng)急管理 防洪減災(zāi) 環(huán)境保護 地理測繪算力輸出算力機組算力生態(tài)強 大 高 效 易 用AI訓(xùn)練算力AI推理算力算力芯片CPUASICGPUFPGA先進 多樣成熟豐富軟件生態(tài)Benchmark算力集群軟件定義存儲智能存儲高IOPS隨需擴展智能管理AI計算集群彈性 可伸縮擴展高帶寬 低延遲算力聚合網(wǎng)絡(luò)卸載網(wǎng)絡(luò)虛擬化RDMA軟件定義網(wǎng)絡(luò)智能網(wǎng)絡(luò)AI工具AI服務(wù)AI算法CNN RNN GNN GAN機器 學(xué)習(xí)深度 學(xué)習(xí)強化 學(xué)習(xí)自監(jiān)督 學(xué)習(xí)模型文件開發(fā)接口在線服務(wù)自動機器學(xué)習(xí)平臺數(shù)據(jù)高效模型 處理庫 訓(xùn)練框

4、架高吞吐 推理引擎高效模型 優(yōu)化方法算力資源算力池化算力調(diào)度算力服務(wù)算力標準化虛擬化容器化細粒度切分計算內(nèi)存算力服務(wù)管理開發(fā)訓(xùn)練服務(wù)數(shù)據(jù)處理服務(wù)模型推理服務(wù)調(diào)度策略共享超分配額策略負載均衡圖像視頻語音自然語言 處理AI場景CPUGPUFPGAASICAI訓(xùn)練服務(wù)器AI推理服務(wù)器一、加速AI產(chǎn)業(yè)化創(chuàng)新發(fā)展高性能識別檢測平臺往往需要支持處理10萬+的物體識別能力，具備分鐘級別的模型生成響應(yīng)速度，具備模型持續(xù)優(yōu)化升級的能力，需要支持諸如深度分離卷積、殘差密集網(wǎng)絡(luò)（RDN）和隱式三維朝向?qū)W習(xí)等最新機器學(xué)習(xí)算法，同時支持各類算法的靈活配置以滿足不 同實際應(yīng)用場景的需求語音交互算法的訓(xùn)練語料數(shù)據(jù)量將很快突

5、破百萬小時，訓(xùn)練數(shù)據(jù)包含大量不同用戶的口 音數(shù)據(jù)、多領(lǐng)域歧義語料數(shù)據(jù)和具備復(fù)雜語法規(guī)則的數(shù)據(jù)。隨著大規(guī)模語料樣本數(shù)據(jù)的不斷積 累，需要更好利用智算中心具備的大數(shù)據(jù)挖掘技術(shù)、深度學(xué)習(xí)算法，構(gòu)建更加高級的語音模型， 為客戶提供流式計算、在線計算、大規(guī)模離線計算等多種形式的服務(wù)在為各類用戶主體提供多元化AI算力服務(wù)的同時， AI芯片產(chǎn)業(yè)的快速發(fā)展必將帶動智能計算中心的建設(shè)部 署自動駕駛行業(yè)具備典型的海量數(shù)據(jù)、高并發(fā)、實 時處理等計算屬性，呈現(xiàn)出高度多元主體協(xié)同、智能識 別和感知、系統(tǒng)模擬仿真計算、決策分析和預(yù)測預(yù)警等 特性。該產(chǎn)業(yè)的高度集成化需要智能計算中提供先進的 AI技術(shù)支撐，快速推動新產(chǎn)品的研

6、發(fā)、測試和應(yīng)用機器人產(chǎn)業(yè)的發(fā)展迫切需要智能計算中心平臺提 供全鏈條AI技術(shù)支持，包括AI芯片、視覺識別、語音識 別、機械臂和導(dǎo)航技術(shù)等，根據(jù)不同場景的不同訴求， 提供“硬件+軟件+服務(wù)”的全流程快速定制化專用機器人 產(chǎn)品，大幅縮短產(chǎn)業(yè)鏈流程。自動駕駛 AI 芯片 機器人 語音交互 識別檢測 二、驅(qū)動產(chǎn)業(yè)AI化轉(zhuǎn)型升級傳統(tǒng)的視覺檢測系統(tǒng)難以應(yīng)對越來越復(fù)雜的檢測 場景以及更高的產(chǎn)品質(zhì)量檢測需求，工業(yè)質(zhì)檢車間的自 動化和智能化越來越成為行業(yè)大勢，這也為AI賦能工業(yè) 質(zhì)檢提供了落地的土壤無人商店的應(yīng)用落地需要實現(xiàn)精準識別客戶身份、 商品標簽、智能計算、支付等全流程智能購物，同時需 要基于大量的銷售數(shù)據(jù)

7、、行為軌跡、消費習(xí)慣等大數(shù)據(jù) 挖掘與深度學(xué)習(xí)分析。智算中心強大的算力支持和人工 智能技術(shù)應(yīng)用是無人商店未來持續(xù)拓展的必要基礎(chǔ)支撐醫(yī)療影像智能診斷應(yīng)用需要基于大量的數(shù)據(jù)進行 知識挖掘和深度學(xué)習(xí)訓(xùn)練，獲取具有實際醫(yī)療應(yīng)用價值 的模型，這對數(shù)據(jù)的存儲與計算都提出了相當高的硬件 需求，因此，需要智算中心提供強大的算力支持和一體 化開發(fā)環(huán)境智能客服實際上是集合人工智能學(xué)、計算機科學(xué)、 語言學(xué)等多門學(xué)科的綜合應(yīng)用，需要讓機器主動去認知 和學(xué)習(xí)，不斷強化行為模式，提高思考能力，從而更加 靈活地完成各項工作任務(wù)。智算中心能夠為NLP（自然 語言處理）、NLU（自然語言理解）、ASR（自動語音 識別技術(shù)）、TT

8、S（語音合成技術(shù)）等核心技術(shù)提供算 力支持智慧物流產(chǎn)業(yè)的發(fā)展需要應(yīng)用先進的AI算法、軟 硬一體的機器人產(chǎn)品與操控系統(tǒng)和整倉集成的完整生態(tài)。 通過AI技術(shù)從圖像和視頻數(shù)據(jù)里獲得高層次、可理解的 信息，智能區(qū)分人和物，并能在50%變化率動態(tài)場景里 穩(wěn)健安全運行農(nóng)業(yè)數(shù)據(jù)整體呈現(xiàn)規(guī)模龐大、類型多樣、實時數(shù) 據(jù)更新頻繁等特征，涉及農(nóng)林漁牧副各產(chǎn)業(yè)的多種數(shù)據(jù)。 針對農(nóng)林漁牧副產(chǎn)業(yè)的不同特點，個性化定制智能解決 方案變得尤為重要。需要有配套的智算中心作為支撐， 實現(xiàn)農(nóng)林感知數(shù)據(jù)的大規(guī)模存儲，借助強大的算力支持 農(nóng)林數(shù)據(jù)的高效計算、訓(xùn)練和推演，最終實現(xiàn)快速和智 能化的農(nóng)林生產(chǎn)決策智能制造 醫(yī)療影像 智慧物流

9、智慧農(nóng)林 無人商店 智能客服 建設(shè)原則總體規(guī)劃 政企協(xié)同加強區(qū)域智能計算中心的 統(tǒng)籌規(guī)劃，探索開放共贏 的新型建設(shè)運營模式需求牽引 先進適用聚焦人工智能領(lǐng)先技術(shù)，開展典型示范 和場景應(yīng)用夯實基礎(chǔ) 培育生態(tài)發(fā)揮對數(shù)字經(jīng)濟產(chǎn)業(yè)、 傳統(tǒng)產(chǎn)業(yè)數(shù)字化的疊加 效應(yīng)、乘數(shù)效應(yīng)保障安全 創(chuàng)新發(fā)展保障網(wǎng)絡(luò)安全和數(shù)據(jù)安 全，創(chuàng)造新供給，激發(fā) 新需求，培育新動能以全面提升AI計算力為核心以促進數(shù)據(jù) 開放共享為基礎(chǔ)以培育區(qū)域智能生態(tài)圈為根本著力推動AI產(chǎn)業(yè)創(chuàng)新聚集據(jù) OpenAI 統(tǒng)計，自2012 年以來隨著深度學(xué)習(xí)模型的演進，模型計算所需計算量已經(jīng)增長30萬倍，AI模型構(gòu)建所需算力呈現(xiàn)出階躍式增長特點IDC在202

10、0H1中國加速計算市場調(diào)查報告指出，預(yù)計到2024年AI加速計算市場規(guī)模將達到2019年的2.6倍智 算 中 心免費或低成本提供很多開源的人工智能算法及其代碼以強大算力驅(qū)動AI模型對數(shù)據(jù)進行深度加工，源源不斷產(chǎn)生各種智慧計算服務(wù)通過平臺開放接口的方式將行業(yè)領(lǐng)軍企業(yè)的算法能力、數(shù)據(jù)資源及運營服務(wù)等輸出給IT基礎(chǔ)薄弱的企業(yè)算法創(chuàng)新、數(shù)據(jù)和可以用于訓(xùn)練的算力被認為是推動人工智能發(fā)展的三個關(guān)鍵要素未來隨著智算中心大規(guī)模投入使用，以AI算力、數(shù)據(jù)為基礎(chǔ)、以AI模型生成和多場景應(yīng)用的AI技術(shù)生 態(tài)鏈將逐漸形成智 算 中 心實現(xiàn)從模型開發(fā)、訓(xùn)練、部署、測試、發(fā)布的“流水式生產(chǎn)”與一站式交付，加速算力產(chǎn) 業(yè)鏈

11、的形成加快AI算法公司和行業(yè)用戶快速對接，帶動一批新興的專業(yè)化大數(shù)據(jù)企業(yè)崛起，驅(qū)動一 批創(chuàng)新型企業(yè)加速成長帶動新能源、新材料等高新技術(shù)產(chǎn)業(yè)發(fā)展，進而構(gòu)建起以AI算力為核心的人工智能產(chǎn)業(yè) 新生態(tài)體系智算中心是智慧時代經(jīng)濟社會運行所必須的關(guān)鍵公共算力新型基礎(chǔ)設(shè)施數(shù)據(jù)中心是產(chǎn)業(yè)轉(zhuǎn)型升級、新舊動能轉(zhuǎn)化的必要支撐，但現(xiàn)有數(shù)據(jù)中心算力服務(wù)能力已經(jīng)難以有效滿足實踐需求智 算 中 心憑借其強大的AI算力能夠為不同用戶提供算法產(chǎn)品與服務(wù)，解決用戶面臨的業(yè)務(wù)痛點，實現(xiàn)用AI為傳統(tǒng)行業(yè)用戶賦能使得智慧計算像水電一樣成為城市的基本公共服務(wù)，進而幫助城市中小企業(yè)、創(chuàng)新型企 業(yè)和傳統(tǒng)企業(yè)降低企業(yè)AI技術(shù)研發(fā)、應(yīng)用和部署成

12、本，增強企業(yè)創(chuàng)新和轉(zhuǎn)型發(fā)展能力智算中心作為“新基建”數(shù)字基礎(chǔ)設(shè)施的主力軍，其所承載的AI算力將是驅(qū)動政府治理智能化發(fā)展的核 心動力豐富的應(yīng)用場景為智算中心提供了大量AI訓(xùn)練數(shù)據(jù)，海量訓(xùn)練數(shù)據(jù)對于數(shù)據(jù)中心算力提出更高要求智 算 中 心政府作為現(xiàn)代政府治理主體，能夠在智算中心強大算力支撐下開展精細化、智能化政府治 理，智算中心將在智慧交通、應(yīng)急管理、防洪減災(zāi)、環(huán)境保護、地理測繪等場景中有著極 大應(yīng)用空間智算中心作為未來AI算力生產(chǎn)供應(yīng)中心，其算力能夠充分滿足未來政府治理和公共服務(wù)數(shù) 據(jù)訓(xùn)練要求人工智能計算需求未來將占據(jù)80%以上的計算需求，智能計算成為未來經(jīng)濟的主要增長點之一到2035年，人工智能

13、將幫助各國顯著扭轉(zhuǎn)經(jīng)濟增速近年來的下滑趨勢智能計算產(chǎn)業(yè)作為數(shù)字經(jīng)濟的重要載體，將作為一支新興力量，帶動全球數(shù)字經(jīng)濟走向繁榮智 算 中 心埃森哲研究，通過有效應(yīng)用智能計算，中國經(jīng)濟增長率有望上升至7.9，增長額高達7.1萬億美元。麥肯錫的預(yù)測，人工智能將每年為中國經(jīng)濟增長貢獻0.8至1.4個百分點模式名稱優(yōu)勢劣勢適用范圍政府投資 建設(shè)模式建設(shè)運維過程更加安全可控 政府對項目決策和執(zhí)行效率高財政負擔(dān)全部投資，壓力大 資金使用效率可能不高涉及國家安全或重大公共利益的項目（如政務(wù)領(lǐng)域、基礎(chǔ)數(shù)據(jù)庫、信息安全平臺設(shè)施建設(shè)等項目）企業(yè)建設(shè) 運營模式財政資金壓力較小大企業(yè)平臺化和整體性優(yōu)勢，有利 于加快區(qū)域間

14、協(xié)同發(fā)展。政府控制力較弱存在大企業(yè)綁架風(fēng)險不涉及國家安全，具有公共服務(wù)特征和一定公益 性和盈利空間的項目（如通信網(wǎng)絡(luò)、社區(qū)、文旅等項目）政府購買 服務(wù)模式財政短期資金壓力較小資金使用效率高，政府策略靈活有效服務(wù)市場供給不足不利于長期穩(wěn)定協(xié)作基礎(chǔ)性、公共性、公益性的共性產(chǎn)品和服務(wù)項目（如云計算服務(wù)、通用軟件、城市管理等項目）政府和社會資本合作模式同時發(fā)揮政府和市場的優(yōu)勢，既安 全有序，又有市場化效率提升項目建設(shè)運營專業(yè)化程度 減小財政資金壓力和投資風(fēng)險機制設(shè)計復(fù)雜，存在制度性風(fēng)險 融資成本較高。屬于公共服務(wù)領(lǐng)域，市場化參與程度較高、國家 安全和公共利益方面潛在風(fēng)險較低、需求長期穩(wěn) 定、使用者付費

15、比例高于10%（原則上屬于能源、交通運輸、市政公用、農(nóng)業(yè)、 林業(yè)、水務(wù)、環(huán)境保護、保障性安居工程、教育、 科技、文化、體育、醫(yī)療衛(wèi)生、養(yǎng)老、旅游等行 業(yè)領(lǐng)域的項目）采用政企合作建設(shè)運營的框架，高效整合政企資源。注重激發(fā)市場創(chuàng)新活力、提高建設(shè)運營效率。發(fā)揮智算中心作為創(chuàng)新載體的公益屬性，促進成果轉(zhuǎn)化應(yīng)用，帶動新興產(chǎn)業(yè)發(fā)展與產(chǎn)業(yè)鏈上下游高效協(xié)同。開放 算法 公益 融合 孵化 創(chuàng)新 投資主體政府主導(dǎo)模式，政府作為投資主體加快推進智能計算中心落地智能計算中心的公共屬性智能計算中心的自主性承建方主體政府主導(dǎo)下的政企合作模式，由企業(yè)具體承建智能計算中心行業(yè)頭部企業(yè)/國有資本控股企業(yè)運營主體運營主體類型應(yīng)更

16、加多元，運營模式也更加靈活。更宜采取“投-建-運”一體化模式可委托外包給政府出資控股或國有資本控股的專業(yè)運營公司基于特殊項目公司（SPV）的建設(shè)運營模式政府與企業(yè)共同出資成立智能計算中心建設(shè)運營項目公司，政府與企業(yè)在合作框架協(xié)議下按比例出資建設(shè) 智能計算中心，政府應(yīng)對項目公司具有控股權(quán)。基于政府獨立投資的建設(shè)模式政府直接投資和管理，需要對項目的建設(shè)周期、存在風(fēng)險、成本收益等有很高的把控能力。優(yōu)勢在于政府直 接主導(dǎo)智能計算中心建設(shè)，可以起到示范效應(yīng)，建設(shè)完成后智能計算中心所有權(quán)歸政府所有?；凇皣?地方-企業(yè)”共建的建設(shè)運營模式地方政府會同相關(guān)企業(yè)共同申請與智能計算中心相關(guān)的國家級試點示范項目

17、工程，以項目工程為載體，集國 家、地方和企業(yè)三方力量，由國家和地方按比例出資建設(shè)智能計算中心。需求導(dǎo)向，明確建設(shè)思路一、需明確建設(shè)需求二、根據(jù)需求制定設(shè)計方案、確定承建方與建設(shè)模式具備一定人口規(guī)模和經(jīng)濟實力的中等以上城市重點發(fā)展人工智能產(chǎn)業(yè)的城市改建結(jié)合，優(yōu)化建設(shè)方式一、建設(shè)專用智算中心對于產(chǎn)業(yè)智能化發(fā)展需求迫切、傳統(tǒng)數(shù)據(jù)中心規(guī)模較小的地區(qū)二、數(shù)據(jù)中心智能化改造硬件方面：采用CPU+GPU芯片的方案軟件方面：建立面向人工智能應(yīng)用的通用算法和模型平臺先進適用，統(tǒng)一建設(shè)標準一、面向智算中心長期應(yīng)用堅持實用、經(jīng)濟的建設(shè)原則二、面向智算中心的多領(lǐng)域應(yīng)用堅持資源共享、彈性擴展的建設(shè)原則軟硬兼施，提升服務(wù)能力一、采用先進硬件芯片，強化算力支撐采用新型人工智能芯片和新型計算方法相結(jié)合提供更 快的計算能力二、建立通用軟件平臺，加強算法保障建立面向人工智能應(yīng)用需求的通用算法和模型平臺規(guī)范推進，加強項目管理一、確保合規(guī)推進結(jié)合本地規(guī)劃、科學(xué)論證、審批報備二、開展全流程項目管理工程咨詢設(shè)計監(jiān)理驗收測試成效評價豐富場景，打造產(chǎn)業(yè)生態(tài)一、深度