2023人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南

國(guó)家信息中心國(guó)家信息中心人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南2023年10月版權(quán)聲明本報(bào)告中所涉及的圖片、表格及文字內(nèi)容的版權(quán)歸國(guó)家信息中心和阿里云計(jì)算有限公司共同所有。其中部分?jǐn)?shù)據(jù)在標(biāo)注有來(lái)源的情況下，版權(quán)歸屬原數(shù)據(jù)公司所有。本報(bào)告取得的任何機(jī)構(gòu)、個(gè)人在引用本報(bào)告數(shù)據(jù)或者轉(zhuǎn)載有關(guān)報(bào)告內(nèi)容時(shí)，需李俊元馬潮江吳潔倩王丹丹胡擁軍鄭海超徐凌驗(yàn)涂菲菲秦國(guó)濤戴或人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)和重要驅(qū)動(dòng)力量，與經(jīng)濟(jì)社會(huì)發(fā)展深度融合的前景廣闊、潛力巨大。隨著人工智能技術(shù)的持續(xù)迭代升級(jí)，其引領(lǐng)作用和潛在價(jià)值被逐步釋放，帶來(lái)了新一輪發(fā)展戰(zhàn)略機(jī)遇，正在成為國(guó)際競(jìng)爭(zhēng)的新焦點(diǎn)。加快健全完善與人工智能相適應(yīng)的基礎(chǔ)設(shè)施、制度環(huán)境和產(chǎn)業(yè)配套，是降低人工智能研發(fā)應(yīng)用門檻、激發(fā)技術(shù)和產(chǎn)業(yè)活力、構(gòu)筑人工智能發(fā)展優(yōu)勢(shì)、當(dāng)前，人工智能發(fā)展由單一智能的1.0時(shí)代向通用智能的2.0時(shí)代演進(jìn)，由單模態(tài)向多模態(tài)融合發(fā)展，呈現(xiàn)出創(chuàng)新加速、跨界融合、應(yīng)用深化的階段特征。面向數(shù)字經(jīng)濟(jì)、數(shù)字社會(huì)、數(shù)字政府各領(lǐng)域人長(zhǎng)效化趨勢(shì)明顯，作為數(shù)字時(shí)代“準(zhǔn)公共品”的基礎(chǔ)性、通用性、公共性特質(zhì)進(jìn)一步凸顯?！翱啥ㄖ频摹比斯ぶ悄芊?wù)能夠像水、電、氣、暖一樣便捷安全高效地使用，隨需應(yīng)變地滿足個(gè)性化需求，成為各行業(yè)共享Al紅利的共同愿景。為此，亟需推動(dòng)構(gòu)建政府和市場(chǎng)互補(bǔ)、多元協(xié)作的公共智算基礎(chǔ)設(shè)施體系和服務(wù)供給格局，發(fā)揮市場(chǎng)配置資源的決定性作用，減少投資浪費(fèi)、增加有效供給、規(guī)避系統(tǒng)性風(fēng)險(xiǎn)。鼓勵(lì)引導(dǎo)云服務(wù)商、人工智能平臺(tái)、互聯(lián)網(wǎng)平臺(tái)、傳統(tǒng)ICT服務(wù)商等主體形成合力，共同打造開放式的公共智算服務(wù)平臺(tái)和服務(wù)生態(tài)，創(chuàng)新服務(wù)模式、提升服務(wù)實(shí)效，降低使用者的進(jìn)入門檻和綜合成本，為大中小企業(yè)、科研機(jī)構(gòu)、在此背景下，國(guó)家信息中心聯(lián)合阿里云共同開展“人工智能2.0時(shí)代的公共智算服務(wù)”研究，面向通用人工智能發(fā)展新趨勢(shì)，梳理智算服務(wù)發(fā)展形勢(shì)和現(xiàn)狀，明確“公共智算服務(wù)”概念內(nèi)涵、服務(wù)架構(gòu)、服務(wù)內(nèi)容和服務(wù)體系，提出實(shí)現(xiàn)生態(tài)化發(fā)展的策略建議，最后提供相關(guān)實(shí)踐案例。本報(bào)告旨在為公共智算服務(wù)的建設(shè)方、供應(yīng)方、使用方和生態(tài)伙伴等提供協(xié)同發(fā)展參考，為各地方、各行業(yè)人工智能應(yīng)用提供指引和借鑒，為加快Al賦能千行百業(yè)、助力經(jīng)濟(jì)社會(huì)發(fā)展貢獻(xiàn)力量。目錄 1.云化共享 2.高效計(jì)算 3.開放兼容 4.按需服務(wù) 5.穩(wěn)定安全 6.綠色低碳 7.長(zhǎng)效運(yùn)營(yíng) (一)人工智能發(fā)展進(jìn)入2.0時(shí)代，智算發(fā)展迎來(lái)高速增長(zhǎng)機(jī)遇期 (二)智算資源準(zhǔn)公共品特質(zhì)凸顯，公 05(三)全球“雙碳”進(jìn)程逐漸深入，綠色低 06 人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南 20 20 20 21 22 22 23 233.復(fù)旦大學(xué)智算平臺(tái)(CFFF):國(guó)內(nèi)高校最大規(guī)模異構(gòu)智算平臺(tái) 23 24 24 25(一)基本概念智能計(jì)算(簡(jiǎn)稱智算)是指面向算法模型驅(qū)動(dòng)的高并行、高吞吐復(fù)雜計(jì)算任務(wù)需要，基于最新人工智能理論，采用先進(jìn)的人工智能異構(gòu)計(jì)算架構(gòu)，配置最優(yōu)計(jì)算策略，實(shí)現(xiàn)以最小開銷達(dá)到最佳效果的一種先進(jìn)計(jì)算形態(tài)。智能計(jì)算是可以根據(jù)具體任務(wù)對(duì)計(jì)算資源進(jìn)行優(yōu)化、調(diào)度和有效分配的一種新型計(jì)算形式。相較于通用計(jì)算和超算，智能計(jì)算是更為適應(yīng)AI訓(xùn)練和推理應(yīng)用的隨著人工智能2.0時(shí)代的到來(lái)，智算成為關(guān)邊際成本遞減、邊際收益遞增特征，決定了采用公共性服務(wù)能夠更好地匹配供需，有效降低單位使用成本。同時(shí)，由于采用云服務(wù)方式能夠有效屏蔽底層技術(shù)差異，實(shí)現(xiàn)智算資源彈性調(diào)度、按需共享、按量付費(fèi)。因此，以云服務(wù)的方式提供公共智算服務(wù)成為破解智算資源獲取門檻高、使用成本高、資源易閑置等難題，實(shí)現(xiàn)普適普惠供本研究認(rèn)為，公共智算服務(wù)是指面向人工智降低獲取門檻和使用成本，以基礎(chǔ)性、公共性、普適性為原則，以多樣化、泛在化、規(guī)?；斯ぶ悄軕?yīng)用需要為牽引，采用公共云服務(wù)方式模塊化、組件化、服務(wù)化封裝算力、算法、數(shù)據(jù)等智市場(chǎng)化、綠色化、長(zhǎng)效化方式實(shí)現(xiàn)智算資源高效供給。1.云化共享云化共享是指以云服務(wù)方式實(shí)現(xiàn)智算資源的高效調(diào)度和使用，是智算資源能夠作為“準(zhǔn)公共通過(guò)云化共享，一是可以屏蔽底層技術(shù)細(xì)節(jié)，降低用戶獲取智算資源的技術(shù)門檻和轉(zhuǎn)移成本；二是可以實(shí)現(xiàn)即時(shí)開通和便捷使用，減少用戶的初資源的利用率和服務(wù)的性價(jià)比，通過(guò)共享資源、彈性調(diào)度、按量計(jì)費(fèi)，更好滿足高彈性資源使用云化共享的實(shí)現(xiàn)，有賴于云服務(wù)的三個(gè)方面技術(shù)特點(diǎn)。一是資源的多租戶共享，支持多個(gè)用戶共用資源，并確保各用戶的業(yè)務(wù)不互相影響，最大化提升智算資源使用效率；二是資源的彈性根據(jù)業(yè)需要實(shí)時(shí)彈性匹配資源，快速擴(kuò)容滿足業(yè)務(wù)高峰時(shí)資源需求，用完即收，釋放資源降低成本；三是云原生技術(shù)的全面應(yīng)用，通過(guò)服務(wù)架構(gòu)和服務(wù)產(chǎn)品的全面無(wú)服務(wù)器化(Serverless),最大程度屏蔽技術(shù)細(xì)節(jié)，降低使用門檻，提升資源調(diào)度能力，實(shí)現(xiàn)開箱即用、按量計(jì)費(fèi)，幫助用戶更好地聚焦自身業(yè)務(wù)需求，構(gòu)建云上應(yīng)用，充分享受云服務(wù)自適應(yīng)、免運(yùn)維、高彈性優(yōu)勢(shì)帶來(lái)的2.高效計(jì)算高效計(jì)算是指公共智算服務(wù)提供的是大規(guī)模、高并行、高吞吐的計(jì)算服務(wù)，這也是公共智人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南算服務(wù)面向人工智能2.0時(shí)代大模型訓(xùn)練和推理應(yīng)用的基本要求。基于云化共享方式提供的高效計(jì)算服務(wù)，一是能夠保障和提高大模型訓(xùn)練和推理的效力，縮短訓(xùn)練時(shí)間、提升訓(xùn)練穩(wěn)定性、提升推理應(yīng)用性能，更好滿足2.0時(shí)代人工智能應(yīng)用需求；二是可以提高資源的利用率，讓每一塊Al芯片發(fā)揮更大的算力效能，從而得到更高的服實(shí)現(xiàn)高效計(jì)算需要重點(diǎn)關(guān)注四個(gè)方面的性能。一是并行計(jì)算效率，不僅要能夠支持單卡到萬(wàn)卡的并行計(jì)算彈性拓展能力，還要保證大規(guī)模并行計(jì)算的線性加速比，避免因算力節(jié)點(diǎn)規(guī)?；斐墒褂眯实倪^(guò)度衰減。二是模型計(jì)在同樣的硬件配置條件下，提高模型計(jì)算效率，可以使模型訓(xùn)練得更快，從而達(dá)節(jié)約資源、降低成本的效果。三是網(wǎng)絡(luò)性能，大模型訓(xùn)練所需的(超)大規(guī)模算力主要通過(guò)GPU并行計(jì)算實(shí)現(xiàn)，網(wǎng)絡(luò)性能的優(yōu)劣將直接影響分布式并行計(jì)算的性能，進(jìn)而影響大模型訓(xùn)練的質(zhì)量和速度，通過(guò)雙上聯(lián)網(wǎng)絡(luò)架構(gòu)、GPU直連、高精度擁塞控制等手段能有效拓展帶寬、優(yōu)化通信、減少擁塞和延遲，提供高帶寬、低延時(shí)、穩(wěn)定可靠的網(wǎng)絡(luò)連接支持。四是存儲(chǔ)性能，大模型訓(xùn)練過(guò)程中存在海量小文件的讀寫操作，采用并行文件存儲(chǔ)(ParallelFileStorage,PFS)等技術(shù)，能夠有效提供海量數(shù)據(jù)高并發(fā)處理、高吞吐并行存儲(chǔ)、向量數(shù)據(jù)庫(kù)快速檢索、高安全高可靠數(shù)據(jù)存儲(chǔ)等能力，從而減少GPU閑置等待時(shí)間、縮短檢查點(diǎn)(CheckPoint)保存時(shí)間，提高模型訓(xùn)練的效率和穩(wěn)定性；采用分層存儲(chǔ)等技術(shù)，提供存儲(chǔ)容量和吞吐性能的線性擴(kuò)展能力，能夠最大程度降低存儲(chǔ)成本。3.開放兼容開放兼容是指提供公共智算服務(wù)的技術(shù)和服務(wù)框架是開放的，能夠適配兼容各種技術(shù)和服務(wù)產(chǎn)品，這是多元協(xié)同的公共智算服務(wù)生態(tài)得以形成的前提基礎(chǔ)，也是公共智算服務(wù)資源能夠有效集成，向用戶提供普適服務(wù)的必要條件。保持公共智算服務(wù)生態(tài)的開放兼容，一是有利于消除技術(shù)壁壘，促進(jìn)智算資源的標(biāo)準(zhǔn)化供給；二是有利于智算資源共建共享，降低AI開發(fā)和使用成本；三是有利于避免同質(zhì)化競(jìng)爭(zhēng)、促進(jìn)協(xié)同創(chuàng)新，促進(jìn)Al生態(tài)和Al產(chǎn)業(yè)的繁榮發(fā)展。面向人工智能技術(shù)和應(yīng)用趨勢(shì)，開放兼容芯”,能夠?qū)Φ讓赢悩?gòu)芯片進(jìn)行統(tǒng)一納管、統(tǒng)一池化和統(tǒng)一調(diào)度，屏蔽底層異構(gòu)芯片差異，避免形成算力孤島，同時(shí)更好滿足用戶的多樣化算力集群進(jìn)行統(tǒng)一管理，實(shí)現(xiàn)混合云管理和跨集群資源協(xié)同調(diào)度。三是支持主流的深度學(xué)習(xí)框架，如常見的機(jī)器學(xué)習(xí)框架PyTorch、TensorFlow、Caffe和主流開源分布式訓(xùn)練框架Megatron-服務(wù)部署到預(yù)測(cè)的一站式服務(wù)。四是具備繁榮的模型開源生態(tài)，支持多種開源模型和商業(yè)模型部署，提供模型開發(fā)應(yīng)用全生命周期服務(wù)，支持模4.按需服務(wù)按需服務(wù)是指公共智算服務(wù)能夠快速響應(yīng)多樣化的人工智能應(yīng)用需要，通過(guò)組合標(biāo)準(zhǔn)化封裝的服務(wù)資源提供定制化服務(wù)的能力，直接影響到公共智算服務(wù)能否“用起來(lái)、用得好”,也是公共智算服務(wù)普適性的重要體現(xiàn)。按需服務(wù)不僅能夠更好地滿足多場(chǎng)景、多樣化的人工智能應(yīng)用需求，還能夠使公共智算服務(wù)被更多用戶接受，從而通過(guò)更多用戶的共享提高資源利用率。資源的邏輯調(diào)度方面，支持服務(wù)資源的標(biāo)準(zhǔn)化封裝、模塊化組合、任務(wù)化供給，根據(jù)客戶不同任務(wù)需求，提供覆蓋模型開發(fā)全生命周期的多元服務(wù)，并支持按業(yè)務(wù)需要分類獲取、自由組合、定制提供。二是資源的物理部署方面，支持服務(wù)資源多節(jié)點(diǎn)部署、一體化調(diào)度，提供本地化部署和公共云部署等多種方式，支持本地優(yōu)先、就近服務(wù)、多級(jí)擴(kuò)展，在為用戶提供最優(yōu)服務(wù)體驗(yàn)的同時(shí)，提供最高性價(jià)比。三是服務(wù)的獲取方面，支持用戶自助服務(wù)，如滿足用戶一站式選擇服務(wù)配置和升級(jí)擴(kuò)展的需求，支持從配置選擇到資源申請(qǐng)、資源創(chuàng)建、資源獲取、資源回收的服務(wù)全流程自動(dòng)化，從而最大化降低用戶資源獲取的技術(shù)門檻和等待成本，為用戶提供更加友好易用的應(yīng)5.穩(wěn)定安全穩(wěn)定安全是指公共智能算服務(wù)供給的持續(xù)性、穩(wěn)定性和安全性，這既是高質(zhì)量公共智能算服務(wù)的底線要求，也是用戶能夠放心選擇以公共穩(wěn)定安全主要體現(xiàn)在三個(gè)方面。一是公共云如單實(shí)例的可用性、多可用區(qū)多實(shí)例可用性、云供商(CloudServiceProvider,CSP)提供的安全工具來(lái)實(shí)現(xiàn)，如提供DDoS防護(hù)、木馬查殺等服務(wù)，提供可信計(jì)算、硬件加密、虛擬化加密計(jì)要求的信息安全等級(jí)保護(hù)三級(jí)水平等進(jìn)行衡量。三是云服務(wù)的容錯(cuò)與恢復(fù)機(jī)制，由于大模型對(duì)訓(xùn)練的穩(wěn)定性、故障檢測(cè)與訓(xùn)練容錯(cuò)提出了更高的要求，需要重點(diǎn)關(guān)注能夠有效縮短故障處理時(shí)間的智能容錯(cuò)、自動(dòng)恢復(fù)等保障機(jī)制，從而提高大6.綠色低碳綠色低碳是“雙碳”目標(biāo)背景下公共智算服務(wù)主動(dòng)順應(yīng)資源環(huán)境約束的集中體現(xiàn)，也是公共智算服務(wù)支持經(jīng)濟(jì)社會(huì)綠色可持續(xù)發(fā)展的內(nèi)在要求。在數(shù)字革命提速的今天，數(shù)據(jù)中心日益成為“能耗大戶”和環(huán)境保護(hù)風(fēng)險(xiǎn)點(diǎn)，讓智算服務(wù)更加綠色低碳變得尤為重要。綠色低碳主要體現(xiàn)在兩個(gè)方面。一是綠色用主要體現(xiàn)為清潔電力在總用電中占比。二是節(jié)能能運(yùn)維方式，降低數(shù)據(jù)中心的PUE;通過(guò)提供公共云服務(wù)減少對(duì)本地化部署機(jī)房和服務(wù)器的依通過(guò)對(duì)資源高效利用和循環(huán)利用，如加強(qiáng)設(shè)備檢測(cè)、維修，幫助延長(zhǎng)服務(wù)器的生命周期，減少資7.長(zhǎng)效運(yùn)營(yíng)長(zhǎng)效運(yùn)營(yíng)是指公共智算服務(wù)應(yīng)采用“市場(chǎng)能供給、客戶能負(fù)擔(dān)、環(huán)境可持續(xù)”的建設(shè)運(yùn)營(yíng)和服務(wù)模式，是保證公共智算服務(wù)高質(zhì)量持續(xù)穩(wěn)定實(shí)現(xiàn)長(zhǎng)效運(yùn)營(yíng)需要三個(gè)方面的支持。一是科學(xué)有效的建設(shè)運(yùn)營(yíng)方案。由于支持公共智算服務(wù)的軟硬件資源一旦建成短期可調(diào)整空間較小，為避免初始固定投入成為不可回收的沉沒成本，不人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南僅要關(guān)注運(yùn)營(yíng)期的資源配置問(wèn)題，更需要在規(guī)劃設(shè)計(jì)階段就對(duì)服務(wù)對(duì)象、服務(wù)范圍、服務(wù)方式、技術(shù)選型等進(jìn)行充分的調(diào)研和論證，最大程度保證供給和需求的匹配性。二是合理可行的盈利模式。通過(guò)用戶運(yùn)營(yíng)、服務(wù)運(yùn)營(yíng)增強(qiáng)使用者黏性，以用戶可以承擔(dān)的服務(wù)價(jià)格獲得持續(xù)的服務(wù)收益，實(shí)現(xiàn)普惠化的健康可持續(xù)發(fā)展。三是專業(yè)化的運(yùn)營(yíng)團(tuán)隊(duì)。為保障公共智算服務(wù)持續(xù)高質(zhì)量供給，需要服務(wù)供給方與用戶需求共同成長(zhǎng)，不僅能夠在當(dāng)期提供高效的服務(wù)，還能夠前瞻掌握政策要求、技術(shù)發(fā)展和用戶需求變化趨勢(shì)，并據(jù)此不斷優(yōu)化服務(wù)方式、提升服務(wù)水平，在用戶需求(一)人工智能發(fā)展進(jìn)入2.0時(shí)代，智算發(fā)展迎來(lái)高速增長(zhǎng)機(jī)遇期得益于計(jì)算力的提升、數(shù)據(jù)量的增長(zhǎng)和人們對(duì)利用人工智能技術(shù)提升生活質(zhì)量的持續(xù)追求，人工智能技術(shù)創(chuàng)新成果不斷涌現(xiàn)。以ChatGPT為代表的自然語(yǔ)言單模態(tài)大模型和以GPT-4為代表的多模態(tài)大模型橫空出世，引爆新一輪Al發(fā)展浪潮，推動(dòng)人工智能從單一智能1.0時(shí)代加快向以大模型為特征的通用智能2.0時(shí)代邁進(jìn)，并呈現(xiàn)出更加明顯的知識(shí)驅(qū)動(dòng)、跨界融合、人機(jī)協(xié)同、群智開放等技術(shù)特征?！邦A(yù)訓(xùn)練+精調(diào)”的開發(fā)范式使得大模型具有良好的通用性和泛化性，具備更強(qiáng)的推廣應(yīng)用條件。隨著技術(shù)迭代和產(chǎn)業(yè)發(fā)展，更高效、更“聰明”的大模型將滲透到更多領(lǐng)域中，有望成為人工智能發(fā)展的“新基座”和生產(chǎn)生活的新工具，在全面賦能經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展、成為數(shù)字時(shí)代新生產(chǎn)力的同時(shí)，帶來(lái)更大的智能算力需求。以CPU架構(gòu)為核心的通用算力無(wú)法高效處理大規(guī)模并行計(jì)算任務(wù)，具備高精度數(shù)值計(jì)算能力的超算在人工智能應(yīng)用中存在“大材小用”的問(wèn)題，智能算力成為支撐人工智能技術(shù)發(fā)展，特別是Al大模型訓(xùn)練和推理的最優(yōu)解，這促使經(jīng)濟(jì)社會(huì)對(duì)智算資源的需求進(jìn)一步加大。鄭緯民院士預(yù)計(jì)，到2025年我國(guó)智能算力總量將超過(guò)1800EFlops、占總算力比重超過(guò)85%1。(二)智算資源準(zhǔn)公共品特質(zhì)凸顯，公共隨著我國(guó)數(shù)字化轉(zhuǎn)型的加速推進(jìn)和人工智能應(yīng)用的普及深化，智算資源作為數(shù)字時(shí)代“準(zhǔn)公共品”的特質(zhì)也將進(jìn)一步凸顯，標(biāo)準(zhǔn)化、低成本、低門檻成為其必然發(fā)展方向。針對(duì)不同人工智能應(yīng)用和實(shí)際業(yè)務(wù)場(chǎng)景存在的智能算力需求無(wú)規(guī)律波動(dòng)變化、算力資源消耗差異化分布等情況，以“云服務(wù)”的方式靈活、彈性供給智能算力及智算服務(wù)，可以有效降低用戶的初始投入和使用成本，為公共智算服務(wù)市場(chǎng)發(fā)展壯大帶來(lái)新一輪機(jī)遇。為了加速Al產(chǎn)業(yè)化和產(chǎn)業(yè)Al化進(jìn)程，化”提供“標(biāo)準(zhǔn)件”,使智算資源能夠像水、電、氣、暖一樣易取易用，還需要進(jìn)一步通過(guò)“服務(wù)化”面向用戶按需提供“定制品”,從而更好地滿足面向多樣化場(chǎng)景的應(yīng)用需要。如模型即服務(wù)(ModelasaService,MaaS)作為面向人工智能應(yīng)用的智算服務(wù)新模式，可以通過(guò)為用戶提供使用，提供與具體任務(wù)相匹配的軟硬件環(huán)境和資源配置，讓用戶可以無(wú)需關(guān)注底層算力芯片和技術(shù)細(xì)節(jié)，也無(wú)需過(guò)多關(guān)注算法和模型本身，只需聚焦相應(yīng)業(yè)務(wù)領(lǐng)域的業(yè)務(wù)邏輯和數(shù)據(jù)，開展個(gè)性化、定制化的人工智能應(yīng)用開發(fā)，有效解決人工智能行業(yè)領(lǐng)域模型訓(xùn)練成本高和技術(shù)門檻高的1數(shù)據(jù)來(lái)源：AI算力或迎高速擴(kuò)張時(shí)代專家熱議智算時(shí)代新趨勢(shì)，/2023-04/25/content_36522153.htm。人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南低碳成為智算服務(wù)必然要求2021年11月13日《聯(lián)合國(guó)氣候變化框架公約》第二十六次締約方大會(huì)在英國(guó)格拉斯哥閉碳中和”不再只是理念倡導(dǎo)，“雙碳”時(shí)代正式到來(lái)。然而，以ChatGPT為代表的Al大模型在引發(fā)經(jīng)濟(jì)社會(huì)巨大變革的同時(shí)，也因?yàn)槠涓吣芎?、高碳排放而飽受?zhēng)議。研究數(shù)據(jù)顯示，訓(xùn)練GPT-3消耗了1287MWh(兆瓦時(shí))的電，相當(dāng)于排放了552噸碳，該值相當(dāng)于126個(gè)丹麥家庭每年消耗的能量1。由于強(qiáng)化學(xué)習(xí)本身還需要額外消耗電力，所以ChatGPT在模型訓(xùn)練階段所在ChatGPT運(yùn)行階段，雖然單一用戶操作帶來(lái)的能耗很小，但是上億用戶規(guī)模的頻繁訪問(wèn)也會(huì)帶來(lái)巨大的碳排放來(lái)。當(dāng)前，人工智能所需的計(jì)算能力每100天翻一番，預(yù)計(jì)在未來(lái)五年內(nèi)將增加超過(guò)100萬(wàn)倍2,由此而帶來(lái)的碳排放也將成倍增長(zhǎng)。人工智能技術(shù)對(duì)算力需求的快速增長(zhǎng)使其成為了影響“雙碳”目標(biāo)實(shí)現(xiàn)的一個(gè)最大的不確定因素。智能算力作為支撐人工智能技術(shù)實(shí)現(xiàn)和應(yīng)用的關(guān)鍵，必須朝著綠色低碳的方向發(fā)展，這既是順應(yīng)全球綠色低碳發(fā)展大勢(shì)的必然選擇， 三、現(xiàn)狀和問(wèn)題1.政策體系逐步健全，發(fā)展環(huán)境持續(xù)優(yōu)化隨著以ChatGPT為代表的大模型浪潮襲來(lái)，各類人工智能應(yīng)用現(xiàn)象級(jí)爆火，持續(xù)激發(fā)智算服務(wù)需求。國(guó)家及地方層面密集出臺(tái)相關(guān)政策，積極推動(dòng)智算服務(wù)發(fā)展，基本形成了涵蓋技術(shù)、產(chǎn)(1)國(guó)家高度重視智能算力發(fā)展，統(tǒng)籌推進(jìn)數(shù)據(jù)、算力、算法作為人工智能發(fā)展的三大基石，近年來(lái)受到國(guó)家層面高度重視，配套政策措施陸續(xù)出臺(tái)，提高數(shù)據(jù)要素供給數(shù)量和質(zhì)量，從數(shù)據(jù)看，中共中央、國(guó)務(wù)院發(fā)布的《關(guān)于構(gòu)建更加完善的要素市場(chǎng)化配置體制機(jī)制的意見》首次將“數(shù)據(jù)”與土地、勞動(dòng)力、資本、技術(shù)并列為重要要素之一；“數(shù)據(jù)二十條”進(jìn)一步有力推動(dòng)跨層級(jí)、跨地域、跨部門的公共數(shù)據(jù)匯聚融合、共享交換和開發(fā)應(yīng)用。從算力看，《關(guān)于加快構(gòu)建全國(guó)一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系的指導(dǎo)意見》《全國(guó)一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實(shí)施方案》《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》等文件均提出，要強(qiáng)化算力統(tǒng)籌和智能調(diào)度，優(yōu)化算力服務(wù)體系，面向重點(diǎn)新興技部、工信部、中央網(wǎng)信辦等鼓勵(lì)人工智能前沿技術(shù)布局，重點(diǎn)突破自然語(yǔ)言理解、生物特征識(shí)別等技術(shù)；教育部相關(guān)政策重點(diǎn)培養(yǎng)人工智能專在政策引導(dǎo)下，我國(guó)數(shù)據(jù)資源供給能力持續(xù)提升，《數(shù)字中國(guó)發(fā)展報(bào)告(2022年)》顯示，2022年底我國(guó)數(shù)據(jù)產(chǎn)量達(dá)8.1ZB,同比增長(zhǎng)22.7%。算力規(guī)模持續(xù)保持全球第二，多層次截至2023年5月，已發(fā)布的10億參數(shù)規(guī)模以上大模型達(dá)79個(gè)1,自然語(yǔ)言處理、機(jī)器視覺、多模態(tài)等技術(shù)取得重要突破，涌現(xiàn)出通義千問(wèn)、文心一言、盤古、悟道、星火認(rèn)知、360智腦4.0等一批具有重要影響力的預(yù)訓(xùn)練大模型，智算中人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南時(shí)間12023年10月足均衡型、計(jì)算和存儲(chǔ)密集型等各類業(yè)務(wù)算力需求。2總局2023年7月的自主創(chuàng)新。3國(guó)務(wù)院辦公廳2022年9月高各地區(qū)各部門政務(wù)大數(shù)據(jù)算力支撐能力。4信部、交通運(yùn)輸部、2022年7月供算力、算法資源。5國(guó)務(wù)院2021年12月62021年7月用。7國(guó)家發(fā)展改革委、中央網(wǎng)信辦、工信部、國(guó)家能源局2021年5月算法模型和控件庫(kù)，提供規(guī)范統(tǒng)一的大數(shù)據(jù)服務(wù)支持。8國(guó)家發(fā)展改革委、中央網(wǎng)信辦、工信部、國(guó)家能源局體化大數(shù)據(jù)中心協(xié)同2020年12月9國(guó)務(wù)院2017年7月人機(jī)交互能力為重點(diǎn)，形成開放兼容、穩(wěn)定成熟的技術(shù)體系。 (2)地方積極搶占智算服務(wù)先機(jī)，因地制宜在國(guó)家政策持續(xù)引導(dǎo)和智算服務(wù)需求不斷擴(kuò)張下，各地方紛紛關(guān)注到智算服務(wù)的重要作用和發(fā)展價(jià)值，密集出臺(tái)利好政策，統(tǒng)籌推進(jìn)算力資并結(jié)合資源稟賦和特色優(yōu)勢(shì)，鼓勵(lì)建設(shè)方打造符北京市重視提升智能算力軟硬件能力，加快北京人工智能公共算力中心、北京數(shù)字經(jīng)濟(jì)算力中心等項(xiàng)目建設(shè)，提升算力資源統(tǒng)籌供給能力；同時(shí)，依托本地豐富的科研資源，推動(dòng)國(guó)產(chǎn)人工智能芯片實(shí)現(xiàn)突破，加強(qiáng)自主開源深度學(xué)習(xí)框架研發(fā)攻關(guān)。上海市注重引導(dǎo)民間資本投資智算服務(wù)，并推動(dòng)“補(bǔ)需方”改革，鼓勵(lì)高校、科研機(jī)構(gòu)、國(guó)有企業(yè)、政府部門等使用民間投資算力。杭州市依托數(shù)據(jù)優(yōu)勢(shì)，設(shè)立浙江算力科技有限公司、推廣算力券、創(chuàng)新模型服成都市側(cè)重推進(jìn)算力產(chǎn)業(yè)自主可控，圍繞“算服務(wù)器整機(jī)、液冷設(shè)備等高端硬件。深圳市立法先行，頒布全國(guó)首部人工智能產(chǎn)業(yè)專項(xiàng)立法，鼓勵(lì)和支持人工智能算力基礎(chǔ)設(shè)施建設(shè)；發(fā)布首批“城市+Al”應(yīng)用場(chǎng)景清單，統(tǒng)籌設(shè)立規(guī)模高達(dá)1000億元的人工智能基金群。山東省強(qiáng)化一體統(tǒng)籌，在全國(guó)率先出臺(tái)省級(jí)新型數(shù)據(jù)中心創(chuàng)建標(biāo)準(zhǔn)，提出建立“現(xiàn)代優(yōu)勢(shì)產(chǎn)業(yè)集群+人工智能”機(jī)制，大力推進(jìn)濟(jì)南一青島人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)建設(shè)，力爭(zhēng)布局進(jìn)入人工智能領(lǐng)域產(chǎn)業(yè)發(fā)展的第一梯隊(duì)。時(shí)間12023年5月動(dòng)新增算力基礎(chǔ)設(shè)施建設(shè)，建設(shè)統(tǒng)一的多云算力調(diào)度平臺(tái)。2響力的人工智能創(chuàng)新策源地2023年5月可控。系，積極爭(zhēng)取成為國(guó)家人工智能開放生態(tài)技術(shù)創(chuàng)新中心。3《上海市進(jìn)一步提高產(chǎn)品、2023年7月42023年5月支持民營(yíng)企業(yè)廣泛參與數(shù)據(jù)、算力等人工智能基礎(chǔ)設(shè)施建設(shè)。52023年4月統(tǒng)一編排。技術(shù)創(chuàng)新研發(fā)，培育關(guān)鍵核心技術(shù)生態(tài)鏈，提升算力調(diào)度水平。62023年7月加快部署適應(yīng)模型訓(xùn)練所需的軟硬件環(huán)境，提升人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南時(shí)間72023年8月82021年9月92023年5月網(wǎng)聯(lián)汽車等領(lǐng)域，實(shí)施人工智能科技重大專項(xiàng)扶持計(jì)研機(jī)構(gòu)、高校等，打造深港人工智能算力賦能中心。2022年9月山東省大數(shù)據(jù)中心協(xié)同創(chuàng)新體系的2021年10月公共算力資源，降低算力使用成本。2022年5月貴州省2023年3月用創(chuàng)新樣板。2.智算服務(wù)供給量質(zhì)齊升，服務(wù)模式創(chuàng)新我國(guó)算力規(guī)模位居全球第二，算力布局和算力結(jié)構(gòu)持續(xù)優(yōu)化，智能算力占比快速提升，智算中心建設(shè)加速推進(jìn)，服務(wù)模式創(chuàng)新風(fēng)起云涌，有力支撐了人工智能、區(qū)塊鏈、元宇宙等新業(yè)態(tài)新(1)多元主體共建智算設(shè)施，推動(dòng)智能算力規(guī)模快速上升截至2022年底，我國(guó)數(shù)據(jù)中心設(shè)備算力總規(guī)模達(dá)到302EFlops,連續(xù)兩年增速超過(guò)50%,其中智能算力規(guī)模達(dá)到178.5EFlops,增速達(dá)到72%,算力占比達(dá)到59%',成為算力市場(chǎng)最亮眼的增長(zhǎng)點(diǎn)。以智能計(jì)算中心為代表的智算設(shè)施建設(shè)加快進(jìn)行，截至2023年6月，全國(guó)已投運(yùn)的智算中心達(dá)到25個(gè)，在建的智算中心超過(guò)20個(gè)2。 三、現(xiàn)狀和問(wèn)題02017220202圖1我國(guó)2017年-2022年算力規(guī)模結(jié)構(gòu)示意從區(qū)域分布看，綜合考慮潛在市場(chǎng)區(qū)域、建設(shè)成本、人才分布等因素，目前我國(guó)已建成的和擬建的智能計(jì)算中心主要選址于京津冀、長(zhǎng)三角、粵港澳大灣區(qū)、成渝雙城經(jīng)濟(jì)圈等區(qū)域，與人工浙江、上海、江蘇在Al服務(wù)器市場(chǎng)中繼續(xù)保持領(lǐng)先，市場(chǎng)份額占比高達(dá)90%1。東北、中西部等區(qū)域因土地、電費(fèi)和人員成本較低等因素占優(yōu)，結(jié)合當(dāng)?shù)禺a(chǎn)業(yè)升級(jí)需要，也吸引了部分智能計(jì)算中心落戶，據(jù)統(tǒng)計(jì)，我國(guó)中部地區(qū)擁有智能計(jì)算中心6個(gè)、西部和東北地區(qū)的智能計(jì)算中心數(shù)量分別為3個(gè)和2個(gè)2。從建設(shè)主體看，我國(guó)智算中心建設(shè)主體多元，大致可分為政府、科研院所和企業(yè)三類主體。政府主導(dǎo)建設(shè)的智算中心旨在提供普惠的人工智能算力服務(wù)，服務(wù)目標(biāo)包括助力行業(yè)數(shù)字化轉(zhuǎn)型、服務(wù)人工智能行業(yè)企業(yè)發(fā)展、支持科研工作等。科研院所主導(dǎo)建設(shè)的智算中心主要面向科研項(xiàng)目計(jì)算需求，如復(fù)旦大學(xué)聯(lián)合阿里云和中國(guó)電信打造了云上科研智算平臺(tái)CFFF,接入了四個(gè)校區(qū)的所有實(shí)驗(yàn)設(shè)備，可以滿足不同應(yīng)用場(chǎng)景下的科學(xué)智能研究與應(yīng)用需求。企業(yè)主體包括運(yùn)營(yíng)商、云服務(wù)商、行業(yè)龍頭企業(yè)等，企業(yè)主導(dǎo)建設(shè)的智能計(jì)算中心建設(shè)目標(biāo)與面向行業(yè)領(lǐng)域較為多樣，云服務(wù)商更具備提供通用Al計(jì)算與大模型服務(wù)的能力，也有部分行業(yè)龍頭企業(yè)聯(lián)合相關(guān)廠商面向特定行業(yè)領(lǐng)域Al應(yīng)用需求共建智算中心。人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南中心、北京人工智能公共算力平臺(tái)服務(wù)科研項(xiàng)目復(fù)旦大學(xué)云上科研智企業(yè)云服務(wù)商提供數(shù)據(jù)存儲(chǔ)、通用AI計(jì)算與大模型應(yīng)用部分智算中心面向智阿里云烏蘭察布智算中心中國(guó)電信京津冀大數(shù)吉利星睿智算中心(2)供需變化推動(dòng)模式創(chuàng)新，模型驅(qū)動(dòng)成為人工智能2.0時(shí)代，模型成為了重要的生產(chǎn)元素，隨著Al產(chǎn)業(yè)化和產(chǎn)業(yè)AI化的發(fā)展，模型驅(qū)動(dòng)的智算服務(wù)需求日益增長(zhǎng)，在此背景下，能夠降低用戶使用門檻的MaaS(模型即服務(wù))理在MaaS的理念下，智算服務(wù)將更多地以模型開發(fā)和應(yīng)用為核心開展，圍繞模型的全生命周模型服務(wù)等服務(wù)和產(chǎn)品。與此同時(shí)，圍繞模型的實(shí)現(xiàn)各個(gè)行業(yè)或企業(yè)專屬模型的部署與應(yīng)用，適配云端、手機(jī)和隨身設(shè)備等多端模型服務(wù)部署，在無(wú)形之中形成立體的服務(wù)機(jī)制，服務(wù)生活的方方面面。與此同時(shí)，面向AI大模型訓(xùn)練的算力基礎(chǔ)設(shè)施呈現(xiàn)出規(guī)?；?、高性能的發(fā)展趨勢(shì)，異構(gòu)芯片成為AI計(jì)算的關(guān)鍵計(jì)算資產(chǎn)，通過(guò)集成CPU、GPU、FPGA、ASIC不同架構(gòu)的芯片，能夠更加高效地支撐Al大模型進(jìn)行各類復(fù)雜任務(wù)此外，由于智算需求快速增長(zhǎng)、Al芯片價(jià)格居高不下等原因，智算資源總體上仍然呈現(xiàn)供不應(yīng)求的局面，為此，服務(wù)供應(yīng)商正在努力通過(guò)提升資源調(diào)度管理能力，從而在滿足用戶應(yīng)用需求的同時(shí)，能夠進(jìn)一步提高資源利用率，推動(dòng)公共智算服務(wù)資源的供給方式逐步從“按指定規(guī)格購(gòu)當(dāng)前，以ChatGPT為代表的AI大模型成為通用人工智能的競(jìng)爭(zhēng)焦點(diǎn)，“預(yù)訓(xùn)練+精調(diào)”的開發(fā)范式雖然為大模型開發(fā)應(yīng)用帶來(lái)了更好的條件，但仍然存在較高的技術(shù)和使用門檻。面向人工智能應(yīng)用普及要求需要，人工智能算法開發(fā)和模型訓(xùn)練需要進(jìn)一步向泛在化、易用型轉(zhuǎn)變，作為其重要支撐的公共智算服務(wù)在服務(wù)內(nèi)容、服務(wù)一是重硬件輕軟件，難以滿足多元需求。我國(guó)目前服務(wù)器整機(jī)研發(fā)制造在性能、可靠性、能耗比各個(gè)方面已經(jīng)具備全球領(lǐng)先水平。2022年，中國(guó)整體服務(wù)器市場(chǎng)占全球市場(chǎng)比重達(dá)25%,2017年至2022年的復(fù)合增長(zhǎng)率達(dá)48.8%1。與此相比，基礎(chǔ)軟件、工具軟件、算法模型等方面存在重視不夠、投入不足的情況，技術(shù)和產(chǎn)品國(guó)產(chǎn)化比例較低，算法模型研發(fā)過(guò)度依賴開源代碼和現(xiàn)有的數(shù)學(xué)模型，人工智能產(chǎn)業(yè)發(fā)展高度依賴國(guó)外技術(shù)、平臺(tái)、開發(fā)工具。隨著數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展和人工智能技術(shù)的不斷突破，模型驅(qū)動(dòng)的人工智能普及應(yīng)用成為必然趨勢(shì)，為降低模型訓(xùn)還需要更多算法(模型)和數(shù)據(jù)服務(wù)支持。由于 重硬輕軟，目前公共智算服務(wù)所能提供的服務(wù)資源仍然集中在基礎(chǔ)的算力服務(wù)，數(shù)據(jù)服務(wù)能力不二是重建設(shè)輕服務(wù)，供需匹配效果不佳。2022年2月，以8大國(guó)家算力樞紐節(jié)點(diǎn)、10個(gè)國(guó)家數(shù)據(jù)中心集群為重點(diǎn)的“東數(shù)西算”工程正但目前智算中心的建設(shè)多偏重物理實(shí)體建筑建設(shè)和硬件部署，對(duì)智算中心建成成效的衡量指標(biāo)偏重于人工智能服務(wù)器的部署量、智能算力的規(guī)模等，較少?gòu)慕档腿斯ぶ悄軕?yīng)用落地的技術(shù)門檻和開發(fā)成本，提供多元普惠公共性服務(wù)的角度進(jìn)行前瞻設(shè)計(jì)、開展評(píng)價(jià)，容易導(dǎo)致智算資源建成后難以精準(zhǔn)觸達(dá)需求的情況，已建成的智算中心存三是重投資輕運(yùn)營(yíng)，難以實(shí)現(xiàn)持續(xù)發(fā)展。目前，全國(guó)已有超過(guò)30個(gè)城市提出或正在建設(shè)智算中心1,但總體智算中心發(fā)展仍處于起步建設(shè)階段，發(fā)展模式尚在探索之中。各地積極投資建設(shè)智算中心爭(zhēng)搶智算產(chǎn)業(yè)發(fā)展機(jī)遇，但對(duì)智算中心的運(yùn)營(yíng)模式、盈利模式的認(rèn)識(shí)不足，尚未形成的建設(shè)模式，也容易導(dǎo)致局部過(guò)熱、資源浪費(fèi)，四是協(xié)同難效率低，算力普惠供給不足。當(dāng)前，智能算力緊缺和算力利用率低是我國(guó)算力服務(wù)的突出矛盾。受美國(guó)進(jìn)一步升級(jí)人工智能高性市場(chǎng)上出現(xiàn)了GPU高端芯片一芯難求的現(xiàn)象，而采用更多低性能芯片提供同等規(guī)模智能算力，則需要更大規(guī)模的算力集群或者跨集群算力調(diào)度實(shí)現(xiàn)，對(duì)并行計(jì)算、集群調(diào)度、網(wǎng)絡(luò)性能、存儲(chǔ)目前規(guī)?；撬愎┙o普遍存在高效連接難、整體協(xié)同性較差、統(tǒng)一管理調(diào)度效率低等問(wèn)題，導(dǎo)致智算設(shè)施使用率不高。據(jù)公開數(shù)據(jù)統(tǒng)計(jì)，傳統(tǒng)模式下的智算中心GPU利用率平均數(shù)值低于30%,#(一)服務(wù)架構(gòu)應(yīng)用生態(tài)企業(yè)政府個(gè)人產(chǎn)品生態(tài)設(shè)備軟件設(shè)施技術(shù)生態(tài)操作系統(tǒng)中間件芯片山面向城市智能應(yīng)用面向科學(xué)智能應(yīng)用AI賦能多元需求按需配置彈性供應(yīng)資源調(diào)度策略服務(wù)組合策略配額策略共享超分個(gè)性化定制……負(fù)載均衡算法模型服務(wù)唱算力管理大模型大模型大模型視覺模型學(xué)習(xí)模型算力調(diào)度軟件定義容器管理算力調(diào)度軟件定義容器管理集群管理個(gè)硬件重構(gòu)個(gè)標(biāo)準(zhǔn)化接入個(gè)高性能網(wǎng)絡(luò)多元計(jì)算資源圖高性能存儲(chǔ)食AI工程化能力機(jī)器學(xué)習(xí)平臺(tái)要交換機(jī)要圖2公共智算服務(wù)架構(gòu)服務(wù)供給多元化服務(wù)供給多元化服務(wù)調(diào)度智能化服務(wù)資源構(gòu)件化ML面向行業(yè)智能應(yīng)用按量收費(fèi)資源使用量訪問(wèn)次數(shù)調(diào)用次數(shù)……品數(shù)據(jù)資源共享開放數(shù)據(jù)查詢?cè)L問(wèn)服務(wù)數(shù)據(jù)調(diào)用API食主題式數(shù)據(jù)服務(wù)三大數(shù)據(jù)平臺(tái)數(shù)據(jù)資產(chǎn)管理數(shù)據(jù)分析數(shù)據(jù)標(biāo)注數(shù)據(jù)采集數(shù)據(jù)存儲(chǔ)數(shù)據(jù)建模數(shù)據(jù)集成數(shù)據(jù)清洗公共智算服務(wù)的服務(wù)架構(gòu)如圖2所示。為全面賦能城市智能、科學(xué)智能、行業(yè)智能等各領(lǐng)域多元化的場(chǎng)景應(yīng)用，公共智算服務(wù)需要面向應(yīng)用需求整合技術(shù)生態(tài)、產(chǎn)品生態(tài)、應(yīng)用生態(tài)資源，通過(guò)服務(wù)資源構(gòu)件化、服務(wù)調(diào)度智能化和服務(wù)供1.服務(wù)資源構(gòu)件化人工智能2.0時(shí)代，人工智能應(yīng)用的普及要求人工智能算法開發(fā)和模型訓(xùn)練從專業(yè)化、高門檻向泛在化、易用型轉(zhuǎn)變。為滿足這一要求，需要通過(guò)軟件定義服務(wù)的方式，將算力、算法模型和數(shù)據(jù)等智算服務(wù)資源封裝成標(biāo)準(zhǔn)化、可調(diào)度、易組合的中間件產(chǎn)品和服務(wù)，即“構(gòu)件化”。通過(guò)可視化操作界面，以低代碼開發(fā)甚至無(wú)代碼開發(fā)的模式，為用戶提供功能豐富、使用便捷的人工智能算力調(diào)度、算法模型供給和數(shù)據(jù)集服務(wù)，降低Al工程化的門檻。2.服務(wù)調(diào)度智能化通過(guò)智能化的服務(wù)調(diào)度，能夠按需向用戶提供構(gòu)件化的智算服務(wù)資源。服務(wù)調(diào)度智能化主要表現(xiàn)在三個(gè)方面：一是支持按需配置，根據(jù)不同的場(chǎng)景，配置調(diào)度符合用戶實(shí)際需求的服務(wù)資源類型以及資源量；二是支持彈性供應(yīng)，提供彈性可伸縮的服務(wù)資源以滿足迭代需求，通過(guò)智能的調(diào)度策略使得供應(yīng)的服務(wù)資源與實(shí)際需要的服務(wù)資源動(dòng)態(tài)匹配，提升運(yùn)維效率；三是支持按量收費(fèi)，根據(jù)實(shí)際調(diào)度的資源量向用戶收取費(fèi)用，并3.服務(wù)供給多元化人工智能2.0時(shí)代的用戶需求是多樣的。例如，部分具有較強(qiáng)研發(fā)能力的企業(yè)、高校、研究機(jī)構(gòu)，在進(jìn)行技術(shù)研發(fā)或者產(chǎn)品部署時(shí)，只需要高效、可靠、穩(wěn)定的智能算力。而隨著大模型應(yīng)用需求的增加，越來(lái)越多的企業(yè)、機(jī)構(gòu)開始自行研發(fā)大模型，不僅需要智能算力，還需要AI工程化能力以及預(yù)置的算法模型。因此，在面向最終用戶時(shí)，公共智算服務(wù)需要以便捷的方式，提供多樣化的資源選擇，通過(guò)智能調(diào)度構(gòu)件化的服務(wù)資源，提供單一種類或跨類組合的資源供給數(shù)據(jù)、算法和算力是人工智能的三大要素，在核心技術(shù)發(fā)展以及應(yīng)用落地中起著至關(guān)重要的作用，三者互相作用形成對(duì)人工智能的正向推動(dòng)力。面向人工智能發(fā)展需求，降低人工智能普及應(yīng)用的門檻，公共智算服務(wù)也需要提供相應(yīng)的算1.算力資源服務(wù)算力資源服務(wù)是公共智算服務(wù)提供的基礎(chǔ)性服務(wù)內(nèi)容，主要指面向人工智能2.0時(shí)代模型驅(qū)動(dòng)的應(yīng)用需求，通過(guò)多元計(jì)算、高性能網(wǎng)絡(luò)、高性能存儲(chǔ)和算力優(yōu)化調(diào)度，屏蔽底層硬件異構(gòu)基礎(chǔ)設(shè)施差異，以云服務(wù)方式，按需為用戶提供的大規(guī)模、高并行、高吞吐的彈性計(jì)算服務(wù)。算力資源服務(wù)示例見表4。人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南內(nèi)容/能力多元計(jì)算服務(wù)的特點(diǎn)，支持隨機(jī)讀寫，滿足大部分通用業(yè)務(wù)場(chǎng)景下的數(shù)據(jù)高性能通信框架層深度業(yè)務(wù)優(yōu)化，結(jié)合彈性、調(diào)度、加速原子能力提升計(jì)算效能。基于云原生技術(shù)體系，實(shí)現(xiàn)異構(gòu)算力資源池實(shí)時(shí)監(jiān)控并管理AI訓(xùn)練性能和故障，提供面向AI集群訓(xùn)練場(chǎng)景物理異構(gòu)硬件、池化算力資源、調(diào)度使用效率的全流程監(jiān)控和分析。關(guān)心運(yùn)行過(guò)程中的容量規(guī)劃，只需要提供打包好的Docker鏡像，即可使用云服算法模型服務(wù)是人工智能2.0時(shí)代公共智算服務(wù)的重要拓展，也是公共智算服務(wù)降低人工智能應(yīng)用門檻的重要方式。算法模型服務(wù)主要包括兩類，一是基于公共云，通過(guò)API、模塊化代碼等方式，向用戶提供基礎(chǔ)、通用的算法模型，用戶可在此基礎(chǔ)上進(jìn)行技術(shù)升級(jí)和產(chǎn)品迭代，開發(fā)出適用于各種場(chǎng)景的專屬算法模型。二是提供一站式算法模型開發(fā)工具，即面向算法模型開發(fā)部署全生命周期，支持不同的Al開發(fā)框架，提供模型開發(fā)、模型存儲(chǔ)/檢索、模型調(diào)優(yōu)/訓(xùn)練、模型推理、模型部署服務(wù)，同時(shí)面向希望進(jìn)行定制開發(fā)的用戶，提供模型定制服務(wù)。算法模型服務(wù)示例見表5。3.數(shù)據(jù)資源服務(wù)數(shù)據(jù)資源是人工智能應(yīng)用的基石，人工智能算法模型從技術(shù)理論、開發(fā)迭代到應(yīng)用落地的全過(guò)程皆依賴海量的數(shù)據(jù)資源，數(shù)據(jù)質(zhì)量和數(shù)量決定了人工智能算法模型的效果和性能。公共智算服務(wù)提供數(shù)據(jù)服務(wù)主要采用兩種方式，一是提供數(shù)據(jù)資源供給開放生態(tài)。通過(guò)打造開放的數(shù)據(jù)共享平臺(tái)，推動(dòng)各行業(yè)領(lǐng)域多種模態(tài)的數(shù)據(jù)集的匯聚，為用戶提供免費(fèi)的或增值的數(shù)據(jù)服務(wù)。二是提供數(shù)據(jù)資源治理全流程工具。面向AI算法模型訓(xùn)練對(duì)海量數(shù)據(jù)的需求，提供數(shù)據(jù)采集、清洗、易共享、易使用，降低數(shù)據(jù)資源利用的技術(shù)門檻。數(shù)據(jù)資源服務(wù)示例見表6。表5算法模型服務(wù)示例內(nèi)容/能力提供覆蓋機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、大數(shù)據(jù)等領(lǐng)域的算法，供用戶調(diào)用。提供通用的Al算法更新迭代工具，降低用戶生成專屬算法的技術(shù)門檻。提供模型開發(fā)所需的可視化、交互式的建模工具和開發(fā)環(huán)境，幫助用戶便捷開發(fā)。為模型的快速查找、樣例演示、共享和存儲(chǔ)提供便提供模型訓(xùn)練工具及環(huán)境，支持分布式訓(xùn)練、單機(jī)訓(xùn)練。支持云端、本地、設(shè)備端等多種部署方式，打開網(wǎng)頁(yè)即可開發(fā)模型。模型調(diào)用提供靈活、易用的算法模型API接口與SDK,具備自適應(yīng)推理優(yōu)化、基于性伸縮能力，使得開發(fā)者可以快速實(shí)現(xiàn)模型的調(diào)用和二次開表6數(shù)據(jù)資源服務(wù)示例內(nèi)容/能力提供在線數(shù)據(jù)倉(cāng)庫(kù)服務(wù)，實(shí)現(xiàn)經(jīng)濟(jì)且高效地分析處理海量數(shù)據(jù)。提供智能代碼開發(fā)、多引擎混編工作流、規(guī)范化任務(wù)發(fā)布等能力。從數(shù)倉(cāng)規(guī)劃、數(shù)據(jù)標(biāo)準(zhǔn)、維度建模、數(shù)據(jù)指標(biāo)等方面，以業(yè)務(wù)視角對(duì)數(shù)據(jù)進(jìn)行詮釋。提供容災(zāi)、備份、恢復(fù)、監(jiān)控、遷移等方面的全套解決方案，支持MySQL、SQLServer、PostgreSQL和OSQL多種存儲(chǔ)引擎。公共智算服務(wù)致力于構(gòu)建開放兼容、多元協(xié)作、互利共贏的服務(wù)生態(tài)，是有為政府和有效市場(chǎng)共同政府、各類科研機(jī)構(gòu)和企業(yè)。如科研機(jī)構(gòu)和企業(yè)可根據(jù)自身情況，完全依托公共智算服務(wù)部署應(yīng)地方政府也可借助公共智算服務(wù)對(duì)政務(wù)云資源進(jìn)行升級(jí)擴(kuò)容。由于公共智算服務(wù)具有一定的營(yíng)利性且存在巨大市場(chǎng)，能夠吸引眾多企業(yè)和社會(huì)組織積極參與。由于提供智算服務(wù)需要較高的初始投入、技術(shù)能力和組織管理能力，圍繞公共智算服務(wù)供給，并提供運(yùn)營(yíng)方案的策劃。投資方可以是地方政府、科研機(jī)構(gòu)、企業(yè)，或三者的任意組合。一般而言，企業(yè)投資者更加注重投資帶來(lái)的經(jīng)濟(jì)效益，地方在實(shí)際運(yùn)作中，可以根據(jù)需要設(shè)立獨(dú)立的建設(shè)方和運(yùn)營(yíng)方，也可以合并組建建設(shè)運(yùn)營(yíng)方。技術(shù)服成服務(wù)或?qū)I(yè)的技術(shù)服務(wù)、資源服務(wù)、生態(tài)運(yùn)營(yíng)等服務(wù)，參與公共智算服務(wù)體系的構(gòu)建。生態(tài)伙伴可以從技術(shù)、產(chǎn)品、應(yīng)用、產(chǎn)業(yè)等層面，提供政府側(cè)主要通過(guò)從規(guī)劃布局、投資建設(shè)、激充分調(diào)動(dòng)社會(huì)力量參與，加快構(gòu)建政府和市場(chǎng)互避免重復(fù)投資造成資源浪費(fèi)，使得智算服務(wù)能夠恰當(dāng)、高效地以合理的規(guī)模和速度與人工智能產(chǎn)在實(shí)際的運(yùn)作過(guò)程中，一般會(huì)采用項(xiàng)目化或公司化的運(yùn)作方式，由投資方首先選擇具備相應(yīng)資質(zhì)和能力的建設(shè)運(yùn)營(yíng)方作為其代表，細(xì)化建設(shè)運(yùn)營(yíng)方案，采購(gòu)服務(wù)集成商、技術(shù)服務(wù)商、資源服務(wù)商和生態(tài)運(yùn)營(yíng)商等服務(wù)，進(jìn)一步整合技術(shù)服務(wù)方和生態(tài)伙伴的資源，組建專業(yè)化的建設(shè)運(yùn)營(yíng)技術(shù)團(tuán)隊(duì)，圍繞公共智算服務(wù)的定位、目標(biāo)、用戶需求，整合資源開展專業(yè)化的建設(shè)運(yùn)營(yíng)，為用人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南(一)需求導(dǎo)向，強(qiáng)化產(chǎn)業(yè)賦能應(yīng)用推動(dòng)公共智算服務(wù)高質(zhì)量發(fā)展的關(guān)鍵在于“應(yīng)用”,圍繞Al產(chǎn)業(yè)化和產(chǎn)業(yè)Al化發(fā)展需求，通過(guò)好用、易用的服務(wù)更好賦能經(jīng)濟(jì)社會(huì)數(shù)字化我國(guó)人工智能產(chǎn)業(yè)發(fā)展前景好、市場(chǎng)規(guī)模大、應(yīng)用場(chǎng)景豐富的優(yōu)勢(shì)，加快打造一批公共智算服務(wù)賦能的人工智能應(yīng)用典型案例，通過(guò)示范帶動(dòng)，強(qiáng)化普適普惠的公共智算服務(wù)對(duì)城市智能、科學(xué)智能和行業(yè)智能發(fā)展的應(yīng)用賦能，推進(jìn)基于公共智算服務(wù)的人工智能產(chǎn)業(yè)發(fā)展新業(yè)務(wù)、新模式、人工智能應(yīng)用需求，提供更加多元靈活的公共智算服務(wù)，結(jié)合通用人工智能大模型發(fā)展趨勢(shì)，提升計(jì)算資源的多元融合、集群調(diào)度和精細(xì)化管理能力，增強(qiáng)模型生態(tài)和模型開發(fā)工程化支持能力，拓展數(shù)據(jù)開放共享和全流程治理工具支持，提高按任務(wù)匹配資源的能力，讓用戶能夠結(jié)合自身需要，以更低成本更加方便地自由選擇服務(wù)。(二)適度超前，優(yōu)化部署智算設(shè)施隨著人工智能大模型和通用人工智能的快速發(fā)展，未來(lái)80%的場(chǎng)景都將基于人工智能開展，所需的算力資源將主要由智能算力提供，智能算力緊缺將是未來(lái)一段時(shí)間內(nèi)我國(guó)算力供需方面存在的突出矛盾。對(duì)此，《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》提出要推動(dòng)算力結(jié)構(gòu)多元配置，集約化開展智算中心建設(shè)，到2025年，智能算力占比達(dá)到35%。公共智算服務(wù)所需的智能算力資源將主要源于智算中心，為此，必須結(jié)合人工智能產(chǎn)業(yè)發(fā)展形勢(shì)和應(yīng)用普及需求，適度超前、科學(xué)謀劃智算中心的發(fā)展布局，按照國(guó)家算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展總體要求，以集約、高效、綠色的方式推進(jìn)智算中心建設(shè)，通過(guò)科學(xué)布局、算網(wǎng)融合、智能調(diào)度，更多地以公共性服務(wù)的方式，(三)技術(shù)先進(jìn)，提高軟硬協(xié)同能力技術(shù)的先進(jìn)性是保證公共智算服務(wù)高質(zhì)量供給的先決條件，公共智算服務(wù)性能的提升、資源配置效率的提高、用戶服務(wù)體驗(yàn)的提升都離不開技術(shù)創(chuàng)新的推動(dòng)。面向模型驅(qū)動(dòng)的人工智能應(yīng)用普及需求，在提供公共智算服務(wù)時(shí)應(yīng)重點(diǎn)關(guān)注提升幾個(gè)方面的軟硬協(xié)同能力。一是強(qiáng)化多元算力的融合供給，加強(qiáng)底層異構(gòu)Al芯片的統(tǒng)一納管和調(diào)度，推動(dòng)跨集群異構(gòu)算力的協(xié)同調(diào)度，實(shí)現(xiàn)二是強(qiáng)化全生命周期的算法模型服務(wù)支持，提供從數(shù)據(jù)處理、模型訓(xùn)練、服務(wù)部署到智能應(yīng)用的一站式服務(wù)，支持模型一鍵調(diào)用。三是強(qiáng)化數(shù)據(jù)共享和治理服務(wù)，通過(guò)打造開放的數(shù)據(jù)共享平臺(tái)、提供數(shù)據(jù)資源治理全流程工具等，加強(qiáng)對(duì)海綠色低碳等方面的要求，加強(qiáng)相關(guān)技術(shù)的研發(fā)和(四)強(qiáng)化運(yùn)營(yíng)，培育長(zhǎng)效服務(wù)生態(tài)智算資源不僅要“建好”,更要“用好”,為此要告別“只建不管”的粗放式發(fā)展模式，樹立長(zhǎng)效運(yùn)營(yíng)理念，強(qiáng)化服務(wù)生態(tài)培育，實(shí)現(xiàn)公共智終為始，前瞻做好多主體協(xié)同的建設(shè)運(yùn)營(yíng)方案設(shè)計(jì)，在公司化或項(xiàng)目化運(yùn)作的過(guò)程中，組建形成分工合理、權(quán)責(zé)明晰的專業(yè)化運(yùn)營(yíng)團(tuán)隊(duì)，協(xié)調(diào)好投資方、建設(shè)方、運(yùn)營(yíng)方、技術(shù)服務(wù)方、生態(tài)伙伴的關(guān)系，平衡好各方利益，保障各方優(yōu)勢(shì)得到充分發(fā)揮。二是要強(qiáng)化市場(chǎng)主導(dǎo)、政府引導(dǎo)，加通過(guò)不斷擴(kuò)大用戶基數(shù)，持續(xù)提高公共智算資源的利用率，以規(guī)模效應(yīng)不斷釋放讓利空間、降低使用成本，形成合理、可盈利的商業(yè)模式，促進(jìn)(五)以評(píng)促建，提升智算服務(wù)水平評(píng)價(jià)引導(dǎo)是提升公共智算服務(wù)水平的有效方式，為此需要加快研究制定面向人工智能2.0時(shí)代的公共智算服務(wù)評(píng)價(jià)指標(biāo)體系。結(jié)合公共智算生態(tài)建設(shè)、用戶體驗(yàn)等幾個(gè)方面綜合開展評(píng)價(jià)。資源供給方面，可重點(diǎn)關(guān)注公共智算服務(wù)可提供的服務(wù)資源種類、規(guī)模等，如算力資源的規(guī)模、算法模型的種類和數(shù)量、可共享數(shù)據(jù)集的種類和數(shù)量等。平臺(tái)服務(wù)方面，可重點(diǎn)關(guān)注公共智算服務(wù)平臺(tái)在服務(wù)資源構(gòu)件化和服務(wù)調(diào)度智能化的能力，如多元異構(gòu)芯片管理、集群算力調(diào)度、算法模型和數(shù)據(jù)治理工具支持等。場(chǎng)景賦能方面，可重點(diǎn)關(guān)注模型驅(qū)動(dòng)的公共智算服務(wù)能夠支持的應(yīng)用場(chǎng)景數(shù)量和使用效果。生態(tài)建設(shè)方面，可重點(diǎn)考慮模型開源生態(tài)和數(shù)據(jù)供給生態(tài)的繁榮程度，如模型開發(fā)者、數(shù)據(jù)供給方的數(shù)量等。用戶體驗(yàn)方面，可重點(diǎn)關(guān)注用戶對(duì)公共智算服務(wù)的滿意度人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南(一)面向城市智能應(yīng)用的公共智算服務(wù)1.北京市：統(tǒng)籌布局突破算力制約目前，北京市人工智能核心企業(yè)數(shù)量已超過(guò) 1800家，占全國(guó)總數(shù)近三成，居全國(guó)首位，其中大模型企業(yè)百余家，占全國(guó)總數(shù)的一半左右，但北京市此前的人工智能算力設(shè)施多為科研機(jī)構(gòu)或企業(yè)自用，沒有余力向市場(chǎng)提供大規(guī)模算力服務(wù)。策源地實(shí)施方案(2023-2025年)》提出到2025年“人工智能核心產(chǎn)業(yè)規(guī)模達(dá)到3000億元”“輻射產(chǎn)業(yè)規(guī)模超過(guò)1萬(wàn)億元”,為支持人工智能產(chǎn)業(yè)高速發(fā)展，北京市亟需加強(qiáng)智能算力供給。(1)政策引導(dǎo)加強(qiáng)算力資源統(tǒng)籌供給能力2023年5月23日，北京市發(fā)布《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》(京政辦發(fā)〔2023〕15號(hào)),提出“提升算力資源統(tǒng)籌供與云廠商加強(qiáng)合作，提供多元化優(yōu)質(zhì)普惠算力；二是通過(guò)加快北京人工智能公共算力中心、北京數(shù)字經(jīng)濟(jì)算力中心等項(xiàng)目建設(shè)，形成規(guī)?；冗M(jìn)算力的供給能力；三是建設(shè)多云算力調(diào)度平臺(tái)，實(shí)現(xiàn)異構(gòu)算力環(huán)境統(tǒng)一管理、統(tǒng)一運(yùn)營(yíng)，并進(jìn)一步通過(guò)優(yōu)化北京市與環(huán)京區(qū)域算力集群之間的直連基礎(chǔ)光傳輸網(wǎng)絡(luò)，提高環(huán)京地區(qū)算力一體化調(diào)(2)建設(shè)北京市人工智能公共算力平臺(tái)提供北京市采用市區(qū)兩級(jí)共建的方式，布局啟動(dòng)了“北京市人工智能公共算力平臺(tái)”建設(shè)，由北京電信和京能集團(tuán)共同承建，預(yù)計(jì)2024年一季度建成總計(jì)4000P公共算力，建成后市區(qū)兩級(jí)將基于平臺(tái)強(qiáng)化算力資源統(tǒng)籌，為中小企業(yè)、科研機(jī)構(gòu)等各類創(chuàng)新主體，提供高質(zhì)量、普惠、開放(3)打造算力調(diào)度服務(wù)平臺(tái)提升一體化調(diào)度能力北京市經(jīng)開區(qū)正在建設(shè)國(guó)內(nèi)首個(gè)超大規(guī)模、多源異構(gòu)、多算一體、安全可信、生態(tài)融合的算力調(diào)度服務(wù)平臺(tái)。該平臺(tái)由北京亦莊智能城騰訊等11家算力伙伴參與，聚焦多云跨域管理、算力異構(gòu)調(diào)度、智能資源交易、產(chǎn)業(yè)生態(tài)構(gòu)建，支持通用算力、超算、智算等異構(gòu)算力的統(tǒng)一接算力調(diào)度服務(wù)平臺(tái)已完成關(guān)鍵技術(shù)驗(yàn)證工作，成功實(shí)現(xiàn)多源異構(gòu)算力調(diào)度、多云異構(gòu)算力納管、算力統(tǒng)一編排調(diào)度和算力產(chǎn)品服務(wù)交易等功能，完成大模型、生物醫(yī)藥、科學(xué)計(jì)算等場(chǎng)景應(yīng)用的實(shí)例驗(yàn)證。未來(lái)計(jì)劃開展通算、智算、超算等累計(jì)9000P以上算力資源的統(tǒng)籌調(diào)度。(4)發(fā)放人工智能算力券降低企業(yè)使用成本北京市經(jīng)濟(jì)和信息化局日前印發(fā)了《人工智能算力券實(shí)施方案(2023—2025年)》,根據(jù)《方案》,凡符合條件的企業(yè)，2023年9月1日及以后簽訂的智能算力服務(wù)合同(合同周期為一年及以內(nèi)),均可享受智能算力合同額一定比例的算力券補(bǔ)貼。企業(yè)憑已簽訂的算力服務(wù)合同向市經(jīng)濟(jì)和信息化局申領(lǐng)算力券；完成與智能算力供給方的結(jié)算后，憑發(fā)票和智能算力交付憑證向市經(jīng)濟(jì)和信息化局申請(qǐng)兌付算力券。啟用算力券旨在解決中小微企業(yè)資金實(shí)力不足、技術(shù)人才欠缺、算力匹配難應(yīng)用少等痛點(diǎn)問(wèn)題，加速推動(dòng)其數(shù)字2.杭州市：抓住MaaS模式變革機(jī)遇打造政府辦公廳關(guān)于加快推進(jìn)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展的實(shí)施意見》(以下簡(jiǎn)稱《意見》)(杭政辦函〔2023〕55號(hào))提出，杭州作為國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)和國(guó)家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，要以促進(jìn)人工智能與實(shí)體經(jīng)濟(jì)深度融合為主線，以優(yōu)質(zhì)算力普惠供給為基礎(chǔ)，以模型即服務(wù)(MaaS)模式變革為關(guān)鍵，形成“高算力+強(qiáng)算法+大數(shù)據(jù)”的產(chǎn)業(yè)生態(tài)，實(shí)現(xiàn)大算力孵化大模型、大模型帶動(dòng)大產(chǎn)業(yè)、大產(chǎn)業(yè)促進(jìn)大發(fā)展的良性循環(huán)，打造成為全國(guó)算力成本洼地、模型輸出源地、數(shù)據(jù)共享高地。根據(jù)規(guī)劃，到2025年杭州可開放算力規(guī)模將達(dá)5000PFLOPSFP16)以上。(1)規(guī)劃布局打造多元融合算力支撐體系《意見》提出打造多元融合算力支撐體系，主要做法包括：統(tǒng)籌通用算力、智能算力和邊緣力+算法”服務(wù)能力；搭建市級(jí)多云算力調(diào)度平臺(tái)，形成異構(gòu)融合、算網(wǎng)協(xié)同、綠色低碳的算力支撐體系；構(gòu)建跨區(qū)域算力協(xié)同體系，推進(jìn)優(yōu)質(zhì)算力服務(wù)覆蓋浙江省、長(zhǎng)三角區(qū)域、華東地區(qū)，(2)多措并舉強(qiáng)化算力普惠供給保障企業(yè)應(yīng)用《意見》中明確表示強(qiáng)化普惠算力供給，推一是鼓勵(lì)企業(yè)、高校院所和第三方機(jī)構(gòu)建設(shè)符合導(dǎo)向需求的算力中心，積極創(chuàng)建國(guó)家公共算力開放平臺(tái)，降低中小企業(yè)算力使用門檻。二是實(shí)施算力伙伴合作計(jì)劃，遴選一批設(shè)備性能先進(jìn)、技術(shù)安全可控、能耗綠色低碳、價(jià)格優(yōu)惠合理的算力中心作為市級(jí)算力伙伴，統(tǒng)一技術(shù)需求、服務(wù)標(biāo)準(zhǔn)、優(yōu)惠策略等。三是推進(jìn)算力供給市政化，(3)打造智能計(jì)算產(chǎn)業(yè)集群助力生態(tài)發(fā)展近年來(lái)，杭州大力推進(jìn)智能計(jì)算產(chǎn)業(yè)發(fā)展，智能計(jì)算被明確為杭州未來(lái)主攻的“制造業(yè)九大標(biāo)志性產(chǎn)業(yè)鏈”之一，已經(jīng)形成了良好的產(chǎn)業(yè)發(fā)展環(huán)境，集聚了阿里云、新華三、安恒信息等一批龍頭企業(yè)，打造了人工智能小鎮(zhèn)、中國(guó)(杭州)算力小鎮(zhèn)、之江實(shí)驗(yàn)室、杭州人工智能計(jì)算中心(二)面向科學(xué)智能應(yīng)用的公共智算服務(wù)3.復(fù)旦大學(xué)智算平臺(tái)(CFFF):國(guó)內(nèi)高?？茖W(xué)智能(AlforScience)新范研發(fā)展的同時(shí)，也帶來(lái)了更多的科研智算資源需求。為提供更強(qiáng)大、更靈活、更低成本、更綠色的智能計(jì)算服務(wù)，復(fù)旦大學(xué)CFFF(ComputingfortheFutureatFudan)智算平臺(tái)在2023年6月27日正式上線。CFFF平臺(tái)由復(fù)旦大學(xué)、阿里云、中國(guó)電信等共同打造，是國(guó)內(nèi)高校最大的云上科研智算平臺(tái)，也是國(guó)內(nèi)高校首個(gè)AI與大數(shù)據(jù)融合、智能計(jì)算與通用計(jì)算融合的異構(gòu)智能計(jì)算集群，支持異構(gòu)算力的統(tǒng)一管理和計(jì)算任務(wù)的統(tǒng)一調(diào)度，滿足不同應(yīng)用場(chǎng)景科學(xué)智能的研究和人工智能2.0時(shí)代的公共智算服務(wù)發(fā)展指南目前CFFF平臺(tái)已為復(fù)旦校內(nèi)多學(xué)院、多學(xué)科的多個(gè)科研項(xiàng)目提供安全、穩(wěn)定、高效的普惠服務(wù)，在提供大算力的同時(shí)能彈性應(yīng)對(duì)需求的爆發(fā)性增長(zhǎng)，提升模型迭代效率。未來(lái)，CFFF平臺(tái)還將持續(xù)穩(wěn)定、安全地?cái)U(kuò)大其算力規(guī)模，并向復(fù)旦校外的科研機(jī)構(gòu)、高校、醫(yī)院、高科技企業(yè)CFFF智算平臺(tái)由面向多學(xué)科融合創(chuàng)新的AlforScience智能計(jì)算集群“切問(wèn)”一號(hào)和面向高精尖研究的專用高性能計(jì)算集群“近思”一號(hào)兩部分組成，其中“近思”一號(hào)部署在復(fù)旦大學(xué)江灣校區(qū)，“切問(wèn)”一號(hào)托管在1500公里外的阿里云烏蘭察布數(shù)據(jù)中心，通過(guò)高速光纖環(huán)網(wǎng)連接實(shí)現(xiàn)異地算力間的無(wú)縫平滑調(diào)度，形成了國(guó)內(nèi)高校規(guī)模最大的異構(gòu)智能計(jì)算集群，算力總規(guī)模達(dá)到28PFlops,可提供超千卡并行智能計(jì)算，千卡并行的有效算力達(dá)92%,萬(wàn)卡并行有效算力達(dá)90%,可有效持千億參數(shù)的大模型訓(xùn)練。以復(fù)旦大學(xué)人工智能創(chuàng)新與產(chǎn)業(yè)研究院發(fā)布的45億參數(shù)量的中短期天氣預(yù)報(bào)大模型為例，應(yīng)用CFFF提供的千卡并行智算支持，完成大模型訓(xùn)練可以縮短到一天，預(yù)測(cè)效果在公開數(shù)據(jù)集上首次達(dá)到業(yè)界公認(rèn)的ECMWF(歐洲中期天氣預(yù)報(bào)中心)集合平均水平，并將模型訓(xùn)練速度縮短到1天，預(yù)測(cè)速度從原來(lái)的小時(shí)級(jí)縮短到了3秒內(nèi)，為更多科學(xué)大模型落地提供了支持。CFFF還擁有國(guó)內(nèi)高校最大規(guī)模的多級(jí)數(shù)據(jù)冷熱分層存儲(chǔ)集群，解決了海量科研數(shù)據(jù)無(wú)法長(zhǎng)期備份的痛點(diǎn)，支持云上高速傳輸，能提供穩(wěn)定安全的服務(wù)能力。以往PB級(jí)科研數(shù)據(jù)從復(fù)旦校內(nèi)傳到西部數(shù)據(jù)中心需要兩周，如今當(dāng)天就能完成，真正實(shí)現(xiàn)了“東數(shù)西算”。(2)公共云模式有效降低成本提供普惠算力智能計(jì)算相較通用計(jì)算，投入成本、技術(shù)門檻更高，成本是通用算力的10倍以上，非公共云的模式變得不可持續(xù)。CFFF平臺(tái)提供了一個(gè)新興的科研超算架構(gòu)和長(zhǎng)效運(yùn)營(yíng)機(jī)制，極大提升了科研效率、降低了科研成本，為高校創(chuàng)新發(fā)展提供了強(qiáng)勁動(dòng)力。通過(guò)CFFF平臺(tái)，各高?？梢垣@得更強(qiáng)大、更靈活、更低成本、更綠色的智能計(jì)算服務(wù)，加速科學(xué)原理發(fā)現(xiàn)和技術(shù)突破，并有力推動(dòng)科學(xué)大模型的落地。此外，CFFF平臺(tái)在通過(guò)持續(xù)擴(kuò)大其算力規(guī)模，并向復(fù)旦校外的科研也將為科研科學(xué)智能應(yīng)用提供更多普惠算力。目前CFFF平臺(tái)將為面向全球科研人員的首屆世界科學(xué)智能大賽參賽隊(duì)伍提供免費(fèi)訓(xùn)練算力，并以(3)綠色低碳技術(shù)助力節(jié)能降碳綠色發(fā)展云計(jì)算是數(shù)字經(jīng)濟(jì)發(fā)展的重要基礎(chǔ)設(shè)施，在Al革命提速的今天，讓算力更加高效低碳變得尤為重要。CFFF平臺(tái)利用綠色低碳