人工智能算力資源池技術(shù)規(guī)范編制說明

《人工智能算力資源池技術(shù)規(guī)范》（征求意見稿）團(tuán)體標(biāo)準(zhǔn)編制說明一、工作簡況任務(wù)來源本標(biāo)準(zhǔn)由中關(guān)村新興科技服務(wù)業(yè)產(chǎn)業(yè)聯(lián)盟提出并歸口，標(biāo)準(zhǔn)計(jì)劃號(hào)為D-STSI-2023-50。標(biāo)準(zhǔn)編制過程（1）成立標(biāo)準(zhǔn)編制組，技術(shù)調(diào)研和資料收集標(biāo)準(zhǔn)立項(xiàng)后，為保證標(biāo)準(zhǔn)制定工作的順利開展、提高標(biāo)準(zhǔn)的質(zhì)量和可用性，由起草單位和相關(guān)技術(shù)專家共同組建了標(biāo)準(zhǔn)編制組，負(fù)責(zé)對(duì)相關(guān)技術(shù)要求進(jìn)行研究確定。標(biāo)準(zhǔn)編制組明確了目標(biāo)要求、工作思路、人員分工和工作進(jìn)度等。在此基礎(chǔ)上，標(biāo)準(zhǔn)編制組對(duì)人工智能算力資源、平臺(tái)計(jì)算資源、云計(jì)算資源池、虛擬化與調(diào)度等方面的相關(guān)資料和標(biāo)準(zhǔn)進(jìn)行了廣泛收集整理和分析。（2）確定標(biāo)準(zhǔn)框架，形成標(biāo)準(zhǔn)草案2023年9月初，根據(jù)調(diào)研結(jié)果，結(jié)合相關(guān)政策、標(biāo)準(zhǔn)、文件的要求，標(biāo)準(zhǔn)編制組編制了標(biāo)準(zhǔn)基本框架，并多次組織開展內(nèi)部研討，對(duì)《人工智能算力資源池技術(shù)規(guī)范》的標(biāo)準(zhǔn)內(nèi)容重點(diǎn)、標(biāo)準(zhǔn)制定依據(jù)和編制原則等形成了共識(shí)，完成標(biāo)準(zhǔn)草案編寫。（3）形成標(biāo)準(zhǔn)征求意見稿2023年9月中旬，標(biāo)準(zhǔn)編制組對(duì)標(biāo)準(zhǔn)草案進(jìn)行修改完善，包括資源池所支持的物理計(jì)算資源、資源池的總體要求、資源池的功能、資源池的可靠性要求等，對(duì)標(biāo)準(zhǔn)內(nèi)容進(jìn)行了反復(fù)討論、論證，根據(jù)研討結(jié)果對(duì)標(biāo)準(zhǔn)草案進(jìn)行修改，形成了標(biāo)準(zhǔn)征求意見稿。二、標(biāo)準(zhǔn)制定的目的和意義目前，人工智能通過數(shù)據(jù)、算力、算法和場景的融合深入到各行各業(yè)，促進(jìn)和賦能數(shù)智化轉(zhuǎn)型。其中，強(qiáng)大的算力讓圖像、語音等復(fù)雜數(shù)據(jù)的處理能力得以提升，進(jìn)而改變傳統(tǒng)的人人或人機(jī)交互方式，使得新的交互方式迅速得到應(yīng)用?！?022-2023中國人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》指出，中國人工智能計(jì)算力繼續(xù)保持快速增長，2022年智能算力規(guī)模達(dá)到268百億億次/秒(EFLOPS)，超過通用算力規(guī)模。預(yù)計(jì)未來5年中國智能算力規(guī)模的年復(fù)合增長率將達(dá)52.3%。目前我國人工智能算力資源存在分配不靈活、利用率低、缺乏整體調(diào)度和監(jiān)控等普遍問題，而資源池化作為云計(jì)算的核心支撐技術(shù)之一可有效解決上述問題。資源池的核心是通過軟件的方法，將各種硬件（CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)等）變成可以動(dòng)態(tài)管理的“資源池”，從而提升資源的利用率，簡化系統(tǒng)管理，實(shí)現(xiàn)資源整合，讓IT對(duì)業(yè)務(wù)的變化更具適應(yīng)力。AI算力資源池化也是遵循這樣的理念，對(duì)物理計(jì)算資源進(jìn)行抽象，軟件化后形成一個(gè)統(tǒng)一的資源池，方便用戶按需對(duì)計(jì)算資源資源進(jìn)行有效調(diào)用，無需關(guān)注實(shí)際物理計(jì)算資源的大小，數(shù)量，型號(hào)以及安插的物理位置。本標(biāo)準(zhǔn)針對(duì)人工智能算力資源池技術(shù)規(guī)范方面存在的標(biāo)準(zhǔn)空白，對(duì)人工智能算力資源池的總體架構(gòu)、總體要求、功能要求等進(jìn)行規(guī)范，對(duì)于利用算力資源池實(shí)現(xiàn)算力資源的虛擬化、整合、調(diào)度和高效利用，具有重要的現(xiàn)實(shí)意義。三、標(biāo)準(zhǔn)編制依據(jù)本標(biāo)準(zhǔn)在編制的過程中遵循“先進(jìn)性、科學(xué)性、可操作性”的原則，按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。編制過程中，標(biāo)準(zhǔn)編制組主要參考了GB/T41867-2022《信息技術(shù)人工智能術(shù)語》、GB/T42018-2022《信息技術(shù)人工智能平臺(tái)計(jì)算資源規(guī)范》、YDT5227-2015《云計(jì)算資源池系統(tǒng)設(shè)備安裝工程設(shè)計(jì)規(guī)范》等國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)的框架和技術(shù)內(nèi)容。四、標(biāo)準(zhǔn)主要內(nèi)容本標(biāo)準(zhǔn)共計(jì)10章，主要內(nèi)容如下：1、范圍本文件規(guī)定了人工智能算力資源池的總體架構(gòu)、總體要求、功能要求、兼容性要求、組件通信要求、部署集成要求及安全和可靠性要求。本文件適用于人工智能算力資源池的設(shè)計(jì)、開發(fā)和運(yùn)維。2、規(guī)范性引用文件給出了本標(biāo)準(zhǔn)所規(guī)范性引用的標(biāo)準(zhǔn)：包括GB/T41867-2022《信息技術(shù)人工智能術(shù)語》、GB/T42018-2022《信息技術(shù)人工智能平臺(tái)計(jì)算資源規(guī)范》2項(xiàng)國家標(biāo)準(zhǔn)。3、術(shù)語、定義和縮略語給出了本標(biāo)準(zhǔn)所用的術(shù)語和定義：GB/T41867-2022、GB/T42018-2022界定術(shù)語和定義適用于本文件。此外，還定義了“AI算力池化”，并給出了AI、API等縮略語。4、總體架構(gòu)給出人工智能算力資源池的總體架構(gòu)，主要包括異構(gòu)算力、池化服務(wù)、調(diào)度控制服務(wù)、運(yùn)行時(shí)和運(yùn)維管理。5、總體要求給出人工智能算力資源池的總體要求，主要涉及架構(gòu)設(shè)計(jì)、對(duì)異構(gòu)資源的支持、軟硬件要求、性能要求、能耗要求、運(yùn)維管理等方面。6、功能要求給出人工智能算力資源池的功能要求，主要包括池化管理功能、池化調(diào)度功能、提供任意規(guī)格算力資源功能、虛擬算力資源隔離功能、業(yè)務(wù)熱遷移功能和橫向擴(kuò)展功能。7、兼容性要求主要包括：網(wǎng)絡(luò)兼容性、GPU設(shè)備兼容性、API版本兼容性、操作系統(tǒng)兼容性、云平臺(tái)兼容性、深度學(xué)習(xí)框架。8、組件通信要求分別給出管理平面網(wǎng)絡(luò)和數(shù)據(jù)平面網(wǎng)絡(luò)的通信要求。9、部署集成要求提出資源池各個(gè)服務(wù)組件的部署要求以及適配操作系統(tǒng)、云平臺(tái)、容器等集成要求。10、安全和可靠性要求安全要求主要涉及資源池架構(gòu)、用戶身份鑒別和訪問控制、安全防護(hù)、虛擬化環(huán)境安全等方面?？煽啃砸笾饕婕案呖捎?、熱遷移和備份恢復(fù)等要求。五、重大分歧意見的處理經(jīng)過和依據(jù)本標(biāo)準(zhǔn)起草過程中無重大分歧。六、貫徹標(biāo)準(zhǔn)的措施建議標(biāo)準(zhǔn)只有通過實(shí)施才能充分發(fā)揮作用。貫徹實(shí)施標(biāo)準(zhǔn)要加大宣傳力度，利用多種渠道為標(biāo)準(zhǔn)實(shí)施營造良好的社會(huì)氛圍，在標(biāo)準(zhǔn)實(shí)施后，可開展標(biāo)準(zhǔn)培訓(xùn)和應(yīng)用示范，使得標(biāo)準(zhǔn)實(shí)施能真正落地；同時(shí)加強(qiáng)標(biāo)準(zhǔn)實(shí)施評(píng)價(jià)，建立反饋平臺(tái)，對(duì)發(fā)現(xiàn)的問題及提出的意見進(jìn)行深入探討，做好標(biāo)準(zhǔn)的修訂和完善工作，切