2024人工智能算力高質(zhì)量發(fā)展評(píng)估體系報(bào)告

目發(fā)展現(xiàn)狀及挑 發(fā)展現(xiàn) 政策上：政策導(dǎo)向日益明 技術(shù)上：生成式AI突破發(fā) 市場(chǎng)上：算力投資持續(xù)加 規(guī)模上：智算規(guī)模增速明 發(fā)展水平上：算力發(fā)展由“量”向“質(zhì) 面臨挑 挑戰(zhàn)一：算力供給不足，供需匹配不平 挑戰(zhàn)二：算力智能水平較低，難以滿足多元應(yīng)用場(chǎng) 挑戰(zhàn)三：算力面臨能源考驗(yàn)，節(jié)能降碳刻不容 挑戰(zhàn)四：多樣化算力需求提升，普適普惠水平較 挑戰(zhàn)五：供應(yīng)鏈完備性不足，生態(tài)構(gòu)建待完 挑戰(zhàn)六：性能評(píng)價(jià)簡(jiǎn)單，算力實(shí)測(cè)性能欠 定義、內(nèi)涵及特 定 內(nèi) 特 高算效：設(shè)計(jì)與運(yùn)行計(jì)算效率“雙優(yōu)”體 高智效：兼?zhèn)涓咝Ш椭悄艿腁I業(yè)務(wù)支撐能 高碳效：最低碳排放前提下實(shí)現(xiàn)最大化算力輸 可獲得：普適應(yīng)用需求和普惠使用成本的極致追 可評(píng)估：反映算力實(shí)際應(yīng)用水平的多元評(píng) 發(fā)展路徑及展 發(fā)展路 系統(tǒng)設(shè)計(jì)，提升算 協(xié)同驅(qū)動(dòng)，提升智 全生命周期管理，提升碳 基建先行，推動(dòng)算力普適普 繁榮生態(tài)，推動(dòng)算力可持續(xù)發(fā) 多元評(píng)估，加速算力規(guī)范化發(fā) 展 評(píng)估體系探 評(píng)估體系構(gòu)建背 評(píng)估體系構(gòu)建現(xiàn) 評(píng)估體系構(gòu)建建 評(píng)估體系構(gòu)建原 評(píng)估體系構(gòu)建實(shí) 評(píng)估體 算效水 智效水 碳效水 可獲得水 可持續(xù)水 評(píng)估體系構(gòu)建意 評(píng)估體系應(yīng)用建 競(jìng)爭(zhēng)力。2024財(cái)年政府預(yù)算，包括國(guó)防部、能源部、國(guó)土“東數(shù)西算”工程加快構(gòu)建全國(guó)1我國(guó)算力中心相關(guān)政策規(guī)劃（部分20247202312《深入實(shí)施“東數(shù)西算”2023102023220245年）20244（2024—2027年）20244202432025年）2024320242劃（2024-2025年)20241202312202312202312（2023-2025年)2023820237方案（2023-2025年)2023420233（來(lái)源：公開(kāi)資料AIAIGCAI領(lǐng)域的最新發(fā)展方向，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展產(chǎn)生了重大的影響。隨著人工智能預(yù)訓(xùn)練大模型的不斷進(jìn)步、AIGC算AIGC模型的通用性和工業(yè)化水平，AIGC的商業(yè)潛力變得AI領(lǐng)域競(jìng)爭(zhēng)的核心焦點(diǎn)。AIAI降低了GPU的利用率。2800435200012億歐元的公共資金用于“歐洲共同利益重要計(jì)劃5生成式AI服務(wù) 非生成式AI服務(wù)1全球人工智能服務(wù)器市場(chǎng)規(guī)模預(yù)測(cè)（單位：百萬(wàn)美元（科技巨頭發(fā)力智能算力，萬(wàn)卡算力集群布局加快。2023年以來(lái)IDC20222032 202220232024202520262027202820292030 20222023202420252026202720282029203020312AI產(chǎn)業(yè)規(guī)模預(yù)測(cè)（單位：十億美元（來(lái)源：IDC、Bloomberg、Mandeep2全球科技巨頭智算布局（部分20235月，推出AI超級(jí)計(jì)算機(jī)A326000塊H100GPU，為202435H100GPU的龐大基礎(chǔ)設(shè)施，以支撐其元宇宙和AI研究AI服務(wù)領(lǐng)域的發(fā)展AmazonEC2Ultra2H100TensorCoreGPU，為用戶在處202381H100GPU10萬(wàn)卡GPU3.2T，為未來(lái)的AI和大數(shù)據(jù)應(yīng)用提供了廣闊的發(fā)展空間MegaScale12288Ampere架構(gòu)訓(xùn)練集群，為字AI應(yīng)用方面提供了強(qiáng)大的算力保障GPU2024150004500P的萬(wàn)卡算力池。20243月，天翼云上海臨港萬(wàn)卡算力池已正式啟用（來(lái)源：公開(kāi)資料2023202120222023通用算 智能算202120222023通用算 智能算 超算算3全球算力規(guī)模（我國(guó)算力發(fā)展正處在由“量的擴(kuò)張”轉(zhuǎn)向“質(zhì)的提高”這一重要關(guān)一方面，AIGC帶動(dòng)算力需求總量不斷增長(zhǎng)，大模型訓(xùn)練亟需大AI算力支撐。AI算力需求400%復(fù)合增長(zhǎng)，AI15萬(wàn)倍，4050億的Llama3.1大模型為例，其單次訓(xùn)練算力需700億的Llama2504000億千瓦時(shí)，若不加大可再生能源利用增例，20302計(jì)算能耗，根據(jù)DigitalInformationWorldAI模型產(chǎn)生的能耗是常規(guī)云工作的三倍。OpenAI2012年以來(lái)，AI訓(xùn)練的電力需求每3-4個(gè)月就會(huì)翻一倍。據(jù)浪潮信息測(cè)算，一個(gè)1010萬(wàn)卡H1001193天，所消 45年我國(guó)算力中心耗電量（單位：億千瓦時(shí)（來(lái)源：中國(guó)信通院2024OpenAIGPT-47800萬(wàn)美元的計(jì)算資源進(jìn)行訓(xùn)練，而谷歌的GeminiUltra1.91億美元的計(jì)算資源成本目前大模型異構(gòu)算力的發(fā)展不同OS固件整機(jī)芯片平兼容性問(wèn)題突出，1-2天，復(fù)雜應(yīng)用類(lèi)故障的定位時(shí)間則更長(zhǎng)。節(jié)點(diǎn)3（馬爾薩斯陷阱（來(lái)源：浪潮信息、中國(guó)信通院

5

（來(lái)源：中國(guó)信通院和應(yīng)用，在AI模型訓(xùn)練和部署上更具優(yōu)勢(shì)，推動(dòng)預(yù)訓(xùn)練大模型在海AI應(yīng)用的門(mén)檻。在科學(xué)研究方面，高質(zhì)量算力強(qiáng)大的計(jì)算能力能夠2023年年底，全國(guó)在用算力中心平均算效為11.8GFLOPS/W，達(dá)到Token數(shù)10%GPU布數(shù)據(jù)顯示Google云平均GPU25%AIAI業(yè)務(wù)的能力和較高的自動(dòng)化、CPUPUEPUE50%，意味著算力6（來(lái)源：中國(guó)信通院過(guò)硬件重構(gòu)和軟件定義對(duì)GPU、AI芯片等進(jìn)行聚合池化，再利用先方面不斷優(yōu)化完善，提高模型框架與底層AI芯片適配度，開(kāi)發(fā)更加存算一體、Chiplet技術(shù)等改進(jìn)芯片的架構(gòu)、互聯(lián)、封裝，滿足人工智能。例如通過(guò)專(zhuān)門(mén)為AI算法設(shè)計(jì)的硬件加速器，可以顯著提高數(shù)據(jù)AI算力在特定應(yīng)用場(chǎng)景和任務(wù)中的智能處理能力。7（來(lái)源：浪潮信息算力系統(tǒng)的建設(shè)設(shè)備選型平運(yùn)營(yíng)等方面均采用綠色低碳技AI和大數(shù)8（來(lái)源：中國(guó)信通院生成式AI帶來(lái)的智能時(shí)代需要大量增加智能算力的供給才能滿不同等問(wèn)題算力平可實(shí)現(xiàn)對(duì)算力資源的統(tǒng)計(jì)監(jiān)測(cè)匹配和分析，促進(jìn)算力平的建設(shè)，以平為依托進(jìn)行供需對(duì)接，充分連接算力資9中國(guó)算力平

（來(lái)源：中國(guó)信通院AI框架、算法模型、數(shù)據(jù)處理技術(shù)、廣泛的行業(yè)應(yīng)用等，CPU、服務(wù)器、云操作系統(tǒng)、平層、應(yīng)用層等分層解耦，消除單一建立完善的標(biāo)準(zhǔn)體系，推進(jìn)不同OS、固件、整機(jī)、芯片平兼從技術(shù)、接口、設(shè)備、平等多個(gè)維度，全面采用標(biāo)準(zhǔn)化的設(shè)計(jì)，不同層次間可通過(guò)虛擬化、API等標(biāo)準(zhǔn)化方式對(duì)接，實(shí)現(xiàn)產(chǎn)業(yè)鏈整體標(biāo)10

（來(lái)源：中國(guó)信通院IT計(jì)算設(shè)方政府也紛紛出相關(guān)政策，提供稅收優(yōu)惠、資金補(bǔ)貼等支持措施，AI技術(shù)更深入地融入到各行各業(yè)的業(yè)務(wù)流程中，人工智能在各個(gè)隨著AI大模型等新興技術(shù)和應(yīng)用的快速發(fā)展，算力資源將加速試，如內(nèi)存的StreamIOzone等，反映硬件SPEC、CPUBench等，只關(guān)注IT計(jì)算設(shè)備的單設(shè)備性能，無(wú)法完Linpack（集群環(huán)境下多采用HPL基準(zhǔn)）等，重點(diǎn)呈現(xiàn)系統(tǒng)在稠密矩陣求解方面的能力。AI業(yè)務(wù)支撐能力評(píng)估。人工智能升算力在垂直行業(yè)領(lǐng)域的智能支撐水平是未來(lái)算力高質(zhì)量發(fā)展的重AI業(yè)務(wù)中的性能表現(xiàn)，PUE及耗電量通常被認(rèn)為是算力綠色評(píng)估的核心指標(biāo)，如2020年底全國(guó)數(shù)據(jù)PUE1.62939億kWh，2023PUE1.481500kWh。算力產(chǎn)業(yè)耗電量急劇增加，PUEPUE角度進(jìn)行評(píng)估優(yōu)化已無(wú)法適PUEWUE等據(jù)中國(guó)信通院統(tǒng)計(jì)，202366.7%12個(gè)指11（來(lái)源：中國(guó)信通院理論算效：理論算效（CE）是算力（CP）IT設(shè)備公式為：CE=CP/∑ITFLOPS/W，即單位功率的IT設(shè)備本身的運(yùn)行成本和制冷設(shè)備的AI業(yè)務(wù)的處理能AI應(yīng)用負(fù)載的實(shí)測(cè)性能