2025年中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告-2025-02-宏觀大勢(shì)

算法是驅(qū)動(dòng)是人工智能發(fā)展的核心引擎，決定了應(yīng)用的智能上限，也牽引著算力的發(fā)展。2024年，o系列、Llama3、通義千問(wèn)、R型的發(fā)布，正是基于算法層面的極大創(chuàng)新，對(duì)中國(guó)乃至全球的人工智能產(chǎn)業(yè)帶來(lái)一方面DeepSeek采用了大規(guī)模強(qiáng)化學(xué)習(xí)、多頭注意力機(jī)制等算法創(chuàng)新，智能水平在美國(guó)高只有Llama3的1/10，推理階段緩存數(shù)據(jù)量降低了50倍，為在算力約束的條件下進(jìn)行AI算法在后訓(xùn)練和推理階段更多的算力投入，可以進(jìn)一步大幅提升大模型的深度于杰文斯悖論的現(xiàn)象表明，DeepSeek帶來(lái)的算法效率的提升并未抑制算力需求，反而因更多的用戶和場(chǎng)景的加入，推動(dòng)大模型普及與應(yīng)用落地，重構(gòu)產(chǎn)業(yè)創(chuàng)新范式，帶動(dòng)數(shù)業(yè)的首要投資目標(biāo)。在旺盛的市場(chǎng)需求、豐富應(yīng)用場(chǎng)景的驅(qū)動(dòng)下，中國(guó)長(zhǎng)態(tài)勢(shì)。IDC最新預(yù)測(cè)結(jié)果顯示，2025年中國(guó)智能算力規(guī)模將達(dá)到1,037.3EFLOPS，并在大幅降低訓(xùn)練部署成本并提供與閉源模型性能水平相當(dāng)?shù)哪芰Γ蔀橥苿?dòng)放和部分開(kāi)放的基礎(chǔ)模型，開(kāi)源社區(qū)的協(xié)作和貢獻(xiàn)正在成為加速技術(shù)創(chuàng)新的框架作為人工智能開(kāi)發(fā)的基礎(chǔ)，其生態(tài)系統(tǒng)日益豐富。ID新能力、運(yùn)營(yíng)主權(quán)、透明度和更低成本，將有55%的企強(qiáng)數(shù)據(jù)支持和模型效率，系統(tǒng)性地提高算力利用率。提高模型架構(gòu)效率與增加真正的競(jìng)爭(zhēng)優(yōu)勢(shì)。算法創(chuàng)新與模型迭代是提升模算效率的關(guān)鍵，通過(guò)算法創(chuàng)新，如模型剪枝、知識(shí)蒸餾、設(shè)計(jì)高效模型架構(gòu)、分布式計(jì)算等方法，能在保障模型型計(jì)算量和存儲(chǔ)需求，降低同等精度水平下的算力成本，加速人工智能人工智能算力服務(wù)市場(chǎng)蓬勃發(fā)展，算力供給模式不斷創(chuàng)新。企業(yè)對(duì)智能能力的需求正在發(fā)生深刻變化，傳統(tǒng)算力技術(shù)架構(gòu)和云服務(wù)模式難以滿工智能將推動(dòng)企業(yè)更多使用人工智能就緒數(shù)據(jù)中心托管設(shè)施和生成式人工智能服縮短部署時(shí)間，降低資本成本。這一變化挑戰(zhàn)了傳統(tǒng)算力服務(wù)的優(yōu)勢(shì)，促使算力服務(wù)商不斷創(chuàng)新，提升技術(shù)水平和服務(wù)質(zhì)量，并通過(guò)合作機(jī)制重新分配資源與市場(chǎng)，形成由數(shù)據(jù)中心服務(wù)商、云服務(wù)商、硬件制造商以及其他創(chuàng)新企業(yè)共同參與的產(chǎn)業(yè)生樣化的智能算力需求。IDC數(shù)據(jù)顯示，2024年中國(guó)智算服務(wù)市場(chǎng)整體規(guī)模達(dá)到50億美元，挑戰(zhàn)，業(yè)界積極探索破局之道，液冷技術(shù)作為關(guān)鍵突破，可以顯著中心的總能耗，通過(guò)全棧液冷方案，推動(dòng)算力設(shè)施在計(jì)算節(jié)點(diǎn)層面層面的綠色化和低碳化轉(zhuǎn)型。IDC預(yù)測(cè)，2028年中國(guó)液冷服務(wù)器市場(chǎng)將達(dá)到105億美元，人工智能行業(yè)滲透度持續(xù)增加，城市走出各具特色的發(fā)展路徑。人工智五的行業(yè)依次為：互聯(lián)網(wǎng)、金融、運(yùn)營(yíng)商、制造和政府，其中，互聯(lián)網(wǎng)企業(yè)在大模型的研發(fā)、應(yīng)用及推廣過(guò)程中持續(xù)發(fā)揮引領(lǐng)作用；金融行業(yè)進(jìn)一步加深人工智和個(gè)性化財(cái)富管理等場(chǎng)合的融合，排名從第四名攀升至第二名；制造業(yè)持續(xù)加速智能化轉(zhuǎn)型，擴(kuò)大人工智能技術(shù)在生產(chǎn)線、產(chǎn)品設(shè)計(jì)、運(yùn)營(yíng)和安監(jiān)等場(chǎng)景的應(yīng)用至第四名。中國(guó)人工智能城市評(píng)估框架首次將大模型架構(gòu)及生成式人工設(shè)進(jìn)度和規(guī)劃布局納入關(guān)鍵指標(biāo)，評(píng)估結(jié)果顯示，北京憑借其科研資源智能創(chuàng)新中心，繼續(xù)領(lǐng)跑發(fā)展，位居首位；杭州和上海分別位列第二和其國(guó)際化優(yōu)勢(shì)和政策支持，在推動(dòng)人工智能世界級(jí)產(chǎn)業(yè)集群建設(shè)等方面PART全球人工智能市場(chǎng)持續(xù)呈現(xiàn)增長(zhǎng)態(tài)勢(shì)，成為各行業(yè)智能化升級(jí)的重要驅(qū)動(dòng)力。生成式人工智能和大模型是推動(dòng)人能技術(shù)迅猛發(fā)展的關(guān)鍵因素，深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)和遷移學(xué)習(xí)等核心技術(shù)的突破，使得模型在處理復(fù)雜任務(wù)時(shí)變得更加高效，進(jìn)而在更多商業(yè)化場(chǎng)景中得以落地，并逐漸影響社會(huì)經(jīng)濟(jì)的方方面面。在技術(shù)創(chuàng)新、應(yīng)用場(chǎng)景拓展的多重驅(qū)推進(jìn)社會(huì)的智能化轉(zhuǎn)型，2024年宣布設(shè)立規(guī)模超過(guò)650億美元的投資基金，用于支持芯片和人工智能行業(yè)的發(fā)的安全使用。2024年8月，全球首部全面監(jiān)管和科學(xué)家等開(kāi)發(fā)可信、前沿的生成式人工智能模型提供計(jì)算、存儲(chǔ)和數(shù)據(jù)等服務(wù)。目前，歐盟已經(jīng)收到來(lái)自芬全球范圍內(nèi)人工智能技術(shù)的加速發(fā)展與生成式人工智能的持續(xù)創(chuàng)新密切相關(guān)，生成式人工智能正在成為企業(yè)重要新型作負(fù)載?；诖竽Ｐ蛷?qiáng)大的計(jì)算能力和學(xué)習(xí)能力，生成式人工智能技術(shù)取得了突破性的進(jìn)展，其能力可覆蓋內(nèi)容生成、數(shù)據(jù)增強(qiáng)、創(chuàng)意輔助等諸多應(yīng)用場(chǎng)景，極大地提高了生產(chǎn)效率，為用戶帶來(lái)全新的體驗(yàn)，并進(jìn)一步助推企業(yè)整體趨勢(shì)一：規(guī)模法則（Scalinglaw）在當(dāng)前人工智能發(fā)展中仍然占主導(dǎo)地同時(shí)，基于杰文斯悖論的現(xiàn)象表明，DeepSeek帶來(lái)的算法效率的提升并未抑制算力需求，的發(fā)布對(duì)中國(guó)乃至全球人工智能產(chǎn)業(yè)帶來(lái)巨大變革，其通過(guò)技術(shù)普惠化、場(chǎng)景縱深化和算力泛在化三重路徑，推動(dòng)大技術(shù)普惠化：DeepSeek的核心技術(shù)不僅顯著提升了模型性能生態(tài)創(chuàng)造了條件，引領(lǐng)一場(chǎng)從單純算力擴(kuò)張轉(zhuǎn)向增效提質(zhì)的產(chǎn)業(yè)變革。DeepSeek通過(guò)開(kāi)源開(kāi)放戰(zhàn)略和場(chǎng)景縱深化：得益于其強(qiáng)大的語(yǔ)言處理能力、經(jīng)濟(jì)高效的訓(xùn)練過(guò)程以及對(duì)特定業(yè)務(wù)需求的高度適應(yīng)性，Deep-泛的應(yīng)用，顯著拉動(dòng)了人工智能算力在數(shù)據(jù)中心、端側(cè)及邊緣側(cè)的發(fā)展。在數(shù)據(jù)中心，DeepSeek不僅提高了訓(xùn)練和推理效率，降低了能耗，還因其高性能吸引了更多企業(yè)部署復(fù)雜人工智能解決方案；在端側(cè)，DeepSeek提邊緣計(jì)算領(lǐng)域，DeepSeek能夠在邊緣設(shè)備上執(zhí)行關(guān)鍵分析任務(wù)，實(shí)現(xiàn)低延遲響應(yīng)和分布式智能處理，減輕中央并行、流水線并行及張量并行等策略。為了滿足大模型對(duì)計(jì)算資源的高需求，提升單節(jié)點(diǎn)的計(jì)算性能（Scale-up）變得至關(guān)重要，這包括增加單芯片或單個(gè)機(jī)架的計(jì)算能力。通常，配備8塊以支持具有2,000億參數(shù)的大模型訓(xùn)練，而當(dāng)插卡數(shù)量可擴(kuò)展至72塊高性能G數(shù)的大模型訓(xùn)練，這將有效加速智能涌現(xiàn)的實(shí)現(xiàn)。其次，通過(guò)增加節(jié)點(diǎn)數(shù)量，實(shí)現(xiàn)計(jì)算能力的橫向擴(kuò)展加，面向應(yīng)用和推理需求對(duì)芯片和系統(tǒng)架構(gòu)進(jìn)行設(shè)計(jì)愈加重要，大語(yǔ)言模型推理包含兩個(gè)重要的階段：預(yù)填充（Pre?ll）和解碼（Decode），兩個(gè)階段處理token序列的長(zhǎng)度不同，對(duì)計(jì)算和存儲(chǔ)資源的訪問(wèn)頻率和調(diào)度需求也不同，實(shí)操中往往采用P-D解耦部署策略，通過(guò)構(gòu)建分離式算力資源池，縮短計(jì)算時(shí)間，降低計(jì)算成生成式人工智能代表了一種全新的技術(shù)范式，這種范式要求企業(yè)從硬件到軟件、從開(kāi)發(fā)工具到用戶體驗(yàn)實(shí)現(xiàn)全面創(chuàng)新。若將生成式人工智能發(fā)展作為企業(yè)戰(zhàn)略性工作負(fù)載，企業(yè)需要尋求新的供應(yīng)商和合作伙伴支持生成式人工智能落鑒于生成式人工智能技術(shù)棧復(fù)雜、供應(yīng)鏈漫長(zhǎng)，為企業(yè)提供低門檻的生成式人工智能應(yīng)用開(kāi)發(fā)平臺(tái)越來(lái)越重要。通過(guò)平臺(tái)整合服務(wù)能力，企業(yè)可獲得模型構(gòu)建和精排、應(yīng)用開(kāi)發(fā)與部署、數(shù)據(jù)管理等相關(guān)軟件及工具，以及資源統(tǒng)籌和調(diào)度管理等服務(wù)和先進(jìn)的行業(yè)智能化解決方案，從而有效加速先進(jìn)技術(shù)落地和商業(yè)價(jià)值實(shí)現(xiàn)。生成式人工智能應(yīng)用與開(kāi)發(fā)平臺(tái)不僅是技術(shù)工具的集合，更是互聯(lián)生態(tài)的載體，其應(yīng)具備開(kāi)放性、互操作性、靈活性和適應(yīng)性，通過(guò)圍繞生態(tài)構(gòu)建自身價(jià)值，幫助企業(yè)簡(jiǎn)化集成流程、實(shí)現(xiàn)資源高效擴(kuò)展、推動(dòng)跨供應(yīng)商的一致性和互操作性，應(yīng)對(duì)數(shù)據(jù)治理等方生成式人工智能重塑了數(shù)據(jù)生命周期特征，數(shù)據(jù)的生成、采集、存儲(chǔ)、處理和分析變得更加復(fù)雜。全長(zhǎng)，IDC數(shù)據(jù)顯示，2024年全球產(chǎn)生的總數(shù)據(jù)量達(dá)到163ZB，2025年將增至201.6ZB，2028年將翻番至393.9ZB，覆蓋文本、圖像和視頻三種類型，此外，還有接近18%的生成數(shù)據(jù)為軟件代碼。企業(yè)需據(jù)特征，構(gòu)建先進(jìn)數(shù)據(jù)基礎(chǔ)設(shè)施，為數(shù)據(jù)收集、預(yù)處理、寫入讀出、穩(wěn)定訓(xùn)練集、數(shù)據(jù)安全、推理結(jié)果使用等環(huán)節(jié)提供支撐，并根據(jù)數(shù)據(jù)量、訪問(wèn)模式及成本效益決定采用云存儲(chǔ)、本地存儲(chǔ)或混合存儲(chǔ)方案，發(fā)揮先進(jìn)存儲(chǔ)介質(zhì)和存儲(chǔ)伴隨數(shù)據(jù)逐漸成為企業(yè)的核心資產(chǎn)和重要生產(chǎn)要素，企業(yè)需要提這一需求將促進(jìn)企業(yè)使用數(shù)據(jù)增強(qiáng)工具、數(shù)據(jù)合成等方式提高數(shù)據(jù)質(zhì)量。數(shù)據(jù)增強(qiáng)工具可以通過(guò)對(duì)現(xiàn)有數(shù)據(jù)進(jìn)行擴(kuò)展替真實(shí)世界數(shù)據(jù)進(jìn)行應(yīng)用測(cè)試或人工智能訓(xùn)練，其比收集足夠的真實(shí)世界數(shù)據(jù)更具成本效益和效率。通過(guò)這些服務(wù)，深度學(xué)習(xí)和生成式人工智能模型的規(guī)模和復(fù)雜性增加，使得支持這些模型的基礎(chǔ)設(shè)施變得更加復(fù)雜、龐大且資回報(bào)率與生成式人工智能的應(yīng)用案例和業(yè)務(wù)成果聯(lián)系起來(lái)，通過(guò)加速應(yīng)用部署，使高投資實(shí)現(xiàn)價(jià)值回報(bào)。生成式人比如提升員工體驗(yàn)、加強(qiáng)客戶關(guān)系和忠誠(chéng)度以及優(yōu)化品牌營(yíng)銷。這些軟性收益雖然不易量化，但對(duì)企業(yè)的長(zhǎng)期成功至關(guān)重要。企業(yè)可以利用技術(shù)評(píng)估、項(xiàng)目組合管理和企業(yè)整體戰(zhàn)略管理等方法，制定符合自身發(fā)展需求的生成式人工智企業(yè)會(huì)更加重視成本效益更高的人工智能解決方案，采用有望降低人工智能基礎(chǔ)設(shè)施要求和成本的新技術(shù)，如小語(yǔ)言在硬件創(chuàng)新方面，廠商也正在推出先進(jìn)的人工智能芯片方案，加速生成式人工智能工作負(fù)載的處理，提高性價(jià)比。同人工智能大模型技術(shù)的研發(fā)和應(yīng)用帶來(lái)了更《歐洲綠色協(xié)議》、《美國(guó)新能源法案》、《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》、《企業(yè)可持續(xù)發(fā)展報(bào)告指令》等可持續(xù)發(fā)展政策法規(guī)的施行，對(duì)現(xiàn)有數(shù)據(jù)中心基礎(chǔ)設(shè)施提出了更嚴(yán)格的能耗要求。大模型的訓(xùn)練和優(yōu)化作為能源密集型任務(wù)，需要高密度機(jī)架的支持，而這些機(jī)架的能耗已超出傳統(tǒng)風(fēng)冷的能力范圍，促使越來(lái)越多的數(shù)據(jù)中心轉(zhuǎn)向使用液冷基礎(chǔ)設(shè)施，將原本靜態(tài)儲(chǔ)存的電能，轉(zhuǎn)化為驅(qū)動(dòng)大規(guī)模計(jì)算模型的動(dòng)態(tài)算力。不再滿足于電能的簡(jiǎn)單儲(chǔ)備，而是致力大的計(jì)算支撐。通過(guò)這一轉(zhuǎn)變，智算數(shù)據(jù)中心不僅可以優(yōu)化能源利用結(jié)構(gòu)，減少能源浪費(fèi)，更以就近業(yè)等七大加速發(fā)展領(lǐng)域。黨的二十屆三中全會(huì)也提出要推動(dòng)實(shí)體經(jīng)濟(jì)和數(shù)字經(jīng)濟(jì)的融合發(fā)展，為高質(zhì)量發(fā)能。在政策的鼓勵(lì)和引導(dǎo)下，中國(guó)企業(yè)將人工智能作為產(chǎn)業(yè)創(chuàng)新的抓手，加速探究生成式人工智能等先進(jìn)我們正在大力投資生成式AI，并已制定了用于培訓(xùn)和獲對(duì)大型模型及生成式人工智能需求的日益增長(zhǎng)，正顯著推動(dòng)中國(guó)人工智能算力基礎(chǔ)設(shè)施的快速發(fā)展，促使企業(yè)不級(jí)其硬件配置，通過(guò)采購(gòu)高性能的計(jì)算設(shè)備、優(yōu)化數(shù)據(jù)中心基礎(chǔ)設(shè)施、提升存儲(chǔ)和網(wǎng)絡(luò)能力等，進(jìn)一步支持復(fù)雜的人工智能運(yùn)算任務(wù)。這一趨勢(shì)不僅反映了市場(chǎng)對(duì)先進(jìn)人工智能技術(shù)的迫切需求，也體現(xiàn)了中國(guó)企業(yè)在全球人工智能競(jìng)賽度（FP16）相當(dāng)運(yùn)算能力數(shù)據(jù)，測(cè)算了中國(guó)智能算力規(guī)模。結(jié)果顯示，2025年中國(guó)智能算力規(guī)模將達(dá)到1,037.3 在旺盛的市場(chǎng)需求、豐富應(yīng)用場(chǎng)景的驅(qū)動(dòng)下，中國(guó)人工智能算力基礎(chǔ)設(shè)施呈現(xiàn)出快速發(fā)展的趨勢(shì)，并表現(xiàn)出如下發(fā)展服務(wù)化：為滿足不同的算力需求，人工智能算力服務(wù)不斷革新。生成式人工智能IaaS服務(wù)可為企業(yè)按需提供容的挑戰(zhàn)。其中，算力基礎(chǔ)設(shè)施是關(guān)鍵議題，企業(yè)當(dāng)下面臨的相關(guān)挑戰(zhàn)包括但不限于計(jì)算架構(gòu)難以支持大規(guī)模應(yīng)用、與企業(yè)在人工智能大模型訓(xùn)練、推理階段，會(huì)面臨不同的算力挑戰(zhàn)。對(duì)于持續(xù)開(kāi)展大模型訓(xùn)練和研發(fā)的企業(yè)和研究機(jī)構(gòu)而言，他們需要完成大量計(jì)算任務(wù)，推高算力需求，將長(zhǎng)期處于高性能算力供不應(yīng)求的狀態(tài)；隨著大模型和工智能技術(shù)在實(shí)際應(yīng)用場(chǎng)景中落地，企業(yè)普遍面臨以推理負(fù)載為主的算力需求，在推理階段，算力分配和調(diào)問(wèn)題，推理任務(wù)的算力需求具有波動(dòng)性，難以預(yù)測(cè)和管理，導(dǎo)致資源分配不均衡，缺乏有效的算力分配和調(diào)此外，對(duì)于調(diào)整技術(shù)發(fā)展路徑的科技企業(yè)或者行業(yè)巨頭而言，如放棄自研大模型轉(zhuǎn)用第三方模型，結(jié)束大模向模型推理，或通過(guò)模型剪枝、量化等方法降低模型算力需求，可能會(huì)出現(xiàn)算力盈余的情況。同時(shí)，在智算中心的積中心單期算力規(guī)劃可達(dá)千P級(jí)及以上，而運(yùn)營(yíng)商和互聯(lián)網(wǎng)公司的智算中心則致力于實(shí)現(xiàn)萬(wàn)卡及以上的算力規(guī)模部增強(qiáng)數(shù)據(jù)支持：提高數(shù)據(jù)質(zhì)量可以減少無(wú)效計(jì)算，提高模型訓(xùn)練和推理的效率，提升整體計(jì)算性能和結(jié)果準(zhǔn)確），），PART大模型興起和生成式人工智能應(yīng)用顯著提升了對(duì)高性能計(jì)算資源的需求，人工智能服務(wù)器作為支撐這些復(fù). 隨著大模型訓(xùn)練和推理任務(wù)的復(fù)雜性和規(guī)模不斷增加，人工智能服務(wù)器朝著更高性能服務(wù)器在算力提升、功耗優(yōu)化和硬件加速等領(lǐng)域?qū)崿F(xiàn)突破，為大規(guī)模數(shù)據(jù)處理和執(zhí)行深度學(xué)習(xí)等復(fù)雜計(jì)算任務(wù)提供了強(qiáng)有力的支撐。人工智能服務(wù)器不斷集成更多的智能管理和優(yōu)化功能。例如，通過(guò)引入智能調(diào)度和資源管理系統(tǒng)，可以動(dòng)態(tài)分配計(jì)算資源，優(yōu)化任務(wù)執(zhí)行效率，減少資源浪費(fèi)。這些功能的提升，使得人工智能服務(wù)器能夠更好地支持大人工智能服務(wù)器的生態(tài)系統(tǒng)建設(shè)也將成為市場(chǎng)發(fā)展的關(guān)鍵因素，硬件與軟件的協(xié)同作用將進(jìn)一步提升算人工智能芯片作為算力產(chǎn)業(yè)的關(guān)鍵基礎(chǔ)設(shè)施要素，呈現(xiàn)多元化發(fā)展趨勢(shì)。多元化的人工智能芯片可針對(duì)景進(jìn)行優(yōu)化設(shè)計(jì)，例如，針對(duì)深度學(xué)習(xí)訓(xùn)練的GPU和TPU，能夠提供大規(guī)模矩陣運(yùn)算的高效支持；而針對(duì)和產(chǎn)業(yè)發(fā)展等多個(gè)方面展現(xiàn)出蓬勃發(fā)展的態(tài)勢(shì)。在技術(shù)方面，中國(guó)人工智能芯片針對(duì)深度學(xué)習(xí)優(yōu)化架構(gòu)設(shè)計(jì)，推進(jìn)架構(gòu)創(chuàng)新，并重視軟硬件協(xié)同優(yōu)化，通過(guò)編譯器、運(yùn)行時(shí)環(huán)境、開(kāi)發(fā)工具鏈等一系列配套軟件的支持加速硬件潛能的發(fā)揮。在生態(tài)系統(tǒng)建設(shè)方面，諸多廠商推出開(kāi)放平臺(tái)，提供豐富的API接口和預(yù)訓(xùn)練模型庫(kù)，降低使用門檻，并構(gòu)此外，人工智能芯片企業(yè)還與其他行業(yè)領(lǐng)導(dǎo)者建立戰(zhàn)略合作伙伴關(guān)系，共同探索新的應(yīng)用場(chǎng)景和服務(wù)模式。未來(lái)全球人工智能芯片市場(chǎng)將持續(xù)擴(kuò)大，中國(guó)作為重要市場(chǎng)之一，也將迎來(lái)高速增長(zhǎng)期。政府出臺(tái)一系列促進(jìn)產(chǎn)業(yè)發(fā)展的扶持政策，包括資金投入、稅收優(yōu)惠和知識(shí)產(chǎn)權(quán)保護(hù)等。在大力政策支持下，芯片廠商正在加速新技術(shù)研發(fā)，推進(jìn)產(chǎn)業(yè)鏈總的來(lái)說(shuō)，中國(guó)推動(dòng)算力產(chǎn)業(yè)的轉(zhuǎn)型與市場(chǎng)發(fā)展，通過(guò)人工智能服務(wù)器和人工智能芯片的雙軌并行發(fā)展，正在構(gòu)個(gè)高性能、多元化和高效的算力基礎(chǔ)設(shè)施體系。這一體系不僅能夠滿足當(dāng)前大模型訓(xùn)練和推理所需的爆發(fā)式增長(zhǎng)的算力需求，還為未來(lái)人工智能技術(shù)的創(chuàng)新和應(yīng)用提供了堅(jiān)實(shí)的基礎(chǔ)。隨著算力產(chǎn)業(yè)的不斷發(fā)展，中國(guó)在全球人工智大模型訓(xùn)練和生成式人工智能技術(shù)的應(yīng)用對(duì)存儲(chǔ)市場(chǎng)產(chǎn)生了顯著影響。首先，算力的增強(qiáng)推動(dòng)了對(duì)存儲(chǔ)性級(jí)。存儲(chǔ)系統(tǒng)需要具備更大的容量、更快的讀寫速度、更低的延遲、更高的可靠性和更佳的靈活性，以支持高效的數(shù)據(jù)處理與模型訓(xùn)練，同時(shí)適應(yīng)不斷增長(zhǎng)的數(shù)據(jù)量和擴(kuò)大模型規(guī)模的需求。在這個(gè)過(guò)程中，分布式存儲(chǔ)架構(gòu)憑借其性能線性擴(kuò)展的優(yōu)勢(shì)，成為訓(xùn)練場(chǎng)景的主要選擇。隨著算力集群規(guī)模擴(kuò)大，存儲(chǔ)帶寬需相應(yīng)提升，傳統(tǒng)集中式存儲(chǔ)和串行運(yùn)算模式已難以滿足需求。分布式存儲(chǔ)與并行運(yùn)算的結(jié)合，為人工智能領(lǐng)域提供了新的解決方案。分布式存儲(chǔ)系統(tǒng)通過(guò)將數(shù)據(jù)分散在多個(gè)物理節(jié)點(diǎn)上，提供冗余備份、無(wú)限擴(kuò)展性和并行訪問(wèn)，提升數(shù)據(jù)可靠性和容錯(cuò)性，系統(tǒng)可以迅速未來(lái)，隨著推理工作負(fù)載的增加，存儲(chǔ)系統(tǒng)將更加注重快速讀寫數(shù)據(jù)、實(shí)時(shí)響應(yīng)推理任務(wù)、支持大量并發(fā)訪問(wèn)以全閃存存儲(chǔ)方案憑借其卓越的數(shù)據(jù)傳輸速度、更低的能耗以及更高的單位物理空間容量，在人工智能市場(chǎng)中展現(xiàn)生成式人工智能和大模型的發(fā)展帶來(lái)了計(jì)算集群規(guī)模的提升，從萬(wàn)卡擴(kuò)展到十萬(wàn)卡，大模型在訓(xùn)練和始在新型數(shù)據(jù)中心得以采用。面對(duì)不斷增長(zhǎng)的數(shù)據(jù)傳輸需求，需要全面提升網(wǎng)絡(luò)運(yùn)力效率，構(gòu)建面向人工智能的運(yùn)力高帶寬：高帶寬能夠顯著提升數(shù)據(jù)傳輸速度，減少訓(xùn)練和推理時(shí)間，提高整體效率。目前網(wǎng)絡(luò)速率已經(jīng)可達(dá)到負(fù)載均衡：隨著網(wǎng)絡(luò)規(guī)模的擴(kuò)大，傳統(tǒng)的路由技術(shù)已難以滿足需求。新的路由技術(shù)需要引入先進(jìn)的負(fù)載均衡算數(shù)據(jù)中心作為現(xiàn)代信息技術(shù)的基礎(chǔ)設(shè)施，其能源消耗問(wèn)題日益受到關(guān)注。隨著人工智能、大數(shù)據(jù)和云計(jì)算等技術(shù)的快為了解決人工智能工作負(fù)載帶來(lái)的功耗和熱挑戰(zhàn)，業(yè)界積極探索多種形式的技術(shù)手段，共同研發(fā)更數(shù)據(jù)冷卻技術(shù)，推動(dòng)算力設(shè)施在計(jì)算節(jié)點(diǎn)應(yīng)用如冷板、相變浸沒(méi)液冷服務(wù)器、處理器垂直供電、超高轉(zhuǎn)化率大功率氮化鎵（GaN）電源等解決方案，提升算、電綜合利用率；在機(jī)柜層面等手段保障機(jī)柜運(yùn)維安全；此外，數(shù)據(jù)中心積極引入可再生能源、智能能效管理系統(tǒng)實(shí)現(xiàn)綠色化、低碳化轉(zhuǎn)型，加強(qiáng)液冷技術(shù)的發(fā)展是實(shí)現(xiàn)這一轉(zhuǎn)型的重要技術(shù)突破，它可以顯著降低數(shù)據(jù)中心的總能耗，提高計(jì)算密度，加空間資源，還在相同面積內(nèi)實(shí)現(xiàn)了更多的服務(wù)器配置，極大提高了數(shù)據(jù)中心的效率和性能。此外，隨著技術(shù)的不步，液冷技術(shù)還將與數(shù)據(jù)中心的其他技術(shù)相結(jié)合，如人工智能、物聯(lián)網(wǎng)等，實(shí)現(xiàn)更加智能化、自動(dòng)化的散熱管理隨著人工智能技術(shù)的日益成熟，其應(yīng)用場(chǎng)景也在不斷拓展。然而，傳統(tǒng)的云端人工智時(shí)性要求高以及網(wǎng)絡(luò)帶寬限制等挑戰(zhàn)時(shí)，顯得力不從心。因此，人工智能向邊緣側(cè)或端側(cè)的遷移成為了一種必然趨勢(shì)。邊緣人工智能通過(guò)直接在數(shù)據(jù)源頭進(jìn)行處理和分析，不僅減少了數(shù)據(jù)傳輸?shù)难舆t和成本，還有效保障了數(shù)據(jù)隱私在這一背景下，企業(yè)級(jí)大模型的設(shè)計(jì)和應(yīng)用也迎來(lái)了新的變革。為了適應(yīng)邊緣側(cè)的計(jì)算環(huán)境和資源限制，大模型正朝著更加精簡(jiǎn)、高效的方向發(fā)展。通過(guò)模型壓縮、剪枝、量化等技術(shù)手段，大模型能夠在保持較高精度和性能的同時(shí)，顯著減小模型體積和計(jì)算復(fù)雜度，從而輕松搭載于邊緣側(cè)的計(jì)算設(shè)備。這一變化不僅降低了部署成本，還提高了模型邊緣計(jì)算通過(guò)本地化數(shù)據(jù)處理、減少網(wǎng)絡(luò)延遲、保障數(shù)據(jù)隱私、優(yōu)化資源分配和增強(qiáng)系統(tǒng)彈性等多方面的優(yōu)勢(shì)提高了大模型的算力效率和實(shí)用性。首先，本地化數(shù)據(jù)處理使得大模型能夠直接在數(shù)據(jù)源頭進(jìn)行實(shí)時(shí)分析，減少了數(shù)據(jù)傳輸?shù)难舆t和成本；其次，通過(guò)減少網(wǎng)絡(luò)延遲，邊緣計(jì)算確保了智能應(yīng)用的即時(shí)響應(yīng)和高效運(yùn)行；同時(shí)，數(shù)據(jù)隱私的保障也為企業(yè)級(jí)應(yīng)用提供了更加安全、可靠的環(huán)境；此外，資源分配的智能化優(yōu)化和系統(tǒng)彈性的增強(qiáng)，使得邊緣計(jì)多模共存，行業(yè)和企業(yè)落地成為重點(diǎn)。中國(guó)大模型發(fā)展呈現(xiàn)多模型共存的繁榮景象，市場(chǎng)上既有通用針對(duì)特定行業(yè)或應(yīng)用的專業(yè)模型。多樣化生態(tài)不僅滿足了不同應(yīng)用場(chǎng)景的需求，也促進(jìn)了技術(shù)進(jìn)步和市場(chǎng)細(xì)分。隨之而來(lái)的則是大模型的場(chǎng)景化落地需求快速增長(zhǎng)，企業(yè)普遍希望能夠根據(jù)行業(yè)數(shù)據(jù)或是內(nèi)部數(shù)據(jù)對(duì)于模型進(jìn)行微調(diào)，以提高模型的針對(duì)性和有效性，增強(qiáng)數(shù)據(jù)安全與隱私保護(hù)，提升模型在特定應(yīng)用場(chǎng)景中的性能，從而更好釋放大模型的提高模型架構(gòu)效率與增加原始計(jì)算能力同樣重要。杰文斯悖論指出當(dāng)技術(shù)進(jìn)步提高了資源利用效率時(shí)，該資原始計(jì)算能力——可能是真正的競(jìng)爭(zhēng)優(yōu)勢(shì)，更型。大模型的壓縮、量化、蒸餾技術(shù)可以在不犧牲模型精度的前提下，顯著提升推理吞吐量，減少內(nèi)存、算力等關(guān)鍵資源的消耗，提高模算效率，降低計(jì)算成本。合適的壓縮剪枝技術(shù)可減少模型參數(shù)數(shù)小。對(duì)于特定應(yīng)用場(chǎng)景，采用專用的硬件與軟件進(jìn)行加速，能夠?qū)崿F(xiàn)高效加速并提高大模型在訓(xùn)練和推理的效率。同端側(cè)大模型和人工智能推理蓬勃發(fā)展。端側(cè)模型以其較低的參數(shù)量和高效的計(jì)算能力，使得在資源受限的人工智能態(tài)領(lǐng)域展現(xiàn)了巨大的潛力，同時(shí)依托人工智能推理的發(fā)展，可將應(yīng)用拓展到即時(shí)消息生成、實(shí)時(shí)翻譯、會(huì)議摘要、醫(yī)全球領(lǐng)先的軟件和云服務(wù)商發(fā)布了數(shù)十種開(kāi)放和部分開(kāi)放的基礎(chǔ)模型，開(kāi)源社區(qū)的協(xié)作和貢獻(xiàn)正在成為加速技術(shù)創(chuàng)新的重要力量，開(kāi)源框架作為人工智能開(kāi)發(fā)的基礎(chǔ)，其生態(tài)系統(tǒng)日益豐富。開(kāi)源不僅促進(jìn)了生態(tài)繁榮，還降低了研發(fā)成模型，并大幅降低了訓(xùn)練和部署這些模型的成本。這對(duì)于資源有限的中小企業(yè)和個(gè)人開(kāi)發(fā)者來(lái)說(shuō)尤為重要，使得更多組織能夠負(fù)擔(dān)得起先進(jìn)人工智能技術(shù)的應(yīng)用，加速了人工智能技術(shù)的普及。這種開(kāi)放共享的方式加速了技術(shù)迭代，激隨著科技的飛速發(fā)展，企業(yè)對(duì)于智能算力的基礎(chǔ)設(shè)施和服務(wù)能力的要求正在發(fā)生深刻務(wù)模式難以滿足新的需求，生成式人工智能將使企業(yè)更多使用人工智能就緒數(shù)據(jù)中心托管設(shè)施和生成式人工智能服務(wù)這些變化盡管挑戰(zhàn)了傳統(tǒng)算力服務(wù)的既有優(yōu)勢(shì)，但也為算力服務(wù)市場(chǎng)帶來(lái)了新的機(jī)遇與變革。這意味著云服務(wù)商需要不斷創(chuàng)新，提升技術(shù)水平和服務(wù)質(zhì)量，還須開(kāi)辟更加開(kāi)放、靈活的賽道，適應(yīng)市場(chǎng)的快速發(fā)展。在當(dāng)前技術(shù)體系下，人工智能服務(wù)器的高昂投資成本已成為行業(yè)面臨的顯著挑戰(zhàn)，亟需新的合作機(jī)制來(lái)重新分配資源與市場(chǎng)。在此過(guò)程中，眾多技術(shù)和資本紛紛加入人工智能算力服務(wù)的競(jìng)爭(zhēng)。在人工智能時(shí)代，市場(chǎng)中的參與者需要重新考慮如何分配資源、降低成本并共享收益。這促使企業(yè)間尋求合作，共同分擔(dān)投資壓力，共享市場(chǎng)成果，形成數(shù)據(jù)中心服務(wù)商、云服務(wù)商、硬件廠商以及其他創(chuàng)新企業(yè)共同參與的生態(tài)體系，為用戶提供人工智能算力資源，并通過(guò)技術(shù)創(chuàng)新和服務(wù)優(yōu)化，滿足用戶多樣化的算力服務(wù)需求，通過(guò)資源池化、動(dòng)態(tài)分配和智能調(diào)度等技術(shù)手段，突破傳統(tǒng)算力供給模式的局景）兩個(gè)細(xì)分市場(chǎng)。IDC數(shù)據(jù)顯示，2024年中國(guó)智算服務(wù)市場(chǎng)整體規(guī)模達(dá)到50億美元，2025年將增至79.5億美元，隨著算力基礎(chǔ)設(shè)施的搭建完成，市場(chǎng)和用戶對(duì)資源利用率的關(guān)注度將會(huì)顯著提升，運(yùn)建設(shè)、管理和運(yùn)維能力對(duì)于智算服務(wù)的成功至關(guān)重要，能夠確保資源的最優(yōu)配置和高效利用。此外，智算服務(wù)商在這一過(guò)程中積累的成功運(yùn)作經(jīng)驗(yàn)也變得尤為重要，這些經(jīng)驗(yàn)不僅能夠提升服務(wù)質(zhì)量，還能為用戶提供更具競(jìng)爭(zhēng)力的解決方案。因此，具備強(qiáng)大建管運(yùn)能力和豐富運(yùn)作經(jīng)驗(yàn)的廠商將在新型算力服務(wù)市場(chǎng)中占據(jù)優(yōu)勢(shì)地位，推動(dòng)行業(yè)的持續(xù)發(fā)全球人工智能市場(chǎng)規(guī)模持續(xù)攀升，在這個(gè)千億級(jí)別的市場(chǎng)下，各個(gè)細(xì)分領(lǐng)域都取得了顯著的進(jìn)展，其中生成式人來(lái)看，這三大行業(yè)的占比將逐漸減少，進(jìn)而轉(zhuǎn)向政府、金融、制造、教育和醫(yī)療等行業(yè)。這意味著生成式人工智逐漸從大模型訓(xùn)練向推理邁進(jìn)，盡管這將是一個(gè)長(zhǎng)期的過(guò)程，但前景依然被看好。IDC認(rèn)為，向“無(wú)處不在的人工智視頻分析（視頻內(nèi)容分析、視頻對(duì)比檢索、視頻內(nèi)容審），據(jù)的約束。IDC調(diào)研結(jié)果顯示，未來(lái)18個(gè)月，企業(yè)優(yōu)先應(yīng)用生成式人工智能與往年相比，技術(shù)創(chuàng)新成果加速了行業(yè)應(yīng)用的進(jìn)展，人工智能在自動(dòng)駕駛、制造、金融、城市建設(shè)、科研教同時(shí)生成式人工智能與傳統(tǒng)人工智能形成了互補(bǔ)共存的狀態(tài)，在有著明確規(guī)則、需與此同時(shí)，具身智能機(jī)器人的發(fā)展引發(fā)市場(chǎng)關(guān)注，由于其可以在動(dòng)態(tài)環(huán)境中進(jìn)行實(shí)時(shí)決策和行動(dòng)，提高任務(wù)創(chuàng)造新的產(chǎn)品與服務(wù)，以及優(yōu)化用戶體驗(yàn)。未來(lái)，企業(yè)對(duì)人工智能的應(yīng)用將在提升企業(yè)洞察、助力決策等維度提供更招商銀行由招商局于1987年在深圳蛇口創(chuàng)建，是中國(guó)境內(nèi)第一家完全由企業(yè)法人持股的股份制商業(yè)銀行。成立37年來(lái)，招商銀行已成為擁有商業(yè)銀行、金融租賃、基金管理、人壽保險(xiǎn)、境外投行、消費(fèi)金融、理財(cái)子公司等金融隨著招行數(shù)字金融科技的發(fā)展和業(yè)務(wù)的不斷擴(kuò)張，如何提升工作效率、優(yōu)化資源配置流程超級(jí)自動(dòng)化，提高工作準(zhǔn)確性、生產(chǎn)效率和降低運(yùn)營(yíng)成本，支持銀行線上化、數(shù)字化、智能化發(fā)展，招商銀行引提供可視化設(shè)計(jì)，具備AI擴(kuò)展性、服務(wù)化、智能資源匹配、監(jiān)控預(yù)警和操作回溯等能力，可替代重復(fù)人工操處理常規(guī)性、流程化、重復(fù)度高的工作內(nèi)容的能力。基于此，員工可以把更多精力放在創(chuàng)造更有價(jià)值的新內(nèi)容工具對(duì)業(yè)務(wù)流程進(jìn)行梳理和優(yōu)化，增強(qiáng)創(chuàng)造力，消除流程中的冗余和重復(fù)步驟，使業(yè)務(wù)流程更加高效、順暢；引工智能和機(jī)器學(xué)習(xí)、大模型技術(shù)，對(duì)業(yè)務(wù)流程進(jìn)行智能分析和預(yù)測(cè)，優(yōu)化流程或降低錯(cuò)誤風(fēng)險(xiǎn)，為決策人員提供一流的研究型大學(xué)，鼓勵(lì)科學(xué)家們打破學(xué)科壁壘，探索人工智能與各學(xué)科交叉融合，為科研創(chuàng)新提速，重點(diǎn)發(fā)展科當(dāng)前，中國(guó)汽車行業(yè)正通過(guò)智能化走向全球化。近年來(lái)，長(zhǎng)城汽車憑借其深厚的技術(shù)積累和智能化發(fā)展的代表性企業(yè)。這一切得益于長(zhǎng)城汽車在人工智能技術(shù)的應(yīng)用、平臺(tái)和硬件等方面的戰(zhàn)略性布局和前智能化的發(fā)展需要跨領(lǐng)域的緊密合作。長(zhǎng)城汽車通過(guò)與科技企業(yè)、通信運(yùn)營(yíng)商、芯片制造商等多方合作，享和優(yōu)勢(shì)互補(bǔ)，共同推進(jìn)智能網(wǎng)聯(lián)汽車技術(shù)的進(jìn)步，以加速智能化轉(zhuǎn)型和創(chuàng)新。目前，長(zhǎng)城汽車與浪潮信息在算力中心構(gòu)建與車載計(jì)算系統(tǒng)研發(fā)等領(lǐng)域展開(kāi)深度合作，充分發(fā)揮浪潮信息在服務(wù)器系統(tǒng)架構(gòu)、散熱、電源、高速信號(hào)等關(guān)未來(lái)，長(zhǎng)城汽車將持續(xù)提高智駕大模型的性能、迭代速度和泛化能力，充分發(fā)揮人工智能算力、云計(jì)算和大數(shù)據(jù)PART各個(gè)行業(yè)對(duì)于人工智能技術(shù)的應(yīng)用愈加重視，持續(xù)加大相關(guān)投資與研發(fā)力度，加深人工智能滲透度。通過(guò)評(píng)估人工智聯(lián)網(wǎng)、金融、運(yùn)營(yíng)商、制造和政府。此外，人工智能在教育、醫(yī)療、能源等行業(yè)的應(yīng)用也可圈可點(diǎn)。其中，互聯(lián)網(wǎng)企業(yè)在大模型的研發(fā)、應(yīng)用及推廣過(guò)程中持續(xù)發(fā)揮引領(lǐng)作用；金融行業(yè)積極探索大模型與業(yè)務(wù)的融合，進(jìn)一步發(fā)揮人工智能技術(shù)在風(fēng)險(xiǎn)控制、決策優(yōu)化和金融產(chǎn)品推薦等場(chǎng)景中的價(jià)值，排名從第四名攀升至第二名；人工智能持續(xù)重塑制造業(yè)生產(chǎn)流程，加速產(chǎn)品設(shè)計(jì)、管理維護(hù)、安全監(jiān)督等場(chǎng)景的智能化升級(jí)，賦能高端裝備、工業(yè)機(jī)器人、汽車、航空航天、船舶等制造業(yè)重點(diǎn)領(lǐng)域的發(fā)展，排名從第五名提升至第四名；在教科研行業(yè)，人工智能尤其是生成式人工智能在提升教學(xué)效率、促進(jìn)個(gè)性化學(xué)習(xí)、優(yōu)化資源配置等方面貢獻(xiàn)重要力量，引領(lǐng)科研新范式，滲透度排名從第八名提升0身良好的數(shù)據(jù)基礎(chǔ)和技術(shù)能力加速AI