2023-2024人工智能計算力發(fā)展評估報告

20232024人工智能計算力發(fā)展評 估 報 第一章人工智能發(fā)展邁入新階段 04全球：生成式人工智能興起，產(chǎn)業(yè)步入關鍵轉(zhuǎn)折點 05中國：人工智能產(chǎn)業(yè)加速創(chuàng)新，機遇與挑戰(zhàn)并存 10第二章人工智能算力及應用 14芯片：滿足多場景高質(zhì)量應用需求 15服務器：高算力和高能效受到持續(xù)關注 16算法和模型：加速模型迭代以探索行業(yè)實踐 19AI軟件基礎設施：加速大模型的應用落地 20邊緣智能：以廣泛的部署推進智能的延伸 22綠色算力：基于液冷服務器構(gòu)建可持續(xù)發(fā)展數(shù)據(jù)中心 23人工智能算力服務和云：根據(jù)算力需求優(yōu)化服務模式 25應用：企業(yè)積極投入以滿足大模型時代的應用需求 26第三章中國人工智能計算力發(fā)展評估 34行業(yè)排名 35地域排名 39第四章行動建議 44對行業(yè)用戶的建議 45對技術(shù)供應商的建議 46IDC2023年是人工智能發(fā)展的重要轉(zhuǎn)折年，企業(yè)正加速從業(yè)務數(shù)字化邁向業(yè)務智能化。大模型的突破和生成式人工智能的興起為企業(yè)實現(xiàn)產(chǎn)品/流程的革新提供先進生產(chǎn)工具，引領企業(yè)和產(chǎn)業(yè)邁入智能創(chuàng)新的新階段。對于企業(yè)人而言，其將不再局限于思考“如何在產(chǎn)品/流程中增加IDC大模型和生成式人工智能的發(fā)展將引發(fā)計算范式之變、產(chǎn)業(yè)動量之變，以及算力服務格局之變。未來幾年，構(gòu)建和調(diào)優(yōu)生成式人工智能基礎模型以滿足應用需求，將為整個基礎設施市場帶來改變和發(fā)展機遇。從計算范式角度而言，人工智能算力基礎設施將持續(xù)向高性能、高互聯(lián)等方向演進以更高的計算能力和鏈接速度加速實現(xiàn)大規(guī)模參數(shù)和數(shù)據(jù)集的訓練和調(diào)優(yōu)；不斷提升算力泛在性，推進人工智能在云-邊-端的覆蓋，滿足無處不在的智能化需求；通過優(yōu)化計算架構(gòu)、算法和軟件棧，支持多元異構(gòu)算力的協(xié)同，構(gòu)建軟硬件生態(tài)，加速計算技術(shù)的發(fā)展和創(chuàng)新。從產(chǎn)業(yè)動量角度而言，基礎模型技術(shù)的突破為人工智能產(chǎn)業(yè)的發(fā)展增加活力，催生新的玩家和投資機會，基礎模型的持續(xù)迭代、調(diào)優(yōu)、場景適配和部署、落地等對基礎設施層、模型層、平臺層和應用層提出新的需求，帶來新的服務模式，降低人工智能技術(shù)的應用門檻，通過微調(diào)等方法實現(xiàn)與下游任務的適配，加速人工智能基礎設施軟件的開發(fā)、部署和應用，為用戶和行業(yè)提供更多創(chuàng)新應用。從算力服務角度而言，傳統(tǒng)算力資源虛擬化共享復用的機制難以滿足大模型時代企業(yè)對于集群式的高性能算力需求，生成式人工智能將加速企業(yè)更多地使用人工智能就緒的數(shù)據(jù)中心設施和人工智能服務器群，供應商需要具備提供定制化的、優(yōu)化的基礎設施服務能力，滿足單個用戶對訓練和推理資源的獨占式、大規(guī)模、長時間使用的訴求，并縮短部署時間、提高對數(shù)據(jù)和輸出的控制，滿足應用場景的需求，幫助企業(yè)實現(xiàn)成本優(yōu)化。從感知智能到生成式智能，人工智能算力需求快速增長。大模型和生成式人工智能的發(fā)展顯著拉動了人工智能服務器市場的增長。IDC預計，全球人工智能硬件市場（服務器）規(guī)模將從2022年的195億美元增長到2026年的347億美元，五年年復合增長率達1.3%；在中國，預計2023年中國人工智能服務器市場規(guī)模將達到91億美元，同比增長82.5%，2027年將達到134億美元，五年年復合增長率達21.8%。從算力規(guī)模而言，預計到2027年通用算力規(guī)模將達到117.3EFLOPS，智能算力規(guī)模達1117.4EFLOPS；2022-2027年期間，預計中國智能算力規(guī)模年復合增長率達33.9%，同期通用算力規(guī)模年復合增長率為16.6%。中國市場對智能算力供給能力的衡量標準將加速演變，未來應用為導向、系統(tǒng)設計為核心將是算力升級的主要路徑。中國市場對于算力供給能力的評估指標將從硬件性能向應用效果轉(zhuǎn)變，企業(yè)在獲得算力服務的過程中，會增加對于諸如單位時間可處理Token數(shù)量、可靠性、時延、訓練時間和資金成本、數(shù)據(jù)集質(zhì)量等指標的關注。技術(shù)提供商需要以應用為導向，系統(tǒng)為核心，構(gòu)建算力基礎設施，提高算力利用率，提升諸如卡間互聯(lián)、多節(jié)點間互聯(lián)等水平，通過靈活可擴展的集群滿足市場的需求。中國應持續(xù)提升基礎大模型研發(fā)能力，通過逐步完善的人工智能工程化工具，加速應用落地。目前，受政策支持、算力水平提升、數(shù)據(jù)資源龐大以及科研實力增強等利好因素的推動，中國在基礎大模型方面取得一定成績，但仍需加大在基礎性技術(shù)方面的原創(chuàng)性突破，夯實底層模型和算法能力。在實踐中，企業(yè)需要根據(jù)具體的任務和模型設計來決定參數(shù)量的大小，技術(shù)提供商需要從硬件、軟件、算法、數(shù)據(jù)服務等多個維度入手，結(jié)合行業(yè)特點進行框架、模型、數(shù)據(jù)的垂直整合，提升大模型的準確性和可用性?；谝豪浞掌鳂?gòu)建綠色數(shù)據(jù)中心，推進人工智能算力可持續(xù)發(fā)展。人工智能算力的不斷提升加速對能耗問題的關注。從數(shù)據(jù)中心機柜功耗上來說，傳統(tǒng)數(shù)據(jù)中心每機架功耗一般在3-10kW之間，而每臺GPU服務器的功率可高達50kW，對于數(shù)據(jù)中心操作員和規(guī)劃人員來說，需要依據(jù)計算需求對資源進行合理規(guī)劃和分配，積極探索采用液冷等先進冷卻方法，滿足實現(xiàn)可持續(xù)發(fā)展提出的要求。IDC預計，2022-2027年，中國液冷服務器市場年復合增長率將達到54.7%，2027年市場規(guī)模將達到89億美元。目前，中國的人工智能技術(shù)正加速邁入全面應用時代。人工智能領域持續(xù)追求對技術(shù)的創(chuàng)新及增進，注重類人化和諸如機器學習、深度學習等技術(shù)的推進，以更好地處理現(xiàn)實生產(chǎn)、生活場景中的復雜問題。大模型和生成式人工智能的落地，也給各行業(yè)帶來新的賦能。IDC認為，知識管理、對話式應用、銷售和營銷、代碼生成等是企業(yè)應用生成式人工智能的主要領域；在特定業(yè)務部門或職能部門（營銷、銷售、采購等），生產(chǎn)力場景和垂直行業(yè)場景也有廣泛的應用價值。未來，伴隨特定領域行業(yè)大模型、多模態(tài)大模型、小樣本學習、語音識別、計算機視覺等技術(shù)的突破，生成式人工智能的功能將實現(xiàn)持續(xù)進步，為企業(yè)帶來新的能力。人工智能加速實現(xiàn)在行業(yè)和城市的滲透。2023年，人工智能行業(yè)應用滲透度排名前五的行業(yè)依次為互聯(lián)網(wǎng)、電信、政府、金融和制造?；ヂ?lián)網(wǎng)行業(yè)依舊是人工智能技術(shù)應用和研發(fā)的主力軍；在電信行業(yè)，云上人工智能能力的加速發(fā)展，進一步優(yōu)化服務，支持電信網(wǎng)絡的優(yōu)化和智能化建設。在城市人工智能算力排行中，北京、杭州、深圳依然穩(wěn)居城市排名前三位；其中，北京在大模型領域表現(xiàn)突出，聚集了大批大模型企業(yè)，推出諸多具有代表性的大模型及應用產(chǎn)品。此外，中國其他地區(qū)依然保持著對人工智能產(chǎn)業(yè)的熱忱，正持續(xù)加大在相關領域的投資，不斷推進人工智能產(chǎn)業(yè)的發(fā)展。04第一章人工智能發(fā)展邁入新階段全球：生成式人工智能興起，產(chǎn)業(yè)步入關鍵轉(zhuǎn)折點中國：人工智能產(chǎn)業(yè)加速創(chuàng)新，機遇與挑戰(zhàn)并存圖1人工智能機器學習圖1人工智能機器學習深度學習生成式人工智能自動語音識別/自然語言處理35.0%30.0%25.0%20.0%15.0%10.0%5.0%0.0%全球 29.3% 29.3% 25.3%15.3%行業(yè)通用AI場景行業(yè)垂直AI場景0.9%我們還什么ChatGPT文生圖 都沒有做文生視頻文生文行業(yè)AI應用場景我們正在梳理應用場景，但還沒有在技術(shù)或模型構(gòu)建上進行投資我們正在進行一些模型初步測試和概念驗證，但還沒有確定支出計劃大模型我們已經(jīng)在生成式人工智能方面進行了大量資金投入，在訓練和應用大模型方面制定了支出計劃不清楚來源：IDC，2023生成式人工智能興起，產(chǎn)業(yè)步入關鍵轉(zhuǎn)折點生成式人工智能和大模型將加速世界向智能化時代的邁進2023年，人工智能實現(xiàn)了破圈式的發(fā)展。人工智能聊天機器人ChatGT、AI編程工具GitHubCil和圖像生成系統(tǒng)bleDi?usin（eI工具產(chǎn)品的出現(xiàn)，為文本創(chuàng)建、圖像生成、代碼生成以及研發(fā)流程等工作帶來全新的智能體驗，極大提升生產(chǎn)力，提高生產(chǎn)水平。生成式人工智能應用的出現(xiàn)離不開大模型的支持。大模型是基于海量參數(shù)進行自監(jiān)督學習的預訓練模型，憑借更強的學習能力、更高的精準度以生成式人工智能和大模型將加速世界向智能化時代的邁進世界正在加速向智能化創(chuàng)新邁進。大模型及生成式人工智能的發(fā)展意味著人工智能正在從完成如圖像識別、語音識別等特定任務，邁向擬人類智能水平，具備自主學習、判斷和創(chuàng)造等能力。對于企業(yè)人而言，其將不再局限于思考“如何在產(chǎn)品/流程中增加智能化能力”，而需要更多關注“如何使用人工智能實現(xiàn)產(chǎn)品/流程的革新”?；诤Ａ繑?shù)據(jù)訓練和模型調(diào)優(yōu)，人工智能大模型具有更精準的執(zhí)行能力和更強大的場景可遷移性，為人工智能在諸如元宇宙、城市治理、醫(yī)療健康、科學研究等綜合復雜性場景中的廣泛應用，提供更好的方案。IDC開始展開相關實踐行動，探索適用的落地場景；2023年，超過四分之一的企業(yè)已經(jīng)對生成式人工智能技術(shù)進行了大量資金投入。圖2生成式人工智能最具價值應用場景全球圖2生成式人工智能最具價值應用場景全球北美地區(qū)（NA）歐洲、中東和非洲地區(qū)（EMEA）亞太地區(qū)（AP）知識管理對話式應用設計代碼生成銷售和營銷0.0%10.0%20.0%30.0%40.0%50.0%60.0%來源：IDC，2023第一章｜人工智能發(fā)展邁入新階段 06從應用場景來看，IDC認為，知識管理、對話式應用、銷售和營銷、代碼生成等是全球企業(yè)應用生成式人工智能的主要場景。其中，知識管理有望成為最有應用價值的生成人工智能用例，通過人工智能手段，企業(yè)可實現(xiàn)對文本、圖像和視頻等知識內(nèi)容的高效分析和管理，降低勞動密集型投入。目前，各國都在加強對大模型和生成式人工智能的布局和支持，以推動人工智能技術(shù)的快速發(fā)展和應用：美國持續(xù)推進各界在人工智能領域的快速發(fā)展，鼓勵企業(yè)及科研機構(gòu)積極創(chuàng)新，形成以科技巨頭為引領的發(fā)展格局。通過推動基礎研究和應用研究的發(fā)展，美國在基礎大模型研發(fā)和生成式人工智能應用方面建立起優(yōu)勢，打造了現(xiàn)象級生成式人工智能產(chǎn)品，并將生成式人工智能技術(shù)廣泛應用于行業(yè)領域和業(yè)務場景。2023年，白宮更新發(fā)布了《國家人工智能研發(fā)戰(zhàn)略計劃》，鼓勵在控制安全風險的前提下，持續(xù)探索創(chuàng)新人工智能應用，促進研發(fā)投資，鼓勵人才培養(yǎng)和產(chǎn)業(yè)合作。歐洲地區(qū)受到石油和天然氣價格上漲、高通貨膨脹、人員和技能短缺，以及供應鏈中斷等因素影響，更重視技術(shù)對降本增效的積極推動作用，因而對智能化技術(shù)的關注較高。但歐洲地區(qū)整體對人工智能尤其是生成式人工智能在安全、隱私等方面的顧慮較多，故當前優(yōu)先推動相關領域法律法規(guī)的建設和實施。2023年，歐盟批準《人工智能法案》，對涉及大量數(shù)據(jù)訓練的人工智能系統(tǒng)提出了透明度和風險評估要求；歐盟還加強對人工第一章｜人工智能發(fā)展邁入新階段07第一章｜人工智能發(fā)展邁入新階段07在亞太地區(qū)，中國、印度、新加坡、韓國、日本等國家積極制定國家人工智能戰(zhàn)略，推進各項超大型生成式人工智能相關方案的落地。韓國政府重視人工智能基礎設施和環(huán)境的發(fā)展，推動人工智能在各個領域的應用；日本政府通過加大投入和政策支持，推動生在中國，政府加大了對生成式人工智能研究的支持力度，企業(yè)和科研機構(gòu)也加速推動生成式人工智能的研究和應用，加速研究人工智能與實體經(jīng)濟、社會治理、民生服務等領域深度融合，促進技術(shù)的廣泛應用和產(chǎn)業(yè)化發(fā)展；中國人工智能的發(fā)展在東南亞部分國家也逐步形成溢出效應，帶動該地域相應產(chǎn)業(yè)的發(fā)展。生成式人工智能和大模型將引發(fā)計算范式之變、產(chǎn)業(yè)動量之變、算力服務格局之變生成式人工智能和大模型將引發(fā)計算范式之變、產(chǎn)業(yè)動量之變、算力服務格局之變高計算性能：市場對于更高性能的高端協(xié)處理器服務器，尤其是GPU服務器的需求將進一步提升，以滿足大量高算力計算任務需求；高互聯(lián)：生成式人工智能工作負載也對連接人工智能服務器集群的網(wǎng)絡結(jié)構(gòu)提出更高的要求，推動網(wǎng)絡架構(gòu)的變革，以更好實現(xiàn)快速互聯(lián)，加速模型的訓練、調(diào)優(yōu)和推理；算力泛在性：人工智能算力還應提升其覆蓋規(guī)模，以支持智能在終端、邊緣、數(shù)據(jù)中心等位置的廣覆蓋，實現(xiàn)生成式人工智能推理能力在邊緣、終端等位置的部署和應用；多元化：應用場景多樣性、硬件性能瓶頸、降低成本和提高能效需求等因素促使底層基礎設施呈現(xiàn)多元化發(fā)展趨勢，加強系統(tǒng)接口、互聯(lián)協(xié)議、管理規(guī)范等方面的開放兼容顯得很有必要。通過優(yōu)化軟件和硬件的協(xié)同，構(gòu)建軟硬件生態(tài)，方能加速計算技術(shù)的發(fā)展和創(chuàng)新。產(chǎn)業(yè)動量之變：當前的模型市場中存在各式各樣的模型類型，覆蓋語言、圖像、音頻、音樂、代碼、視頻、3D、生物分子結(jié)構(gòu)和行業(yè)特定模型等諸多領域，形成開源與專有模型并存的局面，這為企業(yè)的業(yè)務智能化發(fā)展提供基石：在創(chuàng)作相關的產(chǎn)業(yè)，大模型可重構(gòu)工作方式，為創(chuàng)作方式提供諸多可能性，可自動生成文本、語音、視頻等內(nèi)容，還能激發(fā)創(chuàng)作靈感，節(jié)省時間和精力，提高創(chuàng)作效率；在自動駕駛領域，大模型可以輔助汽車和機器人更好地理解環(huán)境，做出智能決策；在零售領域，大模型可以從歷史數(shù)據(jù)中學習用戶的興趣，提供定制推薦服務；在醫(yī)療領域，大模型可以通過對大量藥物化合物進行分子模擬和預測，加速藥物研發(fā)過程；在金融領域，大模型可以幫助金融機構(gòu)更有效地進行風險評估和欺詐檢測?；A模型的發(fā)展正在成為促進整個人工智能產(chǎn)業(yè)保持活力的重要驅(qū)動因素。以模型為核心的變革性技術(shù)將帶來豐富的市場機會，算力和數(shù)據(jù)支持、訓練和調(diào)優(yōu)、部署和應用等需求將促進人工智能產(chǎn)業(yè)的迅速發(fā)展。算法、應用、服務等諸多產(chǎn)業(yè)變量將成為創(chuàng)新的加速器，在算力生態(tài)鏈上的各個環(huán)節(jié)（包含基礎設施層、模型層、人工智能平臺層、人工智能應用層和服務層）催生出新的玩家、初創(chuàng)企業(yè)和投資機會：第一章｜人工智能發(fā)展邁入新階段08第一章｜人工智能發(fā)展邁入新階段08基礎設施層：龐大且多樣的市場應用將向算力供給提出更分化的需求，從芯片、互聯(lián)技術(shù)、存儲到基礎設施軟件，均需實現(xiàn)與市場需求的匹配，以滿足不同應用場景、部署環(huán)境以及成本和性能的要求；模型層和平臺層：從基礎大模型的研發(fā)、訓練和調(diào)優(yōu)，到行業(yè)化、場景化落地，各個環(huán)節(jié)都會創(chuàng)造出新的玩家和新的商業(yè)機會，通過將算力、模型、框架、基礎設施軟件平臺等諸多能力調(diào)優(yōu)，為行業(yè)需求提供匹配的解決方案，并在大模型賦能下，通過微調(diào)（Finetuning）等方法實現(xiàn)與下游任務的適配，在滿足諸如“數(shù)據(jù)不出域”等行業(yè)特殊要求的前提下，落地大模型能力；應用層：目前產(chǎn)品和服務以覆蓋客戶關系管理、知識管理、語音合成、生產(chǎn)力工具、圖像設計、寫作等領域為主，未來新玩家將持續(xù)入場，不斷拓展生成式人工智能應用場景，面向金融、醫(yī)療、交通、科研、制造、自動駕駛等垂直領域提供更優(yōu)的數(shù)據(jù)處理、訓練和推理解決方案，以實現(xiàn)跨領域、智能化、個性化、可持續(xù)化的發(fā)展。產(chǎn)業(yè)鏈間的不同參與者通過合作和創(chuàng)新，可共同推動大模型技術(shù)的發(fā)展和應用，促進整個產(chǎn)業(yè)生態(tài)的繁榮和發(fā)展。圖3生成式人工智能生態(tài)價值鏈圖譜咨詢與技術(shù)服務IT和業(yè)務咨詢應用層生成式人工智能原生應用程序軟件開發(fā)、部署和應用以人工智能為中心和非人工智能為中心的應用程序的軟件開發(fā)、部署和應用咨詢與技術(shù)服務IT和業(yè)務咨詢應用層生成式人工智能原生應用程序軟件開發(fā)、部署和應用以人工智能為中心和非人工智能為中心的應用程序的軟件開發(fā)、部署和應用平臺層人工智能基礎設施軟件（機器學習生命周期管理，第三方工具管理等）開發(fā)、部署和應用模型層基礎大模型的開發(fā)和訓練行業(yè)/場景大模型（行業(yè)與領域?qū)倌Ｐ停┑恼{(diào)優(yōu)和應用基礎設施層人工智能基礎設施硬件（芯片、存儲、網(wǎng)絡、服務器等）來源：IDC，2023第一章｜人工智能發(fā)展邁入新階段 09算力服務之變：生成式人工智能有望重構(gòu)算力服務模式和市場格局。鑒于基礎大模型的本地訓練成本不菲，企業(yè)將更多地使用人工智能就緒的數(shù)據(jù)中心設施和生成式人工智能服務器集群，從而縮短部署時間，降低設施的長期投資成本。為算力服務市場帶來新機會的同時，由于企業(yè)業(yè)所需的算力服務質(zhì)量和模式將會在大模型時代發(fā)生改變，也將為算力服務供應商帶來新的挑戰(zhàn)：從基礎設施層面來說，傳統(tǒng)計算基礎設施難以滿足大模型時代對于算力、存儲和網(wǎng)絡的高性能需求，因此算力服務商需要從芯片、處理器、存儲、網(wǎng)絡、數(shù)據(jù)庫、云原生架構(gòu)等維度，對算力基礎設施進行全面升級，滿足用戶在超大加速環(huán)境中對快速擴展的需求，提供可用、易用、高效的資源供給服務；其次，人工智能算力需求會改變基礎架構(gòu)的算力調(diào)度和組合的方式。傳統(tǒng)算力資源虛擬化共享復用的機制難以滿足企業(yè)在大模型時代對于高性能集群式的算力的需求。在算力服務交付的過程中，供應商需要能夠提供定制化的基礎設施服務能力，滿足單個用戶對訓練和推理資源的獨占式、大規(guī)模、長時間使用的訴求，同時幫助用戶實現(xiàn)成本控制；算力服務商有必要基于軟件棧提高模型訓練效率，提高硬件利用率。除了硬件資源的提供，算力服務商還可基于用戶需求對算法進行優(yōu)化和改進，提高算法效率和準確性，通過“模型即服務”的方式，降低使用人工智能技術(shù)的門檻和成本，促進部署和應用。總之，市場對于算力服務需求的改變，將對算力服務商的商業(yè)模式和管理模式提出全新要求，生成式人工智能有望重構(gòu)算力服務市場格局。在這個過程中，將會涌現(xiàn)更符合市場需求的算力供給方式，幫助企業(yè)應對算力需求，基于共享的基礎設施，優(yōu)化服務器利用率，獲得更高的能效優(yōu)勢。第一章｜人工智能發(fā)展邁入新階段PAGE10第一章｜人工智能發(fā)展邁入新階段PAGE10圖5中國企業(yè)對生成式人工智能的態(tài)度您認為采用生成式人工智能給企業(yè)帶來何種價值？圖5中國企業(yè)對生成式人工智能的態(tài)度您認為采用生成式人工智能給企業(yè)帶來何種價值？加速企業(yè)決策，減少重復勞動提升員工效率，提高價值轉(zhuǎn)化62.0%工作流整合，方便使用多個應用程序，加速故障排除優(yōu)化用戶體驗優(yōu)化員工工作體驗56.0%54.0%50.0%為員工創(chuàng)造定制化提升36.來源：IDC，20230%圖433%33%中國34%■來源：IDC，2023人工智能產(chǎn)業(yè)加速創(chuàng)新，機遇與挑戰(zhàn)并存從企業(yè)角度而言，中國企業(yè)對生成式人工智能的接受度普遍較高。據(jù)IDC調(diào)研，67%的中國企業(yè)已經(jīng)開始探索生成式人工智能在企業(yè)內(nèi)的應用機會或已經(jīng)開始進行相關資金投入。據(jù)調(diào)研，中國企業(yè)尤其認可生成式人工智能在加速決策、提高效率、優(yōu)化用戶和員工體驗等維度帶來的價值，并將在未來三年持續(xù)提高投入力度，超過七成企業(yè)增幅達到20%-40%；但與此同時，企業(yè)需要直面計算、存儲等資源短缺、行業(yè)大模型可用性待提升以及投入成本高等問題帶來的壓力。您認為貴公司在部署生成式AI應用的時候有哪些挑戰(zhàn)?您認為貴公司在部署生成式AI應用的時候有哪些挑戰(zhàn)?缺乏相應計算/存儲資源數(shù)據(jù)隱私保護高成本投入43.0%缺乏高質(zhì)量可用數(shù)據(jù)39.0%存在技術(shù)壁壘，缺乏相應人才缺乏對生成式用例的了解0.0%10.0%20.0%30.0%40.0%50.0%60.0%未來3年，貴公司在生成式AI的投入增幅是多少？投資增加10%-20%投資增加20%-30%投資增加30%-40%投資增加40%-50%投資增加50%-60%0.0%5.0%10.0%15.0% 20.0%25.0%30.0%35.0%40.0%來源：IDC，2023從技術(shù)廠商角度而言，目前，國內(nèi)諸多互聯(lián)網(wǎng)巨頭、科技企業(yè)及研究機構(gòu)紛紛宣布在生成式人工智能的領域進行產(chǎn)業(yè)布局，國產(chǎn)大模型進入集中發(fā)布期，已拉開“百模大戰(zhàn)”的序幕，通用類大模型（含語言類、視覺類和多模態(tài)大模型等）、任務大模型（含代碼生成和生命科學等）以及行業(yè)大模型持續(xù)拓展應用領域，深化場景落地，不斷探索商業(yè)價值，解決科研難題，助力產(chǎn)業(yè)升級。據(jù)公開信息，截至2023年10月，中國累計發(fā)布兩百余個大模型，發(fā)布地主要集中在北京，其中以科研院所和互聯(lián)網(wǎng)企業(yè)為開發(fā)主力軍。隨著新算法、新應用的提出，人工智能產(chǎn)業(yè)生態(tài)呈現(xiàn)出高度活力，豐富的應用場景和潛在行業(yè)用例，將對大模型迭代和調(diào)優(yōu)、行業(yè)和場景適配以及應用軟件功能設計提出新的需求。當下中國大模型技術(shù)已經(jīng)在自然語言處理、機器視覺和多模態(tài)等領域具備高度活力；面向未來，中國應持續(xù)關注基礎大模型等基礎性技術(shù)的原創(chuàng)性突破，以獲得國際競爭力?？梢灶A測，大模型應用將帶來諸多產(chǎn)業(yè)化變革，因此，夯實底層模型和算法能力，對未來人工智能原生應用的質(zhì)量和生態(tài)競爭力將起到?jīng)Q定性作用。從政策角度而言，中國人工智能相關法規(guī)體系的完善與技術(shù)發(fā)展保持同頻，政府將持續(xù)加強監(jiān)督，疏導市場健康成長。2023年7月，中華人民共和國國家互聯(lián)網(wǎng)信息辦公室通過了《生2023815蓬勃發(fā)展生成式人工智能對中國人工智能服務器市場的發(fā)展帶來了明顯的拉動作用。豐富的應用場景和對技術(shù)創(chuàng)新迭代的熱忱，讓中國市場對于人工智能服務器的關注度和需求量均明顯增長。蓬勃發(fā)展為評估中國算力規(guī)模發(fā)展現(xiàn)狀和趨勢，本報告基于《IDC中國加速計算服務器半年度市場跟蹤報告》及智能加速卡半精度（FP16）相當運算能力數(shù)據(jù)，測算了中國智能算力規(guī)模。結(jié)果顯示，2022年中國智能算力規(guī)模達259.9每秒百億億次浮點運算（EFLOPS），2023年將達到4141EFO，預計到2027年將達到111.4EFO。此外，本報告基于《IDC中國服務器市場季度跟蹤報告》及CPU雙精度（FP64）運算能力數(shù)據(jù)，測算了中國通用算力規(guī)模。2022年54.5EFLOPS，預計到2027年通用算力規(guī)模將達到EFLOPS。202233.9%，同期通用算力規(guī)模年復合增長率為16.6%。EFLOPS1200.0

圖7中國智能算力規(guī)模及預測，2020-2027智能算力（基于FP16計算）

1117.4

155.275.0

259.9

812.5616.6616.6圖6中國通用算力規(guī)模及預測，2020-2027（基于FP64計算）140.0120.0100.086.180.071.860.059.354.540.039.6圖6中國通用算力規(guī)模及預測，2020-2027（基于FP64計算）140.0120.0100.086.180.071.860.059.354.540.039.620.00.020202021202220232024202520262027來源：IDC，2023101.2來源：IDC，2023在中國，政府積極加大投資和支持，推動人工智能技術(shù)和應用的發(fā)展。在此背景下，算力基礎設施建設成為一個重要環(huán)節(jié)，被納入國家新基建范疇。在適度超前的指導思想下，國家正加大對人工智能算力基礎設施的投資。目前，互聯(lián)網(wǎng)企業(yè)、電信運營商，以及各級政府均積極投入到智算中心的建設之中。據(jù)不完全統(tǒng)計，截至2023年8月，全國已有超過30個城市建設智算中心，總建設規(guī)模超過200億。與此同時，人工智能、尤其是生成式人工智能，對能源消耗提出了更高要求，這讓綠色節(jié)能成為先進技術(shù)落地的重要關注點。模型訓練或人工智能應用程序開發(fā)以及應用階段，即文本/聊天、圖像或視頻大量生成階段，都會消耗大量能量，產(chǎn)生大量熱量。從數(shù)據(jù)中心機柜功耗上來說，GPU服務器每臺機架的功率可高達50kW，這將與傳統(tǒng)數(shù)據(jù)中心每機架7kW功耗的行業(yè)平均水平形成鮮明對比。數(shù)據(jù)中心原有供電網(wǎng)絡需要升級改造，以匹配生成式人工智能對基礎設施的需求。14第二章第二章｜人工智能算力及應用 15第二章｜人工智能算力及應用PAGE16第二章｜人工智能算力及應用PAGE16在中國，芯片市場機遇與挑戰(zhàn)并存。算力需求的提升給本土芯片廠商的發(fā)展提供了較大的空間，帶來新的機遇。IDC預計，2023年中國人工智能芯片出貨量將達到133.5萬片，同比增長22.5%。持續(xù)升級：大模型發(fā)展等利好因素為中國人工智能芯片企業(yè)提供了良好的發(fā)展機遇，推動其在芯片設計、算法優(yōu)化、生產(chǎn)制造等方面不斷升級，加速創(chuàng)新研發(fā)，持續(xù)提升產(chǎn)品性能進步。多元細分：人工智能大模型應用呈多樣化趨勢發(fā)展，這就需要不同類型的芯片滿足場景需求，除了CPU、GPU等傳統(tǒng)的計算芯片外，國內(nèi)芯片市場也在向更細分、更專業(yè)化的方向發(fā)展。政策支持：中國政府出臺了一系列措施，鼓勵和支持人工智能芯片研發(fā)和產(chǎn)業(yè)發(fā)展，包括資金支持、稅收優(yōu)惠、科研機構(gòu)合作、人才激勵等。各地區(qū)可根據(jù)自身需求和特點采取措施。這些政策措施為芯片產(chǎn)業(yè)的發(fā)展提供了良好的環(huán)境和條件，將有效促進中國人工智能芯片產(chǎn)業(yè)的快速發(fā)展，提升競爭力。但與此同時，中國芯片產(chǎn)業(yè)發(fā)展也面臨著一些挑戰(zhàn)，其中以技術(shù)突破、人才培養(yǎng)、知識產(chǎn)權(quán)保護等是方面的問題尤為突出。以封裝技術(shù)為例，3D封裝等技術(shù)的出現(xiàn)意味著高端芯片賽道上的競爭無須再僅圍繞摩爾定律下的晶體管工藝能力展開，而是可以從新的角度切入，達成電路密度提升的目標，進而實現(xiàn)性能的升級，封裝工藝突破正在成為中國芯片制造的新課題；此外，芯片產(chǎn)業(yè)發(fā)展不僅依賴硬件能力，還需要構(gòu)建與硬件匹配的軟件生態(tài)，包括操作系統(tǒng)、中間件和工具鏈等，當下諸多本土芯片技術(shù)儲備和生態(tài)能力仍圍繞小模型時代的識別式人工智能展開，難以匹配大模型和生成式人工智能發(fā)展所需的軟件生態(tài)、模型框架、性能需求，因此本土人工智能芯片仍需在發(fā)展、繼承和競爭中成長。未來，中國人工智能芯片產(chǎn)業(yè)需要進一步加強技術(shù)研發(fā)和創(chuàng)新，加強生態(tài)體系建設，培養(yǎng)更多高素質(zhì)高技術(shù)的人才，加2高算力和高能效受到持續(xù)關注從感知智能到生成式智能，人工智能算力需求快速增長。IDC認為，生成式人工智能和大模型發(fā)展正在能成為人工智能算力市場發(fā)展的加速器。從感知智能到生成式智能，人工智能越來越需要依賴“強算法、高算力、大數(shù)據(jù)”的支持。模型的大小、訓練所需的參數(shù)量等因素將直接影響智能涌現(xiàn)的質(zhì)量，人工智能模型需要的準確性越高，訓練該模型所需的計算力就越高。以ChatGPT模型為例，公開數(shù)據(jù)顯示，其所使用的GPT-3大模型所需訓練參數(shù)量為1750億，算力消耗為3640PF-days（即每秒運算一千萬億次，運行3640天），需要至少1萬片GPU提供支撐。據(jù)統(tǒng)計，當模型參數(shù)擴大十倍，算力投入將超過十倍，模型架構(gòu)、優(yōu)化效率、并行處理能力以及算力硬件能力等因素均會影響具體增加的倍數(shù)。表1表1來源：公開資料，浪潮信息，2023圖9全球人工智能服務器市場規(guī)模預測（含生成式人工智能和非生成式人工智能服務器），2022-2026（$M）G-AI■OtherAI$40,000$35,000$30,000$25,000$20,000$15,000$10,000$5,000來源：IDC，2023模型名稱BERT-LargeGPT-2GPT-3T-5MT-NLGPaLMPaLM-2Switch-TransformerChinchillaLLaMA源1.0參數(shù)量3億15億1750億110億5300億5400億3400億1.6萬億700億650億2450億算力當量2.4PD87PD3640PD26PD9900PD29000PD85000PD46PD6795PD6330PD4095PD由于大模型對計算能力和數(shù)據(jù)的高需求，其所需要的服務器設施將在人工智能基礎設施市場中占據(jù)越來越大的份額。IDC預計，全球人工智能硬件市場（服務器），將從2022年的195億美元增長到2026年的347億美元，五年年復合增長率達1.3%；其中，用于運行生成式人工智能的服務器市場規(guī)模在整體人工智能服務器市場的占比將從2023年的增長至2026年的。$23,674$23,590$23,152$21,818$18,684$819$10,988$8,203$5,466$2,94620222023202420252026目前，中國的人工智能服務器發(fā)展取得了快速且顯著的進展。由于人工智能是國家發(fā)展戰(zhàn)略的重要部分，在當前數(shù)字經(jīng)濟的時代背景之下，服務器已經(jīng)延伸到多個應用領域；人工智能服務器作為快速發(fā)展的新興領域，市場規(guī)模也在不斷增長。與此同時，國家相關部門陸續(xù)出臺支持行業(yè)發(fā)展的相關文件。例如，2023年2月，中共中央、國務院印發(fā)《數(shù)字中國建設整體布局規(guī)劃》，提到系統(tǒng)優(yōu)化算力基礎設施布局，以促進東西部算力高效互補和協(xié)同聯(lián)動，引導通用數(shù)據(jù)中心、超算中心、智能計算中心、邊緣數(shù)據(jù)中心等合理梯次布局，在政策層面為人工智能服務器需求量的增長提供保障。來源：IDC，2023圖102022-2027來源：IDC，2023圖102022-2027金額：百萬美元16,000 14,000 12,00010,0008,0006,0004,0002,00002022 2023 2024 2025 2026 2027來源：IDC，2023圖11中國人工智能服務器工作負載預測，2022-2027訓練推理100%90%80%70%60%50%40%30%20%10%0%202220232024202520262027第二章｜人工智能算力及應用 18從需求側(cè)來說，在國內(nèi)數(shù)字基礎建設不斷加快的帶動下，人工智能服務器行業(yè)也保持快速增長。各大相關企業(yè)相繼進行布局，加之中國人工智能應用場景的逐步落地，對算力的需求量快速增長，人工智能服務器在服務器整體市場中的比重越來越高。同時，中國的企業(yè)和研究機構(gòu)積極進行人工智能服務器的技術(shù)研發(fā)和創(chuàng)新。這包括高性能的處理器、大容量的內(nèi)存、高速的存儲器和高效的冷卻系統(tǒng)等領域的創(chuàng)新，以滿足對計算能力和數(shù)據(jù)處理速度的需求。IDC預測，未來市場需求量也將會實現(xiàn)大幅度上升，預計2023年，中國人工智能服務器市場規(guī)模將達91億美元，同比增長82.5%，2027年將達到134億美元，五年年復合增長率為21.8%。隨著生成式人工智能任務的不斷增加，市場對于高性能和高能效的人工智能服務器需求將持續(xù)增長。未來的人工智能服務器將注重提高計算能力和處理效率，以適應更復雜、更大規(guī)模的人工智能應用。從工作負載來看，2023年，大模型的興起推動了訓練服務器的增長速度。IDC數(shù)據(jù)顯示，在中國，2023上半年訓練工作負載的服務器占比達到49.4%，預計全年的占比將達到58.7%。隨著訓練模型的完善與成熟，模型和應用產(chǎn)品逐步進入投產(chǎn)模式，處理推理工作負載的人工智能服務器占比將隨之攀升。IDC預計，到2027年，用于推理的工作負載將達到72.6%。58.4%41.3%67.7%68.8%70.5%72.6%58.7%41.6%32.3%31.2%29.5%27.4%第二章｜人工智能算力及應用 19法和模型：型迭代以探索行業(yè)實踐伴隨模型參數(shù)不斷擴大，智能涌現(xiàn)將為人工智能發(fā)展產(chǎn)生深遠影響。當前，人工智能大模型處于高速發(fā)展階段，Open-AI、谷歌、Meta、微軟等在技術(shù)實力、資金、人才基礎等方面具有優(yōu)勢的大型科技企業(yè)正推動大模型的發(fā)展，千億乃至萬億級參數(shù)量加速智能涌現(xiàn)。在這個過程中，我們發(fā)現(xiàn)：大語言模型成為人工智能突破的核心之一。大語言模型的出現(xiàn)使得人工智能在自然語言處理領域取得了顯著的進展，目前已經(jīng)在翻譯文本、生成文章、回答問題、生成對話等任務場景下具備優(yōu)質(zhì)的性能和表現(xiàn)。國內(nèi)人工智能大語言模型目前主要聚焦基礎大模型訓練，眾多企業(yè)和機構(gòu)也在不斷嘗試各種不同技術(shù)路線的大語言模型。但單純依賴通用大語言大模型無法為創(chuàng)新企業(yè)提供持續(xù)的競爭力，垂直領域的數(shù)據(jù)、面向場景的模型優(yōu)化、工程化的解決方案，才是將人工智能落地、建立競爭優(yōu)勢的關鍵。大模型技術(shù)發(fā)展推動多模態(tài)模型不斷升級迭代。伴隨深度學習、強化學習、遷移學習等多種技術(shù)的發(fā)展，多模態(tài)大模型正在成為人工智能領域的發(fā)展趨勢之一。多模態(tài)大模型能夠?qū)崿F(xiàn)圖像、文本、語音等模態(tài)之間的統(tǒng)一表示和相互生成，具有廣泛的應用范圍，覆蓋自然語言處理、圖 、多媒體處理等諸多領域，諸如GPT-4等多模態(tài)大模型，可以在很多專業(yè)領域表現(xiàn)出類人類的水準，實現(xiàn)了突破性發(fā)展。未來，基于技術(shù)的不斷突破，多模態(tài)將持續(xù)拓展各行業(yè)場景下的融合應用。我們看到，頭部廠商持續(xù)布局多模態(tài)大模型領域，在注重模型整體通用性的同時，也在不斷提升子領域的優(yōu)化體驗和技術(shù)升級。大模型可通過自主學習和改進，不斷刷新任務完成的質(zhì)量。參數(shù)越多，模型可以學習到的特征和模式也會更多，但是，智能涌現(xiàn)不僅只與參數(shù)量有關，還受到模型設計、數(shù)據(jù)集選擇、訓練方法、模型架構(gòu)、任務類型和計算資源等多重因素的影響。因此，在實踐中，企業(yè)需要根據(jù)具體的任務和模型設計來決定參數(shù)量的大小，算力服務商需要從硬件、軟件和算法等多個維度提供全面服務，共同提升大模型的準確性和可用性。以Me ed框架例，Megatron是基于Transformer開發(fā)的、采用混合精度訓練的模 節(jié)點練，通過與DeepSpeed深度學習加速優(yōu)化庫結(jié)合，創(chuàng)建了一個支持數(shù)據(jù)并行（D行（TP）和流水線并行（PP）的3D并行系統(tǒng)，這使得千億級參數(shù)量以上的大規(guī)模語言模型的分布式訓練變得更簡單、高效和有效。持續(xù)提升人工智能框架技術(shù)的易用性和靈活性，加速人工智能在多元化應用場景的落地。工智能所面對的下游行業(yè)紛繁復雜，應用場景多種多樣，需求千差萬別。定制化的開發(fā)模式造成項目開發(fā)成本高，開發(fā)周期長，難以適應變化。大模型通常具有更強的泛化能力，可在一定程度上解決模型定制的問題。預訓練大模型正成為人工智能產(chǎn)業(yè)發(fā)展的重要選擇，即：基于海量行業(yè)數(shù)據(jù)和知識，通過強大算力集群，預先訓練基礎模型，并結(jié)合應用場景的數(shù)據(jù)和各類需求，通過“預訓練大模型+任務微調(diào)”的方式，進行更高效率的“工業(yè)化”開發(fā)。在實現(xiàn)軟硬件協(xié)同優(yōu)化、分布式計算以及云邊端全場景部署等目標過程中，市場也對人工智能框架技術(shù)提出更高的要求。第二章｜人工智能算力及應用 20此外，開源框架技術(shù)作為人工智能領域的操作系統(tǒng)，具有核心地位。人工智能開發(fā)者對于開源框架的依賴度非常高，尤其關注框架技術(shù)的易用性、穩(wěn)定性、靈活性和可擴展性。開源框架雖然可以簡化模型的構(gòu)建，但要實施一個大型人工智能應用，不僅需要開源框架能力，還需要對數(shù)據(jù)采集、整理、模型訓練，以及訓練后的模型調(diào)優(yōu)、迭代，乃至云邊協(xié)同等一系列環(huán)節(jié)進行投入。當大模型在小算力設備上運行時，還需要將模型進行壓縮，諸如此類的應用需求需要一整套工具來支持，這將促進具有一定壁壘性的開發(fā)工具鏈的打造。這意味著，開發(fā)者或用戶在使用某一開發(fā)工具落實大模型項目時，就會更傾向于使用配套的框架技術(shù)。從長期上來看，這將促成框架技術(shù)的生態(tài)化發(fā)展，市場玩家將會越來越聚焦，其他技術(shù)產(chǎn)品的市場占有率會越來越少。目前，全球來說，TensorFlow具有廣泛應用基礎市場接受度持續(xù)上升，在產(chǎn)業(yè)界生產(chǎn)環(huán)境中繼續(xù)呈現(xiàn)出后來者居上的競爭態(tài)勢；在中國，主流的深度學習框架以百度飛槳等為代表，在學術(shù)界和工業(yè)界有較高的認知度和應用性。人工智能持續(xù)發(fā)展離不開底層服務支撐和軟件平臺優(yōu)化。越來越多的行業(yè)用戶關注到框架或者平臺產(chǎn)品中的大模型能力，但在通往應用和大規(guī)模落地過程中，還需不斷面對算力、數(shù)據(jù)、效果、成本等多維度帶來的挑戰(zhàn)。需要充足的算力資源：大模型技術(shù)創(chuàng)新和應用需要基于海量數(shù)據(jù)集，在擁有成百上千加速卡的人工智能服務器集群上對千億級參數(shù)人工智能大模型進行分布式訓練，這對算力資源的規(guī)模提出了極高的要求。算力不足意味著無法處理龐大的模型和數(shù)據(jù)量，因此無法有效支撐高質(zhì)量的大模型技術(shù)創(chuàng)新。需要高效的算力供給：相比普通的人工智能訓練，大模型的訓練技術(shù)考慮的問題更加復雜，對于基礎設施的要求也更高。大模型訓練在帶來海量的算力需求的同時，還需要在算力平臺設計上考慮到一個問題——龐大的算力節(jié)點規(guī)模將帶來算力使用效率的衰減。大規(guī)模人工智能計算集群上的訓練算力效率會直接影響到模型訓練時長以及算力消耗成本。因此，如何發(fā)揮大模型算力平臺效能、抑制性能損耗，對于提升生成式人工智能研發(fā)創(chuàng)新效率至關重要。需要優(yōu)質(zhì)的數(shù)據(jù)服務：優(yōu)質(zhì)數(shù)據(jù)集是訓練高質(zhì)量模型的關鍵，面對海量的數(shù)據(jù)規(guī)模，在大模型預訓練階段如能做到精準、高效的數(shù)據(jù)清洗、集成、變換和規(guī)約，將大大提高數(shù)據(jù)質(zhì)量，減少噪音和錯誤數(shù)據(jù)的影響，從而有效提升算法的準確性和泛化能力。而數(shù)據(jù)標注是耗時耗力的工作，中小型人工智能企業(yè)或需要垂直模型的企業(yè)可能缺乏相應的人力、物力和時間。即使項目開始落地，由于生產(chǎn)過程中現(xiàn)場數(shù)據(jù)質(zhì)量參差不齊，開發(fā)人員能力高低不一，數(shù)據(jù)處理質(zhì)量會受到影響；此外，一旦項目運維過程中應用環(huán)境稍有改變，數(shù)據(jù)標注和模型訓練工作就需要重做。隨著大模型從基礎研發(fā)走向應用落地，人工智能軟件基礎設施的重要性和價值進一步凸顯。大模型 0到1”的技術(shù)統(tǒng)一，而大模型在通往“從1到100”的應用和大規(guī)模落地過程中，還需不斷面對算力、數(shù)據(jù)、效果、成本等多維度帶來的挑戰(zhàn)，標準化的全?；A軟件和工作流是支撐大模型基礎研發(fā)和應用落地的核心環(huán)節(jié)。第二章｜人工智能算力及應用 21提供全棧全流程支持：人工智能軟件基礎設施是算力和應用之間的中間層軟件基礎設施，包含系統(tǒng)環(huán)境部署、算力調(diào)度保障和模型開發(fā)管理等多個層次，覆蓋了數(shù)據(jù)準備、訓練、模型部署、產(chǎn)品整合等諸多環(huán)節(jié)。通過構(gòu)建系統(tǒng)性的架構(gòu)和全棧的解決方案，可更好全流程支持企業(yè)實現(xiàn)模型的應用落地。充分釋放算力資源：大模型技術(shù)創(chuàng)新和應用需要基于海量數(shù)據(jù)集，在擁有成百上千加速卡的人工智能服務器集群上對千億級參數(shù)人工智能大模型進行分布式訓練，這對算力資源的規(guī)模提出了極高的要求。算力不足意味著無法處理龐大的模型和數(shù)據(jù)量，也就無法有效支撐高質(zhì)量的大模型技術(shù)創(chuàng)新。人工智能軟件基礎設施需要從計算系統(tǒng)的各個層面充分釋放算力資源。實現(xiàn)廣泛的兼容適配：相比普通的人工智能訓練，面向大模型的人工智能軟件基礎設施涉及的層次和范圍更廣，包括從集群環(huán)境的部署、管理和監(jiān)控到算力和計算任務額的管理與調(diào)度保障，從數(shù)據(jù)清洗和數(shù)據(jù)管理到模型的預訓練和微調(diào)等。在此過程中，必然會涉及到多種軟件工具的集成整合。因此，只有打造開放、兼容、解耦的人工智能軟件基礎設施，才能更好地適應用戶需求。總體來說，未來人工智能軟件基礎設施將呈現(xiàn)如下發(fā)展趨勢：降低人工智能開發(fā)門檻，推進低代碼或智能輔助編程工具的發(fā)展，優(yōu)化AI接口性能；推進數(shù)據(jù)維度的開源，實現(xiàn)數(shù)據(jù)的開源、開放，為全社會創(chuàng)造價值。第二章｜人工智能算力及應用PAGE22第二章｜人工智能算力及應用PAGE22圖12全球邊緣人工智能基礎設施處理器和加速器市場規(guī)模，2022-2027圖12全球邊緣人工智能基礎設施處理器和加速器市場規(guī)模，2022-2027邊緣人工智能基礎設施處理器邊緣人工智能基礎設施加速器整體市場增幅（%）（$B）10Total9.481.81.464ol 6620（%）140120100806040200來源：IDC，2023邊緣智能：以廣泛的部署推進智能的延伸邊緣對人工智能和機器學習的依賴程度越來越高。隨著邊緣計算逐步進入穩(wěn)健發(fā)展期，使用單一邊緣技術(shù)構(gòu)建的應用難以充分發(fā)揮其價值，邊緣計算與云計算、5G、區(qū)塊鏈等其他技術(shù)的協(xié)同與融合需求將進一步增加；邊緣人工智能、5G邊緣計算、邊緣即服務等成為邊緣計算技術(shù)的未來發(fā)展趨勢。IDC報告數(shù)據(jù)顯示，全球邊緣人工智能基礎設施處理器和加速器的增長將從2022年的11億美元增加至2027年的94億美元，五年年復合年增長率（CAGR）為52.3%。1.14.40.9 1.9202220232024202520262027傳感器、攝像機、物聯(lián)網(wǎng)設備和機器正在源源不斷地產(chǎn)生更多的數(shù)據(jù)，一方面，邊緣智能可以讓數(shù)據(jù)在靠近創(chuàng)建的位置實現(xiàn)分析和處理；另一方面，通過云-邊協(xié)作，可以將人工智能算法和模型的學習和優(yōu)化成果部署到邊緣側(cè)，不斷提高邊緣側(cè)的執(zhí)行效果。在中國，對用戶而言，邊緣智能具有降低時延、提高數(shù)據(jù)隱私、降低運營成本等優(yōu)勢，已經(jīng)在工業(yè)、交通、醫(yī)療、零售、農(nóng)業(yè)等行業(yè)實現(xiàn)廣泛應用。在制造業(yè)領域，它可以為企業(yè)提高工廠設備的可維護性和可預測性。在交通領域，通過在道路沿線部署邊緣智能設備，可以實現(xiàn)對道路交通情況的實時監(jiān)測，通過與智能交通管理系統(tǒng)的聯(lián)動，及時緩解城市交通擁堵。在科研領域，可以幫助科研人員實時監(jiān)測實驗過程和結(jié)果，加速實驗方案的實施，提高實驗的可靠性和準確性。此外，邊緣智能可以通過本地加密等技術(shù)，在一定程度上滿足智能應用過程中“數(shù)據(jù)不出域”的要求，更好地保護數(shù)據(jù)隱私，避免數(shù)據(jù)泄露。同時，由于邊緣設備可以獨立運行，即使網(wǎng)絡連接不可靠，也可以保證業(yè)務的正常運行。在構(gòu)建邊緣智能的過程中，企業(yè)需要制定全面的人工智能戰(zhàn)略，進而更好地實現(xiàn)數(shù)據(jù)收集和處理，保障隱私和安全，優(yōu)化模型部署和維護，提高軟、硬件的集成和協(xié)同，在覆蓋邊緣和數(shù)據(jù)中心的異構(gòu)復雜混合環(huán)境中，實現(xiàn)基于人工智能的創(chuàng)新。同時，供應商側(cè)的相關知識和經(jīng)驗共享，對于企業(yè)加速拓寬邊緣智能的視線也至關重要。圖13圖13生成式人工智能模型開發(fā)生成式人工智能模型調(diào)優(yōu)生成式人工智能模型推理生成式人工智能軟件生成內(nèi)容類型視頻圖片圖片文本來源：IDC，2023綠色算力：基于液冷服務器構(gòu)建可持續(xù)發(fā)展數(shù)據(jù)中心伴隨人工智能算力和存力的不斷提升，芯片的功耗正越來越高，發(fā)熱量也越來越大?？傮w來說，訓練階段比推理階段更耗電；同時，生成的內(nèi)容不同，所需的功率也存在差異（通常，視頻和圖像等富媒體內(nèi)容比單純文本需要消耗更多的電力）。對于數(shù)據(jù)中心操作員和規(guī)劃人員來說，需要依據(jù)計算需求對資源進行合理規(guī)劃和分配，節(jié)約能源消耗，同時應針對高密度機架數(shù)據(jù)中心來優(yōu)化電路設計，積極探索模塊化設計和部署，并采用液冷等先進冷卻方法、借助節(jié)能硬件和軟件技術(shù)，滿足可持續(xù)發(fā)展提出的要求，以通過“優(yōu)先考慮數(shù)字化”和“環(huán)境、社會和治理（ESG）”戰(zhàn)略來推動業(yè)務價值發(fā)展。能耗越高的數(shù)據(jù)中心，所要付出的電力成本將越高。在中國，面對大量涌現(xiàn)的人工智能大模型應用以及國家“雙碳戰(zhàn)略”和“東數(shù)西算”的逐步實施，為實現(xiàn)算力建設和能源消耗成本間的有效平衡，通過提升散熱效率來降低能耗的液冷數(shù)據(jù)中心受到市場的關注。液冷服務器正快速迭代。IDC預計，2022-2027年，中國液冷服務器市場年復合增長率將達到547%，2027年市場規(guī)模將達到892022年，中國液冷服務器數(shù)量尚不到服務器總量的3%，滲透率在10%左右。進入2023年至今，主流IT設備廠商均已公開表明將加大研發(fā)力度并加快產(chǎn)品迭代速度，尤其重視液冷數(shù)據(jù)中心系統(tǒng)架構(gòu)、液冷部件及接口、液冷基礎設施、液冷監(jiān)控系統(tǒng)的標準制定等維度的提升，加速液冷算力規(guī)?；渴穑瑑?yōu)化液冷產(chǎn)業(yè)鏈生態(tài)伙伴協(xié)同發(fā)展，加速液冷在數(shù)據(jù)中心的規(guī)?；涞?。圖14中國液冷服務器市場預測，2022-2027圖14中國液冷服務器市場預測，2022-2027單位：十億美元109876543210202220232024202520262027來源：IDC，20231.0在通用算力市場中，液冷數(shù)據(jù)中心制冷解決方案主要有三條技術(shù)路線，即冷板式、浸沒式和噴淋式。IDC數(shù)據(jù)顯示，2022年，中國液冷服務器市場中，冷板服務器占到了90%。這種技術(shù)路線通過冷板制冷方案，對CPU、內(nèi)存和磁盤等高功耗的部件進行接觸式降溫。冷板方案在對原有基礎設施進行改造的投入和難度方面具有優(yōu)勢，同時具有較高成熟度和較好商用基礎。浸沒式在散熱效率和單機柜功率、空間利用率等方面比冷板式更具優(yōu)勢，但是受限于基礎設施改造、建設成本、電子氟化液或其他冷卻液的成本及可維護性等因素，目前發(fā)展仍相對緩慢。噴淋式與浸沒式類似，同樣適用于結(jié)構(gòu)承重經(jīng)過特殊加固的新建項目，不同之處在于：噴淋式方案中目前單機柜最大負載為48KW，應用范圍相對狹窄。越來越多的行業(yè)標準相繼推出，也在帶動生態(tài)鏈的有序發(fā)展。Intel等全球技術(shù)供應商提出在OCP（開源計算項目）下為數(shù)據(jù)中心液冷用快速接頭制定UQD全球標準，希望能在液冷數(shù)據(jù)中心防噴快換接頭的快速更換方面提供開放標準，以加液冷數(shù)據(jù)中心的快速部署能力以及減輕運維難度。在中國，盡管市場對數(shù)據(jù)中心制冷有旺盛的需求，但液冷技術(shù)從宏觀上看仍處于發(fā)展早期階段，產(chǎn)業(yè)生態(tài)建設仍有待完善。各方應全力打造高水平液冷生態(tài)鏈，構(gòu)筑開放生態(tài)，引領形成統(tǒng)一標準，打造液冷生態(tài)的主導者、設計者、構(gòu)筑者，推進產(chǎn)業(yè)生態(tài)成熟。人工智能算力服務和云：根據(jù)算力需求優(yōu)化服務模式近年來，人工智能的廣泛應用提出了更高的算力需求，也讓算力提供的使用方式發(fā)生了重大改變。過去十年，企業(yè)IT基礎架構(gòu)的部署從傳統(tǒng)采購模式加速向公有云上遷移，越來越多的用戶開始利用人工智能aaS服務帶來的便利、快速靈活地部署相關應用。然而近年來，人工智能和應用提出了更高的算力需求，讓算力提供方式發(fā)生了重大改變。人工智能應用帶來的算力使用方式具有算力資源占用集中化、技術(shù)門檻更高等顯著特征。一個大模型的訓練往往需要大量集群的算力提供支持，傳統(tǒng)人工智能就緒度低的數(shù)據(jù)中心環(huán)境和運維管理狀態(tài)難以滿足算力、網(wǎng)絡和安全等方面的需求；應用側(cè)需求的改變也將催生算力服務模式的更新。2023年，大模型和生成式人工智能快速發(fā)展，將給人工智能算力服務市場帶來新的機遇：其一，不管是大模型的訓練或推理，都需要相對更大的算力和相應的投入。當前，生成式人工智能正處在起步階段，主要的投入來自超大規(guī)?；ヂ?lián)網(wǎng)企業(yè)，隨著應用在各行業(yè)的不斷深入，更多的用戶將涉足這一領域，而對于短期內(nèi)不考慮或不具備自建人工智能算力數(shù)據(jù)中心能力的用戶而言，使用人工智能算力服務的方式是理想的選擇。其二，超大規(guī)模云服務器提供商和人工智能解決方案提供商具有更強的技術(shù)能力，具備生成式人工智能和大模型開發(fā)的技術(shù)基礎，并有能力進行快速迭代。因此，人工智能算力服務能夠幫助各行業(yè)的中小企業(yè)實現(xiàn)生成式人工智能技術(shù)的可用，從而快速為自身業(yè)務發(fā)展賦能。未來，人工智能算力服務的發(fā)展將與人工智能生態(tài)的發(fā)展息息相關。過去幾年來，人工智能在數(shù)據(jù)、算法和算力方面日益成熟，行業(yè)應用更加豐富，加之人工智能產(chǎn)業(yè)鏈各個廠商做出的貢獻，使得人工智能算力服務的應用場景更加豐富和成熟。當前用戶最大的痛點在于：面對偏通用的模型，如何將人工智能技術(shù)更好地應用到自身企業(yè)業(yè)務場景，“最后一米”的距離看似很近，實則需要各個人工智能生態(tài)中合作伙伴大量的技術(shù)和時間投入，同時降低開發(fā)門檻，突破這些瓶頸，讓人工智能應用更好地賦能各行各業(yè)。圖15企業(yè)已部署及未來三年計劃部署的人工智能單點技術(shù)，2023未來三年采用圖15企業(yè)已部署及未來三年計劃部署的人工智能單點技術(shù)，2023未來三年采用已經(jīng)采用人臉和人體識別6圖像技術(shù)32%66%語音技術(shù)40%58%視頻分析1ARVR只是圖譜80%10%20%30%40%50%60%70%80%來源：IDC，2023%64%9%68%8%72%31%66%34%8%第二章｜人工智能算力及應用 26應用：企業(yè)積極投入以滿足大模型時代的應用需求近年來，人工智能從單點應用到多元化、從通用場景到行業(yè)特定場景，不斷深入，飛速發(fā)展。由生成式人工智能引發(fā)的熱潮，也在迅速擴散。人工智能應用場景在近年的發(fā)展中，逐步開始變得更加多樣化，對人工智能的需求也逐漸從單一功能轉(zhuǎn)向為多維度，多思維，多模態(tài)以及多場景。根據(jù)2023年IDC的結(jié)果，計算機視覺仍為最主要的應用技術(shù)類型，以生物識別和圖像技術(shù)為主，語音技術(shù)的應用程度緊隨其后，而自然語言處理仍處在相對早期的發(fā)展階段，從調(diào)研的樣本來看，已經(jīng)采用的企業(yè)不超過三成，但從未來三年計劃采用的情況來看，自然語言處理類應用將快速落地，66%的企業(yè)表示將在未來三年采用該應用場景。同時，本次調(diào)研結(jié)合單點技術(shù)應用及企業(yè)IT資源消耗發(fā)現(xiàn)，自然語言處理對企業(yè)IT資源占用最大，未來隨著這一應用普及度的提高，該特征將更為顯著。除此之外，圖像技術(shù)、知識圖譜和AR/VR是參與調(diào)研樣本企業(yè)中另外三個高算力消耗的單點技術(shù)。圖17人工智能目前及未來三年對企業(yè)產(chǎn)生的價值圖17人工智能目前及未來三年對企業(yè)產(chǎn)生的價值未來三年降低成本增加收入優(yōu)化用戶體驗縮短流程所需時間提升決策速度7.11提高員工生產(chǎn)、研發(fā)效率6.66提升洞察力提高資產(chǎn)利用率產(chǎn)生更多定制化、精細化產(chǎn)品與服務降低人力成本來源：IDC，2023第二章｜人工智能算力及應用 27圖16單點技術(shù)場景對IT資源的占用情況自然語言處理 圖像技術(shù) 知識圖譜 AR與VR 視頻分析 人臉與人體識別 語音技術(shù)對于企業(yè)而言，人工智能對企業(yè)帶來的價值正愈加顯著，尤其體現(xiàn)在提高資產(chǎn)利用率、提高員工生產(chǎn)及研發(fā)效率、提升產(chǎn)品與服務三方面。IDC本次調(diào)研顯示，企業(yè)在未來三年由人工智能所產(chǎn)生的價值將大幅提升，尤其在提高資產(chǎn)利用率、降低人力成本、提升洞察力、提升決策速度和優(yōu)化用戶體驗等幾個方面。第二章｜人工智能算力及應用PAGE29第二章｜人工智能算力及應用PAGE29從行業(yè)的角度看，與往年相比，人工智能技術(shù)已全面邁入應用加速時代，持續(xù)追求對于技術(shù)的創(chuàng)新，更注重類人化和以機器學習、深度學習等人工智能技術(shù)，分析處理真實數(shù)據(jù)以及復雜問題。生成式人工智能的落地，也給各行業(yè)帶來新的動能。智慧金融行業(yè)：金融行業(yè)對人工智能投入高，增速快。人工智能技術(shù)的引入也打破了傳統(tǒng)金融行業(yè)存在的流程復雜、周期較長、工作單一且重復、審批方式以及流程耗費時間長等問題。因此，金融業(yè)對于人工智能算力、算法的需求日益增高。以銀行業(yè)為例，伴隨當前國內(nèi)經(jīng)濟大環(huán)境以及宏觀調(diào)控等因素，信貸及風險管控壓力驟增，實現(xiàn)風險管控，反欺詐以及基于RPA的流程自動化是銀行目前的布局重點。各家銀行依托大數(shù)據(jù)建立專屬的信貸評級系統(tǒng)以及審批系統(tǒng)，可極大程度上降低借貸風險，并優(yōu)化借貸流程。近年來，銀行業(yè)已在風控、營銷、客服等多個場景熟練使用人工智能技術(shù)，有效提高了工作效率，降低了各項成本，提升了客戶服務滿意度，同時實現(xiàn)了“便捷化”“智能化”及“綠色化”；隨著人工智能技術(shù)的發(fā)展，業(yè)務流程自動化管理是銀行業(yè)發(fā)展的重心和趨勢，其能夠有效減少信息錄入、核驗、審批等簡單重復的工作，加速個性化金融服務的拓展，從而減少運營成本以及提高客戶滿意度。智能制造：人工智能的革新以及算法、算力的更新迭代加速推進了制造業(yè)的發(fā)展進程?；诤Ａ看髷?shù)據(jù)，基礎設施全面實現(xiàn)智能化、綠色化，在避免消耗大量人力成本的同時也助力技術(shù)的不斷創(chuàng)新和升級。智能產(chǎn)線、預測性維護、自動化生產(chǎn)、運營優(yōu)化和實時監(jiān)控是目前制造企業(yè)使用率最高的應用場景。未來，智能決策、遠程操作，以及圍繞生成式人工智能的應用場景將加速落地。智能產(chǎn)線：在人工智能技術(shù)的賦能下，制造業(yè)企業(yè)可以實現(xiàn)產(chǎn)品性能和質(zhì)量的可視化預測以及自動化復檢；制造業(yè)推進供應鏈管理自動化，同時了解內(nèi)外部發(fā)展趨勢，結(jié)合市場發(fā)展現(xiàn)狀、自我產(chǎn)品定位以及相關競品的優(yōu)劣勢對產(chǎn)品進行定位和研發(fā)，協(xié)助制定全新設計方案和銷售方案。預測性維護：通過收集和分析設備數(shù)據(jù)，人工智能可以預測設備故障的可能性和維護需求。這種預測性維護可以減少設備停機時間，提高生產(chǎn)效率。運營、工況分析和優(yōu)化：通過對大量數(shù)據(jù)的收集和分析，人工智能可以揭示生產(chǎn)和運營中的潛在問題并提供優(yōu)化建議，幫助制造廠商優(yōu)化生產(chǎn)過程，降低成本并改進產(chǎn)品設計。實時監(jiān)控：通過傳感器和物聯(lián)網(wǎng)技術(shù)，人工智能可以實時監(jiān)測設備和生產(chǎn)線的狀態(tài)。通過收集和分析大量數(shù)據(jù)（如溫度、壓力、震動等）以及設備的工作狀態(tài)和性能指標，幫助制造企業(yè)及時發(fā)現(xiàn)問題并采取措施，以避免生產(chǎn)中斷或出現(xiàn)質(zhì)量問題。智能決策：人工智能可以通過學習和優(yōu)化算法，實現(xiàn)設備和生產(chǎn)線的自主決策；根據(jù)實時數(shù)據(jù)和預設的規(guī)則，自動調(diào)整參數(shù)，優(yōu)化生產(chǎn)計劃，及時響應異常情況，有效提高生產(chǎn)線的自適應性和效率。遠程操作：人工智能技術(shù)可以通過遠程控制技術(shù)，實現(xiàn)對設備和生產(chǎn)線的遠程操作。制造商可以通過云平臺或移動應用監(jiān)控和控制設備，進行遠程調(diào)整和優(yōu)化，極大程度提高生產(chǎn)線的靈活性和響應能力，減少人工干預，降低生產(chǎn)成本。智慧醫(yī)療：人工智能在醫(yī)療行業(yè)的應用正日益增長，對醫(yī)療服務的質(zhì)量、效率和準確性產(chǎn)生了深遠的影響。例如，人工智能在醫(yī)學診斷和影像學方面發(fā)揮了重要作用。通過深度學習技術(shù)和大數(shù)據(jù)分析，人工智能能夠?qū)︶t(yī)學圖像，如CT掃描、MRI和X射線等進行自動分析和解讀，有助于輔助醫(yī)生提供更準確的診斷，快速識別潛在的疾病特征，減少漏診和誤診的風險。此外，人工智能可改善對患者的監(jiān)測和個性化治療。通過傳感器、健康監(jiān)測設備和實時數(shù)據(jù)分析，人工智能能夠監(jiān)測患者的生理參數(shù)、活動水平和病情變化，并基于這些數(shù)據(jù)提供個性化的治療建議、預測疾病發(fā)展趨勢，并提前預警患者的惡化風險，從而優(yōu)化患者管理、提升治療效果。另外，人工智能在新藥研發(fā)和藥物治療方面也具有潛力。通過分析大量的醫(yī)學文獻、基因組學數(shù)據(jù)和臨床試驗結(jié)果，人工智能可以發(fā)現(xiàn)新的治療目標和藥物候選物，加速新藥研發(fā)的過程，并幫助制定更有效的治療策略。人工智能能為患者提供更智能化和個性化的醫(yī)療服務。通過虛擬助手、聊天機器人和語音識別技術(shù)，人工智能可以為患者提供24/7的醫(yī)療咨詢和居家遠程醫(yī)療服務；還可以根據(jù)患者的個人健康數(shù)據(jù)和歷史記錄，提供個性化的預防和康復建議，促進患者的健康管理和自我護理。AI4S（人工智能應用于科學）：人工智能在科學領域的應用也取得了諸多階段性成果?；谙冗M的算法和模型，科學家、研究機構(gòu)和相關企業(yè)可加速數(shù)據(jù)分析和處理，基于模型和算法對原子運動規(guī)律、物質(zhì)性質(zhì)等進行預測和模擬，也可對醫(yī)學圖像、天文圖像等進行更好的識別和理解，加速實驗的自動化和智能化，實現(xiàn)自動化合成、自動化表征等。目前，人工智能已經(jīng)在材料科學、生物醫(yī)學、環(huán)境和氣象、海洋、航空航天、化工等領域?qū)崿F(xiàn)落地和應用，為科學研究的發(fā)展帶來更多的可能性。生成式人工智能應用在2023年快速發(fā)展，未來將進一步賦能各行各業(yè)。由于生成式人工智能可為實際應用注入增強功能，引來商業(yè)領域的廣泛關注。通過把大模型能力和應用需求結(jié)合，結(jié)合場景或業(yè)務數(shù)據(jù)，可加速生成式人工智能向行業(yè)領域的滲透。IDC認為知識管理、對話式應用、銷售和營銷、代碼生成等是企業(yè)應用生成式人工智能的主要領域。從業(yè)務職能場景來說，通過將一個模型（或多個模型）與企業(yè)數(shù)據(jù)集成，可供特定業(yè)務部門或職能部門（營銷、銷售、采購等）使用，滿足職能場景的業(yè)務需求；從生產(chǎn)力場景來說，通過具體工作任務設計，如生成文案、圖片、視頻等內(nèi)容，加速軟件開發(fā)，可將生成式人工智能功能注入現(xiàn)有應用，提高生產(chǎn)力；從行業(yè)場景來說，基于足夠大的訓練數(shù)據(jù)集或與行業(yè)生態(tài)伙伴合作，共享數(shù)據(jù)，圍繞具體模型，以定制化方式構(gòu)建特定集成架構(gòu)，滿足行業(yè)需求。結(jié)合用例來看：金融行業(yè)是對生成式人工智能使用較早的行業(yè)之一，IDC全球一項調(diào)研結(jié)果顯示，樣本中超過半數(shù)的金融機構(gòu)計劃在2023年在生成式人工智能技術(shù)上進行投入，只有10%的金機構(gòu)表示，他們目前沒有試驗計劃，或者目前沒有使用生成式人工智能的計劃。在金融行業(yè)脫穎而出并最容易實現(xiàn)的用例多數(shù)圍繞用戶體驗、知識管理和應用開發(fā)這幾方面，包括智能投顧、自動化客服（如聊天機器人和語音機器人）、風險評估、報告自動化生成、代碼生成應用等。生成式人工智能在金融行業(yè)有著巨大的前景，但金融作為監(jiān)管最為嚴格的行業(yè)之一，對數(shù)據(jù)安全和隱私有極高的要求，本次參與調(diào)研的金融機構(gòu)表示，對數(shù)據(jù)安 是他們采用生成式人工智能時的最大阻礙，如何解決這一問題，對未來技術(shù)的應用發(fā)展至關重要；圖18中國人工智能應用場景發(fā)展，2023圖18中國人工智能應用場景發(fā)展，2023不同階段示例生成式人工智能賦能市場潛力生物識別生成式AI智能制造自然語言處理語音識別人臉識別智能選題和寫作實時監(jiān)控智慧醫(yī)療藥物研發(fā)用藥提醒患者服務自動駕駛高級輔助駕駛視覺感知點云處理車路協(xié)同三維重建成熟度曲線互動娛樂工況分析營銷應用代碼生成預測維護智能客服反欺詐風險評估智能理賠智能保顧智能投顧智慧電信智能網(wǎng)絡精準營銷仿真測試農(nóng)作物監(jiān)測氣象預報高分子材料研發(fā)測 天文發(fā)現(xiàn)智慧金融智慧電網(wǎng)智能調(diào)度智慧交通智能路網(wǎng)車輛識別智能交管電力巡檢智能勘測與開發(fā)智慧工地智慧能源燈 智能教育20252030時間來源：IDC，2023在制造業(yè)領域，生成式人工智能應用處于早期階段，但由于其能夠為客戶生成個性化內(nèi)容和營銷體驗，在改善客戶體驗方面具有巨大潛力。主要用例涉及潛在客戶開發(fā)、生產(chǎn)流程優(yōu)化、、產(chǎn)品設計輔助、設備預測性維護、供應鏈管理等。以潛在客戶開發(fā)為例，制造業(yè)的客戶開發(fā)通常涉及多個接觸點，包括網(wǎng)站、郵件、推薦和社交網(wǎng)絡。生成式人工智能可以分析線索，一旦產(chǎn)生潛在客戶，就通過評估大量數(shù)據(jù)來考量客戶質(zhì)量和潛力；如果潛在客戶與制造企業(yè)理想的客戶畫像相匹配，就能進行資格預審，從而幫助企業(yè)獲得優(yōu)先權(quán)。在制造行業(yè)應用過程中，生成式人工智能需要解決的關鍵挑戰(zhàn)包括：數(shù)據(jù)的可用性和質(zhì)量，客戶對銷售人員參與度的期望，以及數(shù)據(jù)和隱私法的要求。總的來說，人工智能應用可以大幅度提高制造業(yè)的效率、質(zhì)量和創(chuàng)新能力，帶來更多的機遇和競爭優(yōu)勢；在醫(yī)療領域，醫(yī)療機構(gòu)也正積極地了解與生成式人工智能相關的應用，主要涵蓋五大領域：臨床文檔和數(shù)據(jù)管理、患者服務、工作流程和資源優(yōu)化、員工支持、醫(yī)療保健服務和商業(yè)應用。相較于金融和制造業(yè)而言，醫(yī)療行業(yè)在生成式人工智能的投入占比相對較低，但其未來潛力不容忽視。此外，生成式人工智能與大模型也在能源（能源消費趨勢預測、能源存儲和分發(fā)、環(huán)境監(jiān)測）、零售（庫存管理和預測、個性化推薦、客戶行為）、教育（語言學習、教學輔助、學習評估）等領域?qū)崿F(xiàn)推進。隨著技術(shù)的不斷發(fā)展和進步，未來還會出現(xiàn)更多新的應用場景。最佳實踐

案例一美圖：深耕生成式人工智能，提前布局，順勢發(fā)展，廣泛賦能美圖是一家成立于2008年的中國科技公司，秉承著“讓科技與藝術(shù)美好交匯”的使命，美圖公司致力于打造優(yōu)秀的影像與設計產(chǎn)品，讓圖片、視頻、設計、數(shù)字人的制作變得更簡單，并通過美業(yè)解決方案助力產(chǎn)業(yè)數(shù)字化升級。憑借其多年積淀的人工智能技術(shù)能力以及對用戶2010年，為了進一步開展計算機視覺、深度學習、機器學習等人工智能相關領域的研發(fā)，美通過發(fā)揮人工智能的技術(shù)優(yōu)勢，美圖將AIGC相關能力成熟應用在圖片、視頻、設計、數(shù)字人等應用場景中，覆蓋視覺創(chuàng)作、商業(yè)攝影、專業(yè)視頻編輯、商業(yè)設計等領域，不斷推出新功能，旨在全面提升影像行業(yè)的生產(chǎn)力。圖片場景：利用AIGC能力，實現(xiàn)圖生圖、文生圖，以及AI繪畫、AI寫真、AI人像、AI發(fā)型、AI精修、AI妝容等一系列功能。視頻場景：利用AIGC能力，實現(xiàn)視頻的智能化生成和渲染，其中AI動漫功能通過提升幀與幀之間的連續(xù)性，保證生成效果的穩(wěn)定性，精準實現(xiàn)視頻人物的表情和姿態(tài)控制。設計場景：在應用中具備AI海報、AI商品圖以及AI模特試衣等功能，滿足電商行業(yè)海報生數(shù)字人場景：基于美圖AI演員、AI主播等數(shù)字人功能，呈現(xiàn)更加逼真的效果，為影視制作等行業(yè)提供數(shù)字生產(chǎn)工具。2023年6月，美圖正式對外發(fā)布自研AI視覺大模型MiaclVision（奇想智能），為美圖全系產(chǎn)品提供人工智能模型能力，也助力美圖形成由底層、中間層和應用層構(gòu)建的人工智能產(chǎn)品生態(tài)，降低使用門檻、滿足專業(yè)設計需求的同時，逐步落地電商、廣告、游戲、動漫、影視等行業(yè)，助力行業(yè)用戶工作流提效。大模型的研發(fā)和應用對基礎架構(gòu)提出更高的要求，美圖通過與浪潮信息等設備服務商合作，升級基礎架構(gòu)能力，提高算力、存儲、網(wǎng)絡性能，滿足視覺大模型的訓練和應用需求。同時，發(fā)揮諸如云原生服務的基礎構(gòu)建等能力，提高模型訓練平臺的利用率，助力整個高算力集群性能的穩(wěn)定、高效輸出。2023上半年，美圖完成了由生活場景到生產(chǎn)力場景的進化，并持續(xù)推進商業(yè)模式創(chuàng)新，逐步為生產(chǎn)力場景中的設計師用戶和企業(yè)級用戶提供更優(yōu)的產(chǎn)品體驗。例如，美圖旗下產(chǎn)品美圖設計室利用AI技術(shù)為眾多商家提供AI商拍服務，助力近百萬中小電商賣家降本增效。在AIGC助力下，美圖月活躍用戶數(shù)和會員數(shù)持續(xù)增長，以訂閱為主要變現(xiàn)模式的影像與設計產(chǎn)品業(yè)務收入繼續(xù)攀升，為利潤提升做出貢獻。2023年上半年企業(yè)營業(yè)收入和利潤均實現(xiàn)明顯增長，同比增幅分別達29.8%和320.4%。月活躍用戶數(shù)達2.47億，同比增長2.5％。同時，企業(yè)內(nèi)部新產(chǎn)品開發(fā)速度與功能研發(fā)速度也得以提升。接下來，美圖將持續(xù)迭代自研大模型和AIGC產(chǎn)品能力，從算法、算力、數(shù)據(jù)三維度夯實人工智能發(fā)展基礎，做好技術(shù)人才儲備，與合作伙伴密切協(xié)作，推動人工智能對企業(yè)產(chǎn)品能力、服務能力的提升。案例二網(wǎng)易：沉淀關鍵技術(shù)能力，推進人工智能能力的場景化應用網(wǎng)易是一家成立于1997年的中國互聯(lián)網(wǎng)科技公司，業(yè)務范圍覆蓋游戲、音樂、電子郵件服務、電商平臺以及教育等領域。隨著智能創(chuàng)新時代的來臨，網(wǎng)易看到大模型和生成式人工智能發(fā)展給企業(yè)、行業(yè)和社會帶來的機遇。在此背景下，網(wǎng)易一方面加速關鍵技術(shù)的研發(fā)和突破，以生成式人工智能技術(shù)加速業(yè)務發(fā)展，另一方面加速人工智能能力的場景化應用，推進技術(shù)對行業(yè)和產(chǎn)業(yè)的賦能。網(wǎng)易伏羲是網(wǎng)易旗下專業(yè)從事游戲與人工智能研究和應用的機構(gòu)，是網(wǎng)易發(fā)展人工智能技術(shù)的一個重要縮影。伏羲采取以應用為核心的策略，加速人工智能在實際生產(chǎn)環(huán)境中的應用和落地：設計創(chuàng)作場景：網(wǎng)易伏羲“丹青約”繪畫平臺面向美術(shù)資產(chǎn)生產(chǎn)管線，旨在輔助美術(shù)工作者解決設計靈感創(chuàng)作問題，加速圖片作品生成，提升創(chuàng)作效率，實現(xiàn)至少50%以上的工作效率提升。元宇宙場景：基于網(wǎng)易瑤臺元宇宙場景搭建編輯器，實現(xiàn)多場景、強互動、沉浸式的虛擬空間搭建，在虛擬商場、虛擬娛樂場景以及虛擬旅游等方面實現(xiàn)成熟落地。工程制造場景：基于網(wǎng)易有靈智能體平臺，完成數(shù)據(jù)訓練、建模、以及智能體構(gòu)建等任在實現(xiàn)人工智能認知和決策能力的行業(yè)應用過程中，企業(yè)往往面臨門檻高、周期長、應用落AOP（Agent-Oriented-Pogamming，面向智能體編程）編程框架，通過提供統(tǒng)一對接人工和機器的規(guī)范接口和服務，支持用戶通過平臺自動構(gòu)建業(yè)務領域的數(shù)據(jù)閉環(huán)，可針對行業(yè)細分場景定制化構(gòu)建并訓練領域特殊的智能體。此外，平臺為開發(fā)者統(tǒng)一解決了復雜分布式系統(tǒng)的計算、網(wǎng)絡和存儲等資源問題，并支持將云端資源延展和下沉到邊緣端，為開發(fā)者提供極簡編程體驗。與傳統(tǒng)方案相比，在數(shù)據(jù)構(gòu)建和能力發(fā)展方面，有靈平臺展現(xiàn)了明顯的先進性。伏羲正將其技術(shù)試用至智能制造，包含無人裝載機、工程機械以及家用機器人等多元領域，通過模型即服務（MaaS）的形式，向企業(yè)級用戶提供服務，以解決實際生產(chǎn)問題。生成式人工智能和相關模型訓練提升了網(wǎng)易對于人工智能算力的需求。在技術(shù)研發(fā)和落地應用過程中，網(wǎng)易與浪潮信息合作，滿足對大規(guī)模人工智能訓練和推理算力的彈性需求。此外，基于浪潮信息對于計算業(yè)務的深入理解以及其在模型開發(fā)領域的實踐經(jīng)驗，雙方充分溝通，在數(shù)據(jù)資源治理、訓練技術(shù)開發(fā)等方面深入合作，加速了網(wǎng)易一些算法業(yè)務的大規(guī)模啟動的進程。案例三深勢科技：以全棧技術(shù)能力加速人工智能與科學領域的融合發(fā)展深勢科技專注于AIriene（AI4i）科學研究范式的探索和突破，通過運用人工智能和分子模多尺度的模擬仿真算法，結(jié)合高性能計算手段，加速科學問題的研究，為生物制藥、能源、材料等領域的發(fā)展，提供從底層算法到工業(yè)軟件及行業(yè)解決方案和場景落地的一攬子服務，以科學研究和應用的實際需求為導向，加速人工智能對科學領域的賦能。傳統(tǒng)上，無論是微觀尺度的量子物理、分子動力學仿真，還是宏觀的流體和氣象仿真，都依賴于大量的算力。深勢科技首席科學家張林峰博士及團隊基于深度神經(jīng)網(wǎng)絡，對網(wǎng)絡施加物理約束，并使用少量基本數(shù)據(jù)進行訓練，從而開發(fā)出訓練后的分子動力學軟件。這種方法在相同的精度下，能夠?qū)⒂柧殨r間降低十萬倍，并可以進行更大尺度的模擬，該研究成果獲得了2020年ACM戈登貝爾獎。AIriene模虛擬篩選時，新算法可比舊算法快1600倍。這使得研究團隊能夠進行更大規(guī)模的篩選，從而有更高的幾率找到合適的候選藥物分子。通過這樣的虛擬篩選，可以減少實驗階段所需的藥物分子數(shù)量，從而降低成本。目前，深勢科技已經(jīng)推出科研云平臺、藥物計算設計平臺、難成藥靶標研發(fā)平臺及電池設計自動化平臺工業(yè)設計與仿真基礎設施。其中