通信行業(yè)算力市場分析

通信行業(yè)算力市場分析算力進(jìn)展趨勢一：大模型發(fā)布持續(xù)超預(yù)期發(fā)展ChatGPT模型的推出持續(xù)超預(yù)期發(fā)展。1）ChatGPT注冊用戶激增，5天突破百萬；2）GPT模型不斷迭代：GPT3于20年6月推出，在2022年11月推出的GPT3.5基礎(chǔ)上再次更新，23年6月推出GPT3.5turbo16K。3）AI滲透千行百業(yè)：基于大模型的多場景應(yīng)用也不斷拓展。拉動(dòng)智能算力規(guī)模高速增長。根據(jù)OpenAI的研究，AI訓(xùn)練所需算力指數(shù)增長，且增長速度超越硬件的摩爾定律。趨勢二：數(shù)字基礎(chǔ)設(shè)施建設(shè)加速，景氣度提升1、我國數(shù)據(jù)中心總體建設(shè)進(jìn)度加速。據(jù)《數(shù)字中國發(fā)展報(bào)告》，我國數(shù)據(jù)中心機(jī)架總規(guī)模2022年達(dá)到650萬機(jī)架，比去年增長130萬架，近5年年均增速超過30%。2、算力基礎(chǔ)設(shè)施采購量明顯提升。以移動(dòng)為代表的公司，采購交換機(jī)數(shù)量加大，移動(dòng)公司2023-2024年采購交換機(jī)30660臺(tái)，其中特定場景交換機(jī)需求放量增長，采購15330臺(tái)。趨勢三：模型百花齊放，推動(dòng)AI在各領(lǐng)域廣泛應(yīng)用1、國內(nèi)模型百花齊放：眾多公司推出大模型，比如阿里推出通義千問、騰訊推出混元，百度的文心一言大模型，科大訊飛的星火大模型；2、面向垂直行業(yè)的大模型應(yīng)用效果顯著：紫天科技旗下河馬游戲推出《大偵探智斗小AI》，下載量進(jìn)入榜單TOP10；醫(yī)聯(lián)所推出的MedGPT具備全流程智能化診療能力，與三甲專家診斷一致性超96%。“天擎”美亞公共安全大模型，具備警務(wù)意圖識(shí)別、警務(wù)情報(bào)分析、案情推理等推理能力，可實(shí)現(xiàn)全流程閉環(huán)進(jìn)化。將重構(gòu)兩大應(yīng)用場景：電子數(shù)據(jù)取證和智慧警務(wù)系統(tǒng)。Transformer架構(gòu)是AI大模型與傳統(tǒng)模型不同的核心Transformer模型是AIGC大模型與傳統(tǒng)模型不同的核心。AIGC大模型起源于NLP，并基于Attention機(jī)制構(gòu)建Transformer模型。傳統(tǒng)模型多基于CNN和RNN結(jié)構(gòu)。Transformer模型架構(gòu)是現(xiàn)代大語言模型所采用的基礎(chǔ)架構(gòu)。Transformer模型是一種非串行的神經(jīng)網(wǎng)絡(luò)架構(gòu)，最初被用于執(zhí)行基于上下文的機(jī)器翻譯任務(wù)。Transformer模型以Encoder-Decoder架構(gòu)為基礎(chǔ)，引入“注意機(jī)制”（Attention），具有能夠并行運(yùn)算、關(guān)注上下文信息、表達(dá)能力強(qiáng)等優(yōu)勢。底層架構(gòu)各異導(dǎo)致訓(xùn)練參數(shù)不同底層架構(gòu)的不同導(dǎo)致訓(xùn)練參數(shù)的要求不同。以Transformer為架構(gòu)的大模型一般可達(dá)百億、千億、萬億級(jí)別，而以CNN或RNN為底層架構(gòu)的傳統(tǒng)模型則是億級(jí)別及更少級(jí)別。AI大模型參數(shù)級(jí)別龐大，需要強(qiáng)大的算力和硬件支撐。以ChatGPT3.0為例進(jìn)行拆解，訓(xùn)練一次的成本約為140萬美元。對于一些規(guī)模更大的模型來說，訓(xùn)練成本介于200萬美元-1200萬美元之間。AI大模型帶動(dòng)并行計(jì)算，訓(xùn)練消耗更多算力訓(xùn)練和推理是大模型運(yùn)行的重要環(huán)節(jié)。訓(xùn)練環(huán)節(jié)是大模型的學(xué)習(xí)過程，可提高模型在各種任務(wù)上的性能。推理環(huán)節(jié)是大模型的判斷過程，利用已有訓(xùn)練效果對新的輸入進(jìn)行預(yù)測和決策。訓(xùn)練和推理需要大量算力支撐，其中訓(xùn)練消耗更多。援引OpenAI測算，自2012年起，全球頭部AI模型訓(xùn)練算力需求每3-4個(gè)月翻一番，每年頭部訓(xùn)練模型所需算力增長幅度高達(dá)10倍。而推理階段則根據(jù)模型上線后的搜索量來計(jì)算，新輸入數(shù)據(jù)的量級(jí)相較于訓(xùn)練環(huán)節(jié)的大規(guī)模數(shù)據(jù)量級(jí)較低。進(jìn)展：國外大模型—通用模型領(lǐng)先，商業(yè)化首落地國外大模型主要以美國高科技公司為主。Google、Meta、微軟等美國公司處于了世界大模型發(fā)展的領(lǐng)先地位，現(xiàn)在幾乎所有AI大模型訓(xùn)練時(shí)采用的Transformer網(wǎng)絡(luò)結(jié)構(gòu)，Transformer的提出讓大模型訓(xùn)練成為可能。微軟產(chǎn)品Copilot實(shí)現(xiàn)商業(yè)化落地。Copilot產(chǎn)品基于GPT-4，將生成式AI能力全面應(yīng)用于各大辦公套件，可作為辦公場景下智能寫手。7月18日，Copilot提供訂閱收費(fèi)服務(wù)，每名用戶每月的價(jià)格從12.5美元到57美元不等。產(chǎn)品的商業(yè)化落地體現(xiàn)出企業(yè)對人工智能的未來前景持續(xù)看好。進(jìn)展：國內(nèi)大模型—通用和垂直兩條路演繹國內(nèi)AI大模型數(shù)量呈現(xiàn)爆發(fā)式增長。國內(nèi)公開發(fā)布的大模型已達(dá)80多個(gè)。研究大模型的公司有百度、商湯、科大訊飛、華為、阿里、京東、第四范式等公司。同時(shí)科研機(jī)構(gòu)也在積極入局，有清華大學(xué)、復(fù)旦大學(xué)、中科院等高校。國內(nèi)大模型分為通用和垂直應(yīng)用。文心一言、通義千問等打造跨行業(yè)通用化人工智能能力平臺(tái)，其應(yīng)用正從辦公、生活、娛樂向醫(yī)療、工業(yè)、教育等加速滲透。與此同時(shí)，一批針對生物制藥、遙感、氣象等垂直領(lǐng)域的專業(yè)類大模型，提供針對特定業(yè)務(wù)場景的專業(yè)化解決方案。資本支出：支出加速，運(yùn)營商有望成為國內(nèi)主力軍全球云服務(wù)CAPEX持續(xù)增長。受益于大模型的持續(xù)發(fā)展，2023Q1全球云基礎(chǔ)設(shè)施服務(wù)支出增長19%，前三大云廠商AWS、Azure和谷歌云共同增長22%。云服務(wù)成為IT市場中增長最快的部分之一。三大運(yùn)營商成為國內(nèi)網(wǎng)絡(luò)建設(shè)主力軍。三大運(yùn)營商中國移動(dòng)、中國電信、中國聯(lián)通不斷加大算力投入，優(yōu)化算力網(wǎng)絡(luò)布局。根據(jù)三大運(yùn)營商數(shù)據(jù)，預(yù)計(jì)2023年算力投入分別為452/195/149億元，分別同比+35%/+40%/+20%。建設(shè)計(jì)劃：政府—智算中心建設(shè)開啟，國內(nèi)需求逐步釋放國內(nèi)智算中心建設(shè)明確，后續(xù)需求有望逐步釋放。多地政府出臺(tái)算力規(guī)劃、三大運(yùn)營商加速籌備智算中心建設(shè)以及互聯(lián)網(wǎng)廠商多地智算中心建設(shè)規(guī)劃。智能計(jì)算中心的建設(shè)，整合數(shù)據(jù)資源結(jié)構(gòu)的同時(shí)，也帶來更為完善且健全的算力、算法基礎(chǔ)設(shè)施，為人工智能技術(shù)的創(chuàng)新及應(yīng)用提供強(qiáng)有力的支撐。規(guī)模：算力增長助力AI服務(wù)器規(guī)?；季炙懔Τ掷m(xù)增長，AI服務(wù)器應(yīng)用場景更加廣泛。Trendforce預(yù)估，預(yù)估2022年全球搭載GPGPU的AI服務(wù)器年出貨量占整體服務(wù)器比重近1%，即約14萬臺(tái)。預(yù)計(jì)2023年其出貨量年成長可達(dá)8%，到2026年預(yù)計(jì)全球搭載GPGPU的AI服務(wù)器出貨量將達(dá)到22.5萬臺(tái)左右，2022~2026年CAGR將達(dá)10.8%。中國AI算力市場高速發(fā)展，將成為第二增長極。根據(jù)IDC預(yù)測，到2027年中國加速服務(wù)器市場規(guī)模將達(dá)到164億美元。其中非GPU服務(wù)器市場規(guī)模將超過13%。智慧城市、智能機(jī)器人、智能家居、工業(yè)領(lǐng)域?qū)⒊蔀橹饕獞?yīng)用領(lǐng)域。AI服務(wù)器：為計(jì)算而生，性能全方面升級(jí)按照GPU數(shù)量分類：Al服務(wù)器主要采用加速卡為主導(dǎo)的異構(gòu)形式，更擅長并行計(jì)算。與通用服務(wù)器按照CPU數(shù)量分類不同，Al服務(wù)器一般僅搭載1-2塊CPU,GPU數(shù)量顯著占優(yōu)。按GPU數(shù)量，可分為四路、八路和十六路服務(wù)器，其中搭載8塊GPU的八路Al服務(wù)器最常見。AI服務(wù)器相較于普通服務(wù)器存在各方面升級(jí)。AI服務(wù)器增加了GPU的使用數(shù)量，相配套的在帶寬、散熱、內(nèi)存、存儲(chǔ)等方面也會(huì)有相應(yīng)升級(jí)。傳統(tǒng)服務(wù)器需求：下游需求多點(diǎn)開花，金融行業(yè)投資加速服務(wù)器下游需求多點(diǎn)開花。下游需求主體為互聯(lián)網(wǎng)企業(yè)、云計(jì)算企業(yè)、政府部門、金融機(jī)構(gòu)、電信運(yùn)營商等。其中互聯(lián)網(wǎng)行業(yè)占比43.8%，位列第一。在互聯(lián)網(wǎng)行業(yè)中服務(wù)器需求主要集中在快手、百度等大型企業(yè)。運(yùn)營商、金融、政府占比分別為10.6%、9.9%、9%。各行業(yè)服務(wù)器投資支出不斷提升：IDC統(tǒng)計(jì)數(shù)據(jù)顯示，2022年全球云基礎(chǔ)設(shè)施支出達(dá)到了750億美元，比2021年的650億美元提高了15.4%，全球金融行業(yè)對服務(wù)器的投資增長了20%，達(dá)到180億美元。AI服務(wù)器供給：國內(nèi)芯片性能及產(chǎn)能受限英偉達(dá)芯片產(chǎn)能不足，限制服務(wù)器量產(chǎn)：AI服務(wù)器需要配備4-8顆GPU，英偉達(dá)在GPU市場占有絕對優(yōu)勢，占據(jù)全球八成市場份額。其產(chǎn)能有限，同時(shí)受到美國禁售影響，影響服務(wù)器產(chǎn)能。國產(chǎn)替代化正當(dāng)時(shí)，但仍存在差距：國產(chǎn)寒武紀(jì)、昇騰也研發(fā)出AI芯片，寒武紀(jì)的思元芯片目前多應(yīng)用在推理場景，通用性較弱，性能不足。網(wǎng)絡(luò)架構(gòu)：傳統(tǒng)三層網(wǎng)絡(luò)——管理網(wǎng)絡(luò)的經(jīng)典穩(wěn)定架構(gòu)核心層(CoreLayer):核心交換機(jī)為進(jìn)出數(shù)據(jù)中心的包提供高速的轉(zhuǎn)發(fā)，為多個(gè)匯聚層提供連接性，核心交換機(jī)通常為整個(gè)網(wǎng)絡(luò)提供一個(gè)彈性的L3路由網(wǎng)絡(luò)。匯聚層(AggregationLayer):匯聚交換機(jī)連接接入交換機(jī)，同時(shí)提供其他的服務(wù)，例如防火墻，SSLoffload，入侵檢測，網(wǎng)絡(luò)分析等。它可以是二層交換機(jī)也可以是三層交換機(jī)。接入層(AccessLayer):接入交換機(jī)通常位于機(jī)架頂部，所以它們也被稱為ToR(TopofRack)交換機(jī)，它們物理連接服務(wù)器。通常情況下，匯聚交換機(jī)是L2和L3網(wǎng)絡(luò)的分界點(diǎn)：匯聚交換機(jī)以下的是L2網(wǎng)絡(luò)，以上是L3網(wǎng)絡(luò)。每組匯聚交換機(jī)管理一個(gè)POD(PointOfDelivery)，每個(gè)POD內(nèi)都是獨(dú)立的VLAN網(wǎng)絡(luò)。隨著數(shù)據(jù)中心內(nèi)流量的快速增長和數(shù)據(jù)中心規(guī)模的不斷擴(kuò)大，傳統(tǒng)的三層網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)不能滿足的數(shù)據(jù)中心內(nèi)部高速互連的需求，慢慢演進(jìn)為leaf-spine葉脊架構(gòu)，葉脊架構(gòu)分為兩層：Leaf(葉)交換層、Spine(脊)交換層。Spine(脊)交換層:網(wǎng)絡(luò)核心節(jié)點(diǎn)，提供高速IP轉(zhuǎn)發(fā)能力，通過高速接口連接各個(gè)功能Leaf節(jié)點(diǎn)。Leaf(葉)交換層:網(wǎng)絡(luò)功能接入節(jié)點(diǎn)，提供各種網(wǎng)絡(luò)設(shè)備接入功能。網(wǎng)絡(luò)架構(gòu)：基于葉脊的升級(jí)——?jiǎng)討B(tài)分布式網(wǎng)絡(luò)架構(gòu)谷歌數(shù)據(jù)中心第五代架構(gòu)JupiterNetworkFabrics。Jupiter可以視為一個(gè)三層Clos。Leaf交換機(jī)作為ToR(top-of-rack架頂式交換機(jī))，向北連接到名為MiddleBlock的Spine交換機(jī)，再向北還有一層SuperSpine名為SpineBlock。Apollo結(jié)構(gòu)。Superspine方案的交換機(jī)數(shù)量可以一直增長，新增交換機(jī)需要和原有的Pod全部互聯(lián)。為解決互聯(lián)問題，谷歌在Spine層和Pod層之間加入ApolloFabric。此結(jié)構(gòu)解除了SpineBlock和SuperBlock的直連，但又能夠動(dòng)態(tài)地調(diào)整連接關(guān)系，高效實(shí)現(xiàn)了全互聯(lián)，動(dòng)態(tài)地調(diào)整網(wǎng)絡(luò)流量的分布。數(shù)據(jù)中心交換機(jī)：主流100/200/400/800G交換機(jī)數(shù)據(jù)中心交換機(jī)根據(jù)接口速率不同，可分為100/200/400/800G交換機(jī)；不同速率交換機(jī)的單板能力(每個(gè)插槽的端口數(shù)量或者帶寬)越來越強(qiáng)，所有端口升級(jí)一次其傳輸容量將直接翻倍。我國主要廠商突破技術(shù)瓶頸，實(shí)現(xiàn)快速發(fā)展。新華三旗下S10500、S12500等系列交換機(jī)，多采用CLOS架構(gòu)，提供Seerblade高性能AI計(jì)算模塊，目前已形成了完整的數(shù)據(jù)中心產(chǎn)品體系。華為主推CloudEngine系列數(shù)據(jù)中心交換機(jī)，系列基于華為新一代的VRP8操作系統(tǒng)，2023Q1該系列以34.6%的份額排中國數(shù)據(jù)中心交換機(jī)市場第一，其中16800-X為全球首款800GE數(shù)據(jù)中心核心交換機(jī)。CPO交換機(jī)：硅光技術(shù)的最終形態(tài)（封裝角度）CPO交換機(jī)，應(yīng)用CPO（Co-PackagedOptics）光電共封裝技術(shù)，將網(wǎng)絡(luò)交換芯片和光模塊共同裝配在同一個(gè)插槽上，形成芯片和模組的共封裝，可以縮短交換芯片和光引擎之間的距離，以幫助電信號(hào)在芯片和引擎之間更快地傳輸。CPO具備高密度、低成本、小體積、低功耗的特點(diǎn)，成為AI高算力情況下降低能耗從而降低成本的可選方法。海外市場，高速率板塊對CPO需求更為迫切，國內(nèi)上量節(jié)奏緊隨其后。算力測算與算力租賃架構(gòu)比較：傳統(tǒng)數(shù)據(jù)中心-三層架構(gòu)基礎(chǔ)要素配比機(jī)柜數(shù)：服務(wù)器數(shù)：交換機(jī)數(shù)=1:20:2（機(jī)柜數(shù)：250臺(tái)；服務(wù)器數(shù)量5000臺(tái)，交換機(jī)數(shù)量500臺(tái)左右）。依據(jù)1、傳統(tǒng)數(shù)據(jù)中心，每臺(tái)機(jī)柜的占地面積3-5㎡，此處取均值4進(jìn)行計(jì)算。依據(jù)2、超大型數(shù)據(jù)中心面積大于2000㎡，大型數(shù)據(jù)中心為800-2000㎡，此處取1000㎡進(jìn)行計(jì)算。依據(jù)3、按照42U高的標(biāo)準(zhǔn)機(jī)柜來存放2U/550W的服務(wù)器，可存放20臺(tái)左右服務(wù)器，此處取20進(jìn)行計(jì)算。機(jī)柜數(shù)：服務(wù)器數(shù)：交換機(jī)數(shù)=1:20:0.4（機(jī)柜數(shù)：250臺(tái)；服務(wù)器數(shù)量5000臺(tái)，交換機(jī)數(shù)量100臺(tái)左右）。依據(jù)1：葉脊架構(gòu)將傳統(tǒng)三層架構(gòu)變?yōu)閮蓪?，扁平化處理提升網(wǎng)絡(luò)效率。依據(jù)2：配比數(shù)據(jù)計(jì)算仍以1000㎡數(shù)據(jù)中心，250臺(tái)單機(jī)柜，5000臺(tái)服務(wù)器。依據(jù)3：以設(shè)計(jì)網(wǎng)絡(luò)時(shí)的收斂比不超過3:1的標(biāo)準(zhǔn)來計(jì)算，即上行口與下行口的配比數(shù)量不超過3:1。算力測算邏輯：2022年訓(xùn)練用算力為95Eflops市場規(guī)模：根據(jù)測算，2022年中國AI芯片市場中，英偉達(dá)GPU模約為150億；總量：按照10萬/片，共計(jì)A100芯片15萬片A100芯片；算力：按照單臺(tái)DGXA100算力為5PFLOPS計(jì)算，折合1.9萬個(gè)英偉達(dá)A100AI服務(wù)器；可提供95Eflops算力。依據(jù)1：2022年我國AI芯片市場300億元；從我國AI芯片市場規(guī)模細(xì)分來看，其中2022年中國云端領(lǐng)域芯片市場規(guī)模為152.96億元，占總市場規(guī)模的49.2%；終端領(lǐng)域芯片市場規(guī)模為156.54億元，占總市場規(guī)模的50.6%。依據(jù)2：假設(shè)2022年GPU占比為50%。AI芯片2023年出貨量將增長46％。其中英偉達(dá)GPU為AI服務(wù)器市場搭載主流，市占率約60～70％，其次為云端廠商自主研發(fā)的AISC芯片，市占率逾20％。算力緊缺背景下，算力租賃景氣度提升按照《中國算力白皮書(2022年)》的定義，算力主要分為四部分:通用算力、智能算力、超算算力、邊緣算力。通用算力以CPU芯片輸出的計(jì)算能力為主；智能算力以GPU、FPGA、Al芯片等輸出的人工智能計(jì)算能力為主；超算算力以超級(jí)計(jì)算機(jī)輸出的計(jì)算能力為主；邊緣算力主要是以就近為用戶提供實(shí)時(shí)計(jì)算能力為主，是前三種的組合，邊緣算力只是解決網(wǎng)絡(luò)延遲的問題，不算一種新的算力。各地都在加速建設(shè)數(shù)據(jù)中心，打造關(guān)鍵基礎(chǔ)設(shè)施算力網(wǎng)絡(luò)，全國的算力規(guī)模會(huì)保持高速增長。算力商業(yè)機(jī)會(huì)演進(jìn)的路線選擇算力下一站：政府算力平臺(tái)建設(shè)政府驅(qū)動(dòng)加速算力落地。近期北上廣深政府出臺(tái)一系列促進(jìn)算力落地的政策，如北京提出了到2025年基本建成具有全球影響力的人工智能創(chuàng)新策源地；上海提出了2025年數(shù)據(jù)中心超過18000PFLOPS；深圳與科技部共同布局國家超算深圳中心二期項(xiàng)目。我們認(rèn)為地方國企背景公司有望成為地方智算中心的建設(shè)方和運(yùn)營方，如云賽智聯(lián)，