AI奇點時刻系列（六）：對話通信AI算力基礎(chǔ)設(shè)施共振

告對對話通信：AI算力基礎(chǔ)設(shè)施共振報告摘要：AI通信行業(yè)投資機(jī)會。重點涉及AI上游算力基礎(chǔ)設(shè)施，借鑒13年“移動互聯(lián)網(wǎng)+” 技術(shù)有望成為新解決方案；IDC數(shù)據(jù)中心/液冷溫控，提高單位服務(wù)器I傾斜/國內(nèi)三大運營商已布局算力基礎(chǔ)設(shè)施)。(接受圖像和文本輸入，生成文本/常識和解決問題的能力提高/具協(xié)作Q中心升級需求有多大？對哪些細(xì)分通信行業(yè)有最強(qiáng)的投資指球經(jīng)濟(jì)修復(fù)可能不及預(yù)期；中美貿(mào)易/金融領(lǐng)域的關(guān)系仍有不確定性；SFCCENoBOA3003560anggfcomlinagfcomcnigfcomcn請注意，李娜,李璟菲并非香港證券及期貨事務(wù)監(jiān)察委員會的注冊持牌人，不可在香港從事受監(jiān)管活動。|專題報告價值價值 QAI？ 16 |專題報告價值價值表索引 圖5：AIGC產(chǎn)業(yè)鏈分為底層建筑(X)和上層應(yīng)用(Y)，未來是同時出現(xiàn)(X)×(Y)的產(chǎn)業(yè)鏈創(chuàng)新空間 6 場規(guī)模(十億美元) 20 年運營數(shù)據(jù)中心容量為2176MW) 20 圖23：全球超級數(shù)據(jù)中心數(shù)量(個) 22 |專題報告價值價值將貫I來，我們當(dāng)前站在新一輪產(chǎn)業(yè)浪潮的拐點，并于發(fā)布《“AI+”堪比13年的“移動互AI動互聯(lián)網(wǎng)+”的異同，從策略視角自上本輪“AI+”的行情。II企業(yè)通信。動互聯(lián)網(wǎng)+”行情，我們發(fā)現(xiàn)有兩條明確的主線：一方面存在兩大貫穿整個行情階段的主線行情；另一方面，市場行情又大體沿著“移動互聯(lián)網(wǎng)”幅(超過120%)；②而具備業(yè)績增速印證，但內(nèi)部產(chǎn)業(yè)催化和外部政策刺激要素缺席的行業(yè)，雖仍有一定漲幅(60%左右)，但顯著跑輸主線行情。鏈行情輪動方面，我們發(fā)現(xiàn)2013年“移動互聯(lián)網(wǎng)+”行情大致可以分為三不相符的是，市場賠率和交易指標(biāo)——市場擁擠度與估值——并不能為行情的輪動|專題報告價值價值，交易擁擠度未給出明確指引TMT行情第一次切換期TMT行情第一次切換期，交易擁擠度未給出明確指引TMT行情第二次切換期TMT行情第二次切換期(二)AIGC產(chǎn)業(yè)鏈：通信行業(yè)重點涉及上游基礎(chǔ)設(shè)施目前AIGC產(chǎn)業(yè)鏈可分為上游(數(shù)據(jù))、中游(算法)、下游(應(yīng)用)，上游主要包括數(shù)據(jù)平臺——提供數(shù)據(jù)和算力層——提供底層支持；中游為算法層，在原始數(shù)據(jù)的基礎(chǔ)上進(jìn)行模型的訓(xùn)練與二次開發(fā)；下游則為應(yīng)用層，包括內(nèi)容的生產(chǎn)與分個應(yīng)用場景，未來有望在更多行業(yè)鋪開。目前上游算力和中游大模型需求率先爆發(fā)，下游應(yīng)用需求尚未被挖掘，處于雛形概念階段。通信行業(yè)主要涉及上游算力基礎(chǔ)設(shè)施，尤其受益ChatGPT帶來的大量算算力需求，當(dāng)前處于需求增長階段。|專題報告價值價值圖5：AIGC產(chǎn)業(yè)鏈分為底層建筑(X)和上層應(yīng)用(Y)，未來是同時出現(xiàn)(X)×(Y)的產(chǎn)業(yè)鏈創(chuàng)新空間來源：紅杉資本GenerativeAI:ACreativeNewWorld，廣發(fā)證券發(fā)展研究中心全球疫情仍存在反復(fù)的風(fēng)險，尤其是奧密克戎疫情帶來更大的不確定性。/反復(fù)可能導(dǎo)致全球經(jīng)濟(jì)修復(fù)不及預(yù)期并影響中國出口韌性。|專題報告價值價值二、對話通信：六問六答，“AI+”哪些環(huán)節(jié)受益？GPT-4多模態(tài)大模型將引領(lǐng)新一輪AI算力需求的爆發(fā)，超大規(guī)模數(shù)據(jù)中心及超個算力基礎(chǔ)設(shè)施產(chǎn)業(yè)鏈(如高端服務(wù)器/交換機(jī)、CPO技術(shù)、硅光、液冷技術(shù))的滲件配套廠商機(jī)會。器/交換機(jī)：AIGC帶動算力爆發(fā)式增長，全球進(jìn)入以數(shù)據(jù)為關(guān)鍵生產(chǎn)要素的數(shù)字經(jīng)濟(jì)時代。薦：中興通訊。公司作為運營商板塊算力投資的核心受益標(biāo)的，持續(xù)在服務(wù)器及存筑路算力需求帶動上游硬件設(shè)備市場規(guī)模持續(xù)增長，高規(guī)格產(chǎn)品占比提升。伴隨著數(shù)據(jù)流量持續(xù)提升，交換機(jī)作為數(shù)據(jù)中心必要設(shè)備，預(yù)計全球數(shù)據(jù)中心交換機(jī)保持31年復(fù)合年增長率為5.9%。多元開放的AI服務(wù)器架構(gòu)為可能服務(wù)器數(shù)量有望隨之增長，帶動出貨量及服務(wù)器單價相應(yīng)提升。根據(jù)IDC報告，設(shè)中提供交換機(jī)的白牌交換機(jī)核心供應(yīng)商：銳捷網(wǎng)絡(luò)，以及國產(chǎn)網(wǎng)絡(luò)設(shè)備解決方案2.光模塊/光芯片：算力需求提升推動算力基礎(chǔ)設(shè)施升級迭代，傳統(tǒng)可插拔光模塊技術(shù)弊端和瓶頸芯片為例，2010年到2022年交換機(jī)芯片速率從640G提升到51.2T，光模塊速率從了26倍，SerDes功耗提升了25倍。(2)交換機(jī)端口密度難以繼續(xù)提升，光模塊速BNPOCPO。CPO(光電共封裝技術(shù))是|專題報告價值價值槽)上，形成芯片和模組的共封裝。CPO可以取代傳統(tǒng)的插拔式光模塊技術(shù)，將硅升帶光引擎之間的距離(控制在5~7cm)，使得高速電信號在兩者之間實現(xiàn)高質(zhì)量傳輸，O塊，系統(tǒng)集成度得到提升，實現(xiàn)更高密度的高速端口，提升整機(jī)的帶寬密度；(3)高算力背景下，數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)升級帶動光模塊用量擴(kuò)張及向更高速率的迭代。硅光、相干及光電共封裝技術(shù)(CPO)等具備高成本效益、高能效、低能耗的。.數(shù)據(jù)中心：算力集聚效應(yīng)初步顯現(xiàn)，算力向規(guī)?；s化方向加速升級，同時數(shù)據(jù)中心集中東部的局得到改善，西部地區(qū)對東部地區(qū)數(shù)據(jù)計算需求的支撐作用越發(fā)明顯。我們認(rèn)將逐年提升，高密度服務(wù)器也將被更廣泛的應(yīng)用于數(shù)據(jù)中心中。數(shù)據(jù)中心液冷技術(shù)能夠穩(wěn)定CPU溫度、保障CPU在一定范圍內(nèi)進(jìn)行超頻工作不會出現(xiàn)過熱故障，有效升了服務(wù)器的使用效率和穩(wěn)定性，有助于提高數(shù)據(jù)中心單位空間的服務(wù)器密度,大。4.運營商：通信運營商自身擁有優(yōu)質(zhì)網(wǎng)絡(luò)、算力、云服務(wù)能力的通信運營商，同時具備天AI賦能中國移動內(nèi)外部數(shù)智化轉(zhuǎn)型；中國電信全面布局大模型技術(shù)，積極探索產(chǎn)業(yè)版價值價值3月16日晚微軟正式宣布推出Microsoft365Copilot，將大型語言模型(LLMs)的能力嵌入到Office辦公套件產(chǎn)品中?；贕PT-4的Copilot以其視頻+圖文的多模態(tài)以確定目標(biāo)捕捉發(fā)言總結(jié)某人談話要點、全面理解會議主要內(nèi)容并自動整理及發(fā)送議關(guān)注億聯(lián)網(wǎng)絡(luò)(由廣發(fā)計算機(jī)組覆蓋)。出主要用于技術(shù)基礎(chǔ)設(shè)施的投資，其中大部分用于支持AWS業(yè)務(wù)增長與支持履行網(wǎng)絡(luò)的額外能力。預(yù)計未來相關(guān)投資將延續(xù)，并增加在技術(shù)基礎(chǔ)設(shè)施方面的支出。少。Meta2022年資本開支為314.3億美元，同比增長69.3%，但同時Meta略微調(diào)低其2023年資本開支預(yù)期至300-330億美元(此前預(yù)期為340-370億美持AI和非AI工作量的數(shù)據(jù)中心新架構(gòu)。圖6：北美四大云廠商單季度資本支出(億美元)及增速0000%%谷歌Facebook亞馬遜微軟 環(huán)比(右軸)同比(右軸)Trainium的AI專用實例Trn1是第一個具有800Gbps網(wǎng)絡(luò)帶寬的EC2實例，能夠提供3.4PFlops算力。在超大規(guī)模集群EC2UltraClusters中，用戶最多可以擴(kuò)展到多達(dá)3ps|專題報告價值價值學(xué)習(xí)推理成本。ropicOpenAIIGPT。為數(shù)字基座打造者，運營商數(shù)字業(yè)務(wù)板塊成為收入增長的主要引擎，近幾年資本支其總資本開支的39.0%。2022Q3，中國移動算力規(guī)模達(dá)到7.3EFLOPS，并計劃在PS作為算力基礎(chǔ)設(shè)施建設(shè)的主力軍，三大運營商目前已經(jīng)進(jìn)行前瞻性的基礎(chǔ)設(shè)施AI至95.7%；在算力網(wǎng)絡(luò)方面，運營商在資本開支結(jié)構(gòu)上|專題報告價值價值算力基礎(chǔ)設(shè)施上的相關(guān)布局規(guī)劃：運營商財報，廣發(fā)證券發(fā)展研究中心成規(guī)?；瘧?yīng)用。(1)在理、基站智能節(jié)能、天線智能優(yōu)化等多個應(yīng)用，提質(zhì)降本增效顯著。(2)在市場領(lǐng)動推出的數(shù)智手語主播弋瑭，實現(xiàn)大型國際賽事AI直播字幕規(guī)?；逃眉皵?shù)字手語，、城市、司法、金融、航空等領(lǐng)域。AIGC目前已初步建立針對電信、政務(wù)等垂直領(lǐng)域的數(shù)據(jù)積累、語義大模型訓(xùn)練經(jīng)驗及各類下游模型的蒸餾能力，摸索基于預(yù)訓(xùn)練模型的低資源ASR多方言模型算法能力，可支撐包括通信助理、智能外呼、數(shù)字人客服等多個高并發(fā)ToC產(chǎn)品系統(tǒng)。在語義義句生成、多輪對話和長文本摘要等能力，旨在打造面向電信領(lǐng)域的產(chǎn)業(yè)版生成式技術(shù)的端到端產(chǎn)品化能力。公司未來將加快人工智能科技成果商業(yè)化應(yīng)用，在場景。的通信，打造一體現(xiàn)實與虛擬的互動和通信與AI融合的沉浸式的體驗。同時作為網(wǎng)|專題報告價值價值和文化安全?；久娓纳疲緾hatGPT模型從算法分來上來講屬于生成式大規(guī)模語言模型，底層技術(shù)包括TGPT模型采用了由Google提出的Transformer架構(gòu)。Transformer架構(gòu)采用自。表1：三大自然語言處理器對比點點循環(huán)神經(jīng)網(wǎng)絡(luò)任務(wù)并行計算方面存在嚴(yán)重缺陷，處理長序消失或梯度爆炸的弊端經(jīng)網(wǎng)絡(luò)行學(xué)習(xí)，具有較好的處理的能力Transformer計算能力和長距離特征捕獲能機(jī)制可以產(chǎn)生更具可解釋性的模型d規(guī)模的文本中提取訓(xùn)練數(shù)據(jù)，并通過深度神經(jīng)網(wǎng)絡(luò)進(jìn)行處理和學(xué)習(xí)，進(jìn)而根據(jù)上下階段，將已經(jīng)完成預(yù)訓(xùn)練的GPT模型應(yīng)用到特定任務(wù)上，并通過少量的有標(biāo)注的數(shù)務(wù)上的表現(xiàn)。ChatGPT在訓(xùn)練中使用了RLHF人類反饋強(qiáng)化學(xué)習(xí)模型，是GPT-3模型經(jīng)過升|專題報告價值價值對模型進(jìn)行微調(diào)，通過獎勵機(jī)制進(jìn)一步訓(xùn)練模型，以適應(yīng)不同的任務(wù)場景和語言風(fēng)格，給出更符合人類思維的輸出結(jié)果。偏好將文本從最佳到最差進(jìn)行排名，借此使得獎勵模型習(xí)得人類對于模型生成文本序列的偏好。最后利用獎勵模型輸出的結(jié)果，通過強(qiáng)化學(xué)習(xí)模型微調(diào)優(yōu)化，最終得到一個更符合人類偏好語言模型。多模態(tài)大模型GPT-4是OpenAI的里程碑之作，是目前最強(qiáng)的文本生成模型。以文檔搜索和分析等用例。下GPT-3.5是后10%；生物學(xué)奧賽前1%；美國高考SAT中GPT-4在閱讀寫作中拿下|專題報告價值價值710分高分、數(shù)學(xué)700分(滿分800)。GPT試上的表現(xiàn)優(yōu)異研究中心T展研究中心在OpenAI發(fā)布的產(chǎn)品視頻中，開發(fā)者給GPT-4輸入了一張“用VGA電腦接口給iPhone電”的圖片，GPT-4不僅可以可描述圖片，還指出了圖片的荒謬之處。|專題報告價值價值GPTVGA口插在iPhone上t且PTnchillaPaLM|專題報告價值價值GPTChatGPT的8倍研究中心24種語言下GPT-4優(yōu)于GPT3.5和其他大語言模型展研究中心IGPT數(shù)據(jù)端：自O(shè)penAI于2018年發(fā)布GPT-1，到2020年的GPT-3，GPT模型參數(shù)數(shù)量和訓(xùn)練數(shù)據(jù)量實現(xiàn)指數(shù)型增長。參數(shù)數(shù)量從GPT-1的1.17億增長到GPT-3的ChatGPT的基礎(chǔ)上，在語料庫、計算能力、預(yù)訓(xùn)練、自ormer訓(xùn)練13億參數(shù)的GPT-3XL模型訓(xùn)練一次消耗的算力約為27.5PFlop/s-dav，訓(xùn)練1750億參數(shù)的完整GPT-3模型則會消耗算力3640PFlop/s-dav(以一萬億次每秒速度計算，需要3640天完成)。表2：GPT各系列大模型參數(shù)數(shù)量與訓(xùn)練數(shù)據(jù)量對比AI大模型發(fā)布時間量訓(xùn)練數(shù)據(jù)量|專題報告價值價值GBTB-在人工智能發(fā)展的三要素中，數(shù)據(jù)與算法都離不開算力的支撐。隨著AI算法突飛猛進(jìn)的發(fā)展，越來越多的模型訓(xùn)練需要巨量算力支撐才能快速有效實施，同時數(shù)1.預(yù)訓(xùn)練：在完成完整訓(xùn)練之前，搭建一個網(wǎng)絡(luò)模型完成特定任務(wù)，在訓(xùn)練網(wǎng)絡(luò)過程中不斷調(diào)整參數(shù)，直至網(wǎng)絡(luò)損失和運行性能達(dá)到預(yù)期目標(biāo)，此時可以將訓(xùn)練模型的參數(shù)保存，用于之后執(zhí)行類似任務(wù)。根據(jù)中國信通院數(shù)據(jù)，ChatGPT基于表3：GPT-3系列大模型參數(shù)數(shù)量與計算量量對比模型參數(shù)量(百萬個)Fdays總計算量(flops)E+00E+20EE20E+01E+210E1.77E+21E+02E+22E3E3milarweb200token。同時假設(shè)：模型的FLlops利用率為21.3%，與訓(xùn)練期間的GPT-3保持一sday3.模型微調(diào)：執(zhí)行類似任務(wù)時，使用先前保存的模型參數(shù)作為初始化參數(shù)，在|專題報告價值價值PFdays0天)，需要7-8個算力P上海新興信息通信技術(shù)應(yīng)用研究院首席專家賀仁龍IexNetAlphaGoZero倍(logscale)定律tingneedsamasterplan年全球計算設(shè)備算力總規(guī)模達(dá)到615EFlops，增速達(dá)44%。根據(jù)中國信通院援引的EFlops)0000302025330033004296152019201920202021究中心|專題報告價值價值Q強(qiáng)的投1.數(shù)據(jù)中心呈現(xiàn)超大規(guī)模發(fā)展趨勢中心可容納的規(guī)模要比傳統(tǒng)數(shù)據(jù)中心大得多，可以容納數(shù)百萬臺服務(wù)器和更多的虛處理數(shù)量和速率大幅提升的需求。 更具成本效益，并且提供快速擴(kuò)展存儲和計算資源以滿足需求的能力，超大規(guī)模數(shù)據(jù)中心通過在負(fù)載均衡器后水平擴(kuò)展，快速旋轉(zhuǎn)或重新分配額外資源并將其添加到 以容納更多組件并且允許定制化設(shè)計服務(wù)器，使得服務(wù)器能夠同時接入多個電源和硬盤驅(qū)動器； 力集中在托管高強(qiáng)度工作負(fù)載的服務(wù)器，大大降低了成本和對環(huán)境的影響，電源使； (5)工作負(fù)載更平衡：超大規(guī)模數(shù)據(jù)中心有效地將工作負(fù)載分布在多臺服務(wù)器Statista數(shù)據(jù)顯示，全球超大規(guī)模數(shù)據(jù)中心的數(shù)量從2015年的259個，提升到場規(guī)模在2021年為620億美元，到2030年將達(dá)到5930億美元，預(yù)計在2022-2030年間以28.52%的復(fù)合增長率(CAGR)增長。|專題報告價值價值超大規(guī)模數(shù)據(jù)中心市場規(guī)模(十億美元)球超大規(guī)模數(shù)據(jù)中心數(shù)量企業(yè)。哈文的谷歌數(shù)據(jù)中心的入口視圖(2022年運營數(shù)據(jù)中心容量為3024MW)：澎湃號，廣發(fā)證券發(fā)展研究中心朗拍攝的微軟Agriport云數(shù)據(jù)中心的無人機(jī)視圖(2022年運營數(shù)據(jù)中心容量：澎湃號，廣發(fā)證券發(fā)展研究中心2.IB網(wǎng)絡(luò)技術(shù)將更廣泛應(yīng)用于AI訓(xùn)練超算領(lǐng)域模和性能上較傳統(tǒng)數(shù)據(jù)中心都有了大幅升級，能夠滿足超高速度擴(kuò)展以滿足超級需|專題報告價值價值意圖：國家超級計算長沙中心官網(wǎng)，廣發(fā)證券發(fā)