穿越AI的基石算力基建的起始

姓名：王聰（分析師）姓名：王彥龍（分析師）姓名：舒迪（分析師）姓名：譚佩雯（分析師）郵箱：wangcong@姓名：文紫妍（分析師）姓名：文紫妍（分析師）姓名：黎明聰（研究助理）姓名：劉校（研究助理）算力是智能世界的基礎(chǔ),產(chǎn)業(yè)生態(tài)和投資圖譜逐步清晰算力是智能世界的基礎(chǔ),產(chǎn)業(yè)生態(tài)和投資圖譜逐步清晰基礎(chǔ)設(shè)備:數(shù)據(jù)中心加速升級,芯片PCB等上游部件量價齊升Al服務(wù)器帶動高端GPU用量及ASP提升,提升DRAM和NAND的需求,HBM未來的滲透率有望提升,對SERDES提出更高性能要網(wǎng)絡(luò)連接:算力配套的核心,兼顧800G主線和擴散行情Al對網(wǎng)絡(luò)架構(gòu)變化較大,無損流量傳輸使得光模塊需求暴增,同時新的技術(shù)路線開始出現(xiàn),或?qū)?yīng)鏈格局產(chǎn)生影響。800G主終端:邊緣算力建設(shè)加速,MR是最具潛力的Al終端推薦標(biāo)的及風(fēng)險提示Al算力報告0101020203030404050524/算力是智能世界的基礎(chǔ)，基礎(chǔ)設(shè)施從云向算泛在演進《穿越的基石,算力基建的起始》?智能世界三要素：數(shù)據(jù)、算力、算法是智能世界三要素，其中算力平臺是核心基礎(chǔ)。?算力兩大類：通用算力、HPC（高性能計算，High-performancecomputing）算力。其中通用算力計算量小，用于常規(guī)應(yīng)用。HPC算力是一個計算機集群系統(tǒng)，通過各種互聯(lián)技術(shù)將多個計算機系統(tǒng)連接在一起，利用所有被連接系統(tǒng)的綜合計算能力來處理大型計算問題。?算力基礎(chǔ)設(shè)施從云向算泛在演進，其位置的分布從中心向邊緣和端側(cè)泛在延伸，將出現(xiàn)云、邊、端三級算力架構(gòu)。圖：算力基礎(chǔ)設(shè)施從云向算泛在演進圖：構(gòu)建數(shù)據(jù)、算力、智能之間的互聯(lián)網(wǎng)絡(luò)圖：專用算力是算力中極為重要一環(huán)圖：算力基礎(chǔ)設(shè)施從云向算泛在演進科學(xué)計算類：物理化學(xué)、氣象環(huán)保、科學(xué)計算類：物理化學(xué)、氣象環(huán)保、生命科學(xué)、天文探測等通用算力算力類型數(shù)據(jù)來源：國泰君安證券研究工程計算類：計算機輔助工程/制造、電子設(shè)計自動化、電磁仿真等數(shù)據(jù)來源：國泰君安證券研究智能計算類：機器學(xué)習(xí)、深度學(xué)習(xí)、數(shù)據(jù)分析等51.1AI大模型帶動算力需求超越摩爾定律增長Al算力報告?AI模型訓(xùn)練算力增長速度超越芯片摩爾定律。AI訓(xùn)練任務(wù)中的算力增長（所需算力每3.5個月翻一倍）已經(jīng)超越摩爾定律（晶體管數(shù)量每18月翻一?ChatGPT僅推出兩個月，月活躍用戶數(shù)預(yù)計已達1億。ChatGPT在2023年1月達到1億月活躍用戶，平均每天有1,300多萬訪客，用2個月時間達到1億月活數(shù)，成為史上最快達到1億月活躍用戶的應(yīng)用，TikTok、Instagram、Facebook、Twitter則分別用了9個月、2年半、4年半、5年的時間。圖：chatgpt圖：chatgpt僅用2個月月活用戶突破1億六年半四年半三年半回ikikChatGPTTikTokChatGPTTikTok6Al算力報告Al算力報告?預(yù)訓(xùn)練算力需求：訓(xùn)練一次13億參數(shù)的GPT-3XL模型需要的全部算力約為27.5PFlop/s-day，而訓(xùn)練一次1,746億參數(shù)的GPT-3模型需要的算力約為3,640PFlop/s-day，對應(yīng)的單次訓(xùn)練成本高達460萬美元。?日常運營算力需求：ChatGPT在日常與用戶交互過程中需要大量的算力支持，結(jié)合訪問量與內(nèi)容量測算，單月運營算力約4,800PFlop/s-day；2023年1月ChatGPT官網(wǎng)總訪問量已經(jīng)達到6.16億次，而ChatGPT每次交互產(chǎn)生的算力云服務(wù)成本約1~5美分，對應(yīng)的單月運營成本高達千萬美元。?調(diào)優(yōu)迭代算力需求：ChatGPT模型需要不斷進行Finetune模型調(diào)優(yōu)，以確保模型處于最佳應(yīng)用狀態(tài)；預(yù)計每月模型調(diào)優(yōu)帶來的算力需求為82.5~137.5PFlop/s-day。圖：模型的尺寸在過去5年增長了5000倍GPTGPT模型GPT-3Small2.60E+002.25E+20125300表：不同NLP模型參數(shù)量及訓(xùn)練算力對比模型總計算量總計算量參數(shù)量令牌數(shù)量（PFlop/s-dayFlops百萬個十億）T5模型6.60E+202.31E+219.00E+213.30E+22T5模型6.60E+202.31E+219.00E+213.30E+222.08E+007.64E+002.67E+011.04E+023.82E+02T5-BaseT5-LargeT5-3BT5-11BBERT-Large6.16E+00BERT模型BERT-Base1.89E+001.64E+20109250BERT-Large6.16E+00ROBERTa-Base1.74E+001.50E+211252000ROBERTa-Large4.93E+014.26E+21ROBERTa-Large4.93E+014.26E+21Medium6.41E+20GPT-37.42E+00Medium6.41E+20GPT-37.42E+002.75E+012.38E+21GPT-3XLGPT-3Large1.58E+011.37E+212.75E+012.38E+21GPT-3XLGPT-32.7B5.52E+014.77E+212650300GPT-3GPT-36.7B1.39E+021.20E+226660300GPT-313B2.68E+022.31E+2212850GPT-3175BGPT-3175B3.64E+033.14E+2317460030077MR、車載等數(shù)字經(jīng)濟新型應(yīng)用場景帶來新的算力需求穿越的基石,算力基建的起始》?MR的推出更帶來對低延時網(wǎng)絡(luò)傳輸和底層算力技術(shù)升級的需求。虛擬世界需要強大的圖像實時渲染能力、計算和存儲海量數(shù)據(jù)資源，頭顯交互設(shè)備的出現(xiàn)將進一步增加對云計算和邊緣計算的應(yīng)用需求。云計算能將終端渲染逐步遷移至云端，基于規(guī)模效應(yīng)攤低運算成本，提升服務(wù)器使用效率，提升虛擬世界的可進入性。而邊緣計算則更能滿足實時數(shù)據(jù)分析需求、緩解中心云的計算負載。?汽車智能化需求持續(xù)升級帶來數(shù)據(jù)流量的急劇飆升。隨著自動駕駛等級提升，車載信息娛樂系統(tǒng)、長續(xù)航電池及5G網(wǎng)絡(luò)的引入，車輛要面對的計算量越來越大，網(wǎng)絡(luò)架構(gòu)升級、本地實時處理能力、“大容量緩存和存儲”規(guī)格將成為硬需求。圖：算力升級是支撐虛擬世界內(nèi)容創(chuàng)作與真實交互的保障圖：2025年L4等級無人自動駕駛數(shù)據(jù)存儲需求8數(shù)據(jù)來源：中國信通院、華為，國泰君安證券研究數(shù)據(jù)來源：中國信通院、華為，國泰君安證券研究Al算力報告Al算力報告?全球各國算力規(guī)模與經(jīng)濟發(fā)展水平呈現(xiàn)正相關(guān)。2021年算力規(guī)模前20的國家中有17個是全球排名前20的經(jīng)濟體，并且前五名排名一致。?算力對經(jīng)濟有倍增效應(yīng)。數(shù)字經(jīng)濟作為GDP的組成部分，占比正在逐年增加，而算力是數(shù)字化技術(shù)持續(xù)發(fā)揮效益的根本性要素。根據(jù)IDC的報告，計算力指數(shù)平均每提高1個點，數(shù)字經(jīng)濟和GDP將分別增長3.3‰和1.8‰。當(dāng)一個國家的計算力指數(shù)達到40分以上時，指數(shù)每提升1點，對于GDP增長的拉動將提高到1.5倍；當(dāng)計算力指數(shù)達到60分以上時，對GDP的拉動將進一步提升至2.9倍。圖：算力對經(jīng)濟有倍增效應(yīng)圖：算力排名與經(jīng)濟排名較為吻合圖：算力對經(jīng)濟有倍增效應(yīng)數(shù)據(jù)來源：IDC數(shù)據(jù)來源：中國信通院信通院2022年算力白皮書數(shù)據(jù)來源：IDC9Al算力報告Al算力報告?智能算力規(guī)模和增速亮眼。根據(jù)信通院算力白皮書，2021年全球算力增速超過40%，華為GIV預(yù)測2030年人類將迎來YB數(shù)據(jù)時代，全球算力平均年增速達到65%,其中基礎(chǔ)算力平均年增速達27%;智能算力占大頭,平均年增速超過80%;超算算力平均年增速超過34%。?中美算力在全球?qū)儆陬I(lǐng)先地位。美國、中國、歐洲、日本在全球算力規(guī)模中的份額分別為34%、33%、14%和5%，其中全球基礎(chǔ)算力美國份額達37%，中國以26%份額排名第二;智能算力方面，中國、美國分別占比為45%和28%；美國、日本、中國在超級計算綜合性能指標(biāo)方面份額分別為48%、22%、18%。圖：中國占比較大為基礎(chǔ)算力，智能算力當(dāng)前快速趕上圖：全球算力規(guī)模增長速度在40%以上圖：中美全球算力分布較為領(lǐng)先圖：中國占比較大為基礎(chǔ)算力，智能算力當(dāng)前快速趕上數(shù)據(jù)來源：信通院算力白皮書1.2海外以互聯(lián)網(wǎng)大廠為主導(dǎo)，資本開支向AI大幅傾斜Al算力報告?美國人工智能公司在過去的五年間獲得的投資占到了全球的56%,數(shù)百億美元，谷歌、微軟、亞馬遜、Meta四家美國科技巨頭在經(jīng)歷了2022和2023年初史無前例的大裁員之后，這些公司一邊降本增效，一邊AllinAI。表：北美大廠積極自研和購買算力芯片自研芯片算力布局2023Q12023年展望投入領(lǐng)域AWStrainiumAWS宣布即將推出的EC2超級集群互連的H100。我們預(yù)計在數(shù)據(jù)中心建設(shè)和服務(wù)器的投入會在Q2以及后面持續(xù)的提升我們預(yù)計總體資本開支會略微高于2022年，同時資本開支會在技術(shù)基礎(chǔ)設(shè)施顯著提升，而在辦公室設(shè)施下降GoogleTPUv4當(dāng)前已經(jīng)部署了數(shù)十臺TPUv4超級計算機，每臺擁有4096個TPU芯片；發(fā)布了專門用于推理或訓(xùn)練的機器學(xué)習(xí)定制化芯片2022年的590億美金，去年主要因為完善物流網(wǎng)絡(luò)的投資，未來這個數(shù)字會逐步減少。我們將持續(xù)投入基礎(chǔ)設(shè)施來支持AWS客戶需求，包括支持LLM和生成式AIAWS認為其是2023年H100GPU最大的買家，據(jù)專家交流可能采購了3萬支撐現(xiàn)有業(yè)務(wù)；2）核心的AI投資，支持engine、排序廣告等的建設(shè)；當(dāng)我們評估ROI感覺可以的話，這些都會提高我們對AI的投入；3）支持生成式AI，現(xiàn)在雖然難評估，但我們未來會提高資本開支，同時平衡好AI能力的建設(shè)及將提升我們在生成式AI的容量投資（earningtranscript）數(shù)據(jù)中心MicrosoftAthenaAzure云擁有10000個GPU和285000個CPU內(nèi)核；據(jù)專家交流北美各家可能采購了3萬片H100以我們希望引領(lǐng)AI平臺的浪潮并做相應(yīng)投資來實現(xiàn)它我們預(yù)計資本開支會有顯著的后續(xù)環(huán)比增長，主要驅(qū)動為AzureAI基礎(chǔ)設(shè)施。注意可能有正常的季度支出波動AzureAI基礎(chǔ)設(shè)施Al算力報告Al算力報告行業(yè)/細分領(lǐng)域海外公司2022年營收（億美元）中國對標(biāo)公司通用人工智能、自然語言處理、多模態(tài)模型OpenA(ChatGPT)——百度（文心一言）、昆侖萬維自然語言處理、多模態(tài)模型、云計算谷歌(PaLM)阿里巴巴（通義千問）、科大訊飛、三六零辦公軟件、自然語言處理微軟(Microsoft365Copilot)金山辦公（WPSai）自然語言處理、多模態(tài)模型、計算機視覺Meta(LLaMa)騰訊（混元大模型）光模塊/器件芯片光模塊II-VI(Finisar)中際旭創(chuàng)、天孚通信、新易盛等NeoPhotonics2AOI2光芯片Lumentum源杰科技、光迅科技、長光華芯、仕佳光子、永鼎股份CredoTechnology[CRDO.O]1橙科、芯速聯(lián)GPU、AI加速器英偉達(NVDA)寒武紀(jì)、海光信息AMD(AMD)英特爾(INTC)FPGA、AI加速器賽靈思(XLNX)安路科技模擬芯片、功率管理芯片英飛凌(IFX)杰華特臻鼎科技鵬鼎控股、東山精密、滬電股份、景旺電子欣興集團華通電子健鼎科技企業(yè)網(wǎng)絡(luò)、數(shù)據(jù)中心網(wǎng)絡(luò)、云計算網(wǎng)絡(luò)等Cisco華為、浪潮、中興、聯(lián)想、紫光、菲菱科思AristaNetworksHPEJuniperDellTechnologies企業(yè)網(wǎng)絡(luò)、數(shù)據(jù)中心網(wǎng)絡(luò)、云計算網(wǎng)絡(luò)等ExtremeNetworks新華三、萬國數(shù)據(jù)、潤澤科技、中國移動、中國電信、中國聯(lián)通、奧飛數(shù)據(jù)、云賽智聯(lián)、光環(huán)新網(wǎng)、數(shù)據(jù)港IDC服務(wù)、互聯(lián)網(wǎng)交換、云服務(wù)EquinixIDC服務(wù)、數(shù)據(jù)中心基礎(chǔ)設(shè)施IDC服務(wù)、電信服務(wù)、云服務(wù)NTTglobaldatacenter溫控、UPS、機柜等數(shù)據(jù)中心設(shè)備Vertiv1.2國內(nèi)數(shù)字&算力政策頻出，當(dāng)前走向地方細化落地?中國政府基于數(shù)字經(jīng)濟發(fā)展大背景，在2023年各個省市加快了AI及智算超算的規(guī)劃和投入。Al算力報告表：我國及地方出臺多個政策和文件文件名時間發(fā)布單位北京市人民政府2023/5/301《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實施方案（2023-2025年）》北京市人民政府2023/5/301《北京市促進通用人工智能創(chuàng)新發(fā)展的若干措施》深圳人民政府上海市經(jīng)濟信息化委成都市經(jīng)信局中共中央、國務(wù)院十三屆全國人大深圳人民政府上海市經(jīng)濟信息化委成都市經(jīng)信局中共中央、國務(wù)院十三屆全國人大常委會第三十七次會議2023/5/312023/4/192023/1/122023/2/272023/223《上海市推進算力資源統(tǒng)一調(diào)度指導(dǎo)意見》34《成都市圍繞超算智算加快算力產(chǎn)業(yè)發(fā)展的政策措施》45《數(shù)字中國建設(shè)整體布局規(guī)劃》56《關(guān)于數(shù)字經(jīng)濟發(fā)展情況的報告》6《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實施方案》2022/12/22022/1/122021/11/152021/5/2678989工信部工信部、國家能源局表：各地算力平臺開始陸續(xù)實施算力平臺地方參與單位時間1算力互聯(lián)互通驗證平臺北京中國電信、中科院信息2023/3/32集群算力服務(wù)調(diào)度與采購平臺北京中國通信工業(yè)協(xié)會數(shù)據(jù)中心委員會、北京數(shù)字科智技術(shù)有限公司2023/2/283上海市人工智能公共算力服務(wù)平臺上海上海超算中心2023/2/203南京市城市算力網(wǎng)運營平臺南京中科南京信息高鐵研究院2023/2/244算力一體化統(tǒng)一管理服務(wù)平臺合肥合肥市大數(shù)據(jù)資產(chǎn)運營有限公司2023/1/165鄭州城市算力網(wǎng)鄭州國家信息中心、中國科學(xué)院計算技術(shù)研究所、粵港澳大灣區(qū)大數(shù)據(jù)研究院等2023/2/276東數(shù)西算一體化算力服務(wù)平臺中國電信寧夏2023/2/247貴州樞紐算力調(diào)度平臺貴州云上貴州、中軟國際云智能業(yè)務(wù)集團2022年5月26日博創(chuàng)科技德科立聯(lián)特科技中際旭創(chuàng)新易盛光迅科技華工科技劍橋科技mentech銘普光磁源杰科技仕佳光子光庫科技長光華芯滬電股份鵬鼎控股勝宏科技 菲菱科思博創(chuàng)科技德科立聯(lián)特科技中際旭創(chuàng)新易盛光迅科技華工科技劍橋科技mentech銘普光磁源杰科技仕佳光子光庫科技長光華芯滬電股份鵬鼎控股勝宏科技 菲菱科思PCBSoC翱捷科MEIGeioccoxh技微技鴻博股份亞康股份首都在線云賽智聯(lián)中國移動中國電信中國聯(lián)通Al算力報告紫光國微復(fù)旦微電安路科技滬電股份鵬鼎控股勝宏科技晶豐明源片杰華特帝奧微:"接器兆龍互聯(lián)鼎通科技景嘉微寒武紀(jì)海光科技中國長城龍芯中科紫光國微復(fù)旦微電安路科技滬電股份鵬鼎控股勝宏科技晶豐明源片杰華特帝奧微:"接器兆龍互聯(lián)鼎通科技景嘉微寒武紀(jì)海光科技中國長城龍芯中科nwsuinwsui德明利江波龍德明利江波龍兆易創(chuàng)新光環(huán)新網(wǎng)數(shù)據(jù)港潤澤科技光環(huán)新網(wǎng)數(shù)據(jù)港ymk"AIGPUASPAl算力報告1-2個英特爾第三代Xeon處理器。景，AI算力需求的提升推動了GPU卡的運算速度和用量需求進一步增長。根據(jù)IDC數(shù)據(jù)，2022年GPU加速卡占據(jù)AI市場89%80%60%80%60%40%20%類型典型產(chǎn)品芯片價格數(shù)量AI服務(wù)器A100A100Tensor864coreAMD2普通服務(wù)器浪潮英信服務(wù)器Xeon處理器數(shù)據(jù)來源：英偉達官網(wǎng)，浪潮信息官網(wǎng)，圖：服務(wù)器成本構(gòu)成情況400200基礎(chǔ)型高性能型推理型機器學(xué)習(xí)型CPUGPUmemorystorag圖：中國智能算力規(guī)模及預(yù)測（單位：EFLOPS）??Al算力報告Al算力報告高速互連技術(shù)開創(chuàng)者，多卡互聯(lián)優(yōu)勢顯著。為實現(xiàn)超算模型的高速通信需求，英偉達開創(chuàng)式提出NVLink和NVSwitch技術(shù)：NVLink主要用于連接多個GPU，以加速高性能計算和深度學(xué)習(xí)等應(yīng)用；NVSwitch用于連接多個GPU和CPU，形成高性能計算系統(tǒng)，適用于更復(fù)雜和大規(guī)模的場景，用戶可根據(jù)具體應(yīng)用需求和系統(tǒng)配置來決定使用NVLink或NVSwitch。GH200超級芯片所采表：NVLink和NVSwitch技術(shù)NVLink第二代第三代第四代最大鏈路數(shù)6架構(gòu)支持NVSwitch第一代第二代第三代直連或節(jié)點中最多8個最多8個最多8個之間帶寬聚合總帶寬架構(gòu)支持?jǐn)?shù)據(jù)來源：英偉達官網(wǎng)圖：英偉達CUDA-XAI??Al算力報告動國內(nèi)AI服務(wù)器市場快速增長，以浪潮信息為主的國內(nèi)廠家占據(jù)國內(nèi)AI服務(wù)器主頭部廠商持續(xù)加單，國內(nèi)AI芯片需求強勁。全球頭部互聯(lián)網(wǎng)廠商相繼入局大模型賽道，以英偉達GPU為代表的算力核心產(chǎn)品訂單暴增，一批中國AI芯片企業(yè)立足于不同技術(shù)路圖：2022年中國AI服務(wù)器市場規(guī)模（億美元）250200020192020202120222023E圖：2022年中國AI服務(wù)器市場份額浪潮華三寧暢安擎坤前華為寶德思騰合力其他4002000圖：中國AI芯片市場規(guī)模（億元）42742748642017201820192020202120222023E??AI穿越n的基石,算力基建的起始》在國家政策的指引下，國產(chǎn)公司遍地開花，各施所長不斷縮短差距。中國主要的AI芯片公司，寒武紀(jì)已量產(chǎn)四代芯片，其在研思元590性能預(yù)計能達到A100的70%，有望部分場景實現(xiàn)替代；華為昇騰采用獨家達芬奇架構(gòu)，昇騰910性能優(yōu)越，處理速度達到同類產(chǎn)品180%；阿里平頭哥另辟蹊徑，其含光800推理性能和能效均達到世界前列水平；沐曦科技的通用芯片曦云MXC500對標(biāo)A100；壁仞的BR100、燧原的邃思2.5以及天數(shù)智芯的智鎧100等一系列高性能芯片即將面世。圖：2022年中國AI芯片市場規(guī)模占比ASIC天數(shù)智芯沐曦科技寒武紀(jì)平頭哥壁仞燧原華為天數(shù)智芯沐曦科技寒武紀(jì)平頭哥壁仞燧原華為Al算力報告Al算力報告?大力發(fā)展硬件的同時，軟件也是及其重要的一環(huán)。英偉達不僅在硬件方面具有統(tǒng)治力，在軟件平臺也具有很強的競爭力，CUDA生?共建生態(tài)開發(fā)平臺，加速AI芯片落地。寒武紀(jì)不僅實現(xiàn)了終端、云端、邊緣端產(chǎn)品的完整布局，還為云邊端全系列智能芯片與處理器產(chǎn)品提供統(tǒng)一的平臺級基礎(chǔ)系統(tǒng)軟件CambriconNeuware，使開發(fā)的應(yīng)用可以在云邊端互相兼容，大幅減少云邊端不同平臺的開發(fā)和應(yīng)用遷移成本。華為同樣致力于“一平臺雙驅(qū)動”為核心的昇騰AI生態(tài)，已有200多家合作伙伴經(jīng)過認證，圍繞昇騰的開發(fā)者超30萬，其中核心開發(fā)者超2000，圖：華為昇騰產(chǎn)業(yè)生態(tài)圖：寒武紀(jì)CambriconNeuWare圖：華為昇騰產(chǎn)業(yè)生態(tài)數(shù)據(jù)來源：華為官網(wǎng)數(shù)據(jù)來源：華為官網(wǎng)Al算力報告 2.1Al算力報告?AI大模型的數(shù)據(jù)處理需求驅(qū)動服務(wù)器硬件升級與擴容。目前AI大模型處理數(shù)據(jù)的吞吐量呈指數(shù)級增長。AI服務(wù)器對內(nèi)存、硬盤存儲容量要求更高。主要的提升是支持更大容量的內(nèi)存滿足當(dāng)下實時負載增加的需求，提供更多外置硬盤插槽，并廣泛支持NVME/PCIE等SSD，滿足數(shù)據(jù)洪流需求。根據(jù)半導(dǎo)體觀察，AI服務(wù)器容量是普通服務(wù)器的8倍，N圖：AI大模型處理數(shù)據(jù)的吞吐量增長趨勢Al算力報告 Al算力報告存芯片，是將多個DDR芯片堆疊在一起后和GPU封裝在一起，實現(xiàn)大容量和高位寬的DDR組合陣列。目前HBM占整個DRAM市場比重約1.5%，為新型高性能存儲產(chǎn)品，處于缺貨低庫存階段。SK海力士、三星、美光等存儲巨頭都在HBM領(lǐng)域展開了升級競圖：HBM的堆疊結(jié)構(gòu)數(shù)據(jù)來源：半導(dǎo)體產(chǎn)業(yè)縱橫，《電子與封裝》圖：HBM提供更快的數(shù)據(jù)處理速度數(shù)據(jù)來源：TSMCAl算力報告 Al算力報告?HBM：突破‘內(nèi)存墻’的新一代3DDRAM解決方案?！皟?nèi)存墻”是指處理器的運算能力超過了存儲芯這導(dǎo)致了整體的計算能力被存儲器所限制。3D化的DRAM是解決“內(nèi)存墻”問題的主要途徑。其中，HBM是3DDRAM的一種形式，相比其他DRAM的集成方式，它的數(shù)據(jù)傳輸速度最快，損耗最小，因此被認為是目前最理想的3DDRAM形式。HBM突破了內(nèi)存容量和帶寬的瓶頸，打破了"內(nèi)存墻"對提升算力的束縛，被看作是新一代DRAM的解決方案。圖：存儲帶寬落后于算力成長速度形成“內(nèi)存墻”數(shù)據(jù)來源：RISElab23 Al算力報告?HBM市場：SK海力士占據(jù)主導(dǎo)地位。據(jù)半導(dǎo)體行業(yè)觀察，作為HBM的先驅(qū)，SK海力士是擁有最先進技術(shù)路線的領(lǐng)導(dǎo)者。SK海力士于2022年6月開始生目前唯一一家批量出貨HBM3的供應(yīng)商，擁有超過95%的市場份額，這是大多數(shù)H100SKU所使用的。HBM現(xiàn)在的最大產(chǎn)HBM3，是配置為8層16GBHBM3模塊。SKHynix正在為AMDMI300X和NvidiaH100刷新生產(chǎn)數(shù)據(jù)速率為5.6GT/s的12層24GBHBM3。三星緊隨Hynix之后，預(yù)計將在2023年下半年發(fā)貨HBM3，并正在大力投資以追趕市場份額。美光科技由于直到2018年，才開始從HMC轉(zhuǎn)向HBM路線圖，仍然停留在HBM2E，在HBM方面排名落后。圖：SK海力士在新一代技術(shù)方面保持最強數(shù)據(jù)來源：半導(dǎo)體行業(yè)觀察圖：三星預(yù)計2023下半年發(fā)布HBM3數(shù)據(jù)來源：半導(dǎo)體行業(yè)觀察Al算力報告Al算力報告是目前主流的串行通信技術(shù)。通過數(shù)據(jù)在發(fā)送端并圖：SerDes結(jié)構(gòu)圖：圖：SerDes結(jié)構(gòu)Al算力報告Al算力報告《穿越?AI服務(wù)器算力提升顯著，帶動SerDes通信帶寬需求激增。AI服務(wù)器網(wǎng)絡(luò)模塊升級主要表現(xiàn)為帶寬增加，主要涉及的芯片是SerDes。高性能計算機性能提升主要源于單個結(jié)點計算能力增強和系統(tǒng)中結(jié)點數(shù)增加。一般而言，結(jié)點對互連帶寬的要求與其處理能力呈正比。隨著結(jié)點計算能力迅速提高，系統(tǒng)對互連網(wǎng)了更高的要求。通過交替增加SerDes通道數(shù)量和每個通表：SerDes技術(shù)演進年份2010201220142016201820202020E2022ESerDes數(shù)量256256256調(diào)制方式25.625.6Al算力報告?國內(nèi)SerDes發(fā)展現(xiàn)狀：?上游：半導(dǎo)體IP龍頭芯原股份于2021年2月獲得加拿大高速接口領(lǐng)域全球領(lǐng)導(dǎo)者Alphawave公司在國內(nèi)一系列多標(biāo)準(zhǔn)SerDesIP的獨家經(jīng)銷權(quán)。?中游：芯片設(shè)計領(lǐng)域，專注于高速混合芯片設(shè)計公司龍訊股份基于單通道12.5GbpsSerDes技術(shù)研發(fā)的通用高速信號延長芯片可在5G通信領(lǐng)域?qū)崿F(xiàn)國產(chǎn)化應(yīng)用。國產(chǎn)以太網(wǎng)PHY芯片龍頭裕太微研究形成多種上層協(xié)議。圖：高速SerDes技術(shù)和各種接口的關(guān)系圖：全球圖：全球SerDes市場規(guī)模（單位：億美元）5Al算力報告 Al算力報告?相比于普通服務(wù)器，AI服務(wù)器的PCB增量主要體現(xiàn)在GPU板組中。由于AI服務(wù)器比普通服務(wù)器的GPDGXH100相應(yīng)GPU板組的PCB需求量增大且要求進一步提圖：NVIDIADGXH100爆破圖圖：NVIDIADGXH100GPU板組爆破圖數(shù)據(jù)來源：NVIDIA官網(wǎng)數(shù)據(jù)來源：NVIDIA官網(wǎng)數(shù)據(jù)來源：NVIDIA官網(wǎng) 2.2PCB及載板：規(guī)格加速升級，單機ASP持續(xù)Al算力報告?AI服務(wù)器的OAM卡需要用更高層數(shù)的PCB板，價值量更大。由于AI服務(wù)器電路更加復(fù)雜，需要更大帶寬和更高傳輸速率，因此OAM需要更高?AI服務(wù)器的OAM由于芯片性能的提升，對布線密度提出了更高要求。其需要4階及以上HDI加工工藝，根據(jù)靖邦電子，HDI板增加一階，成本圖：NVIDIADGXH100OAM實物圖Al算力報告 2.2Al算力報告?NVSwitch是GPU之間的通信模塊，在單節(jié)點內(nèi)和節(jié)點間實現(xiàn)以NVLink能夠達到的最高速度進行多對多GPU通信。NVIDIADGXH100的GPU板組包含4個NVSwitch。?NVSwitch對PCB板的高速傳輸有更高要求。根據(jù)立鼎產(chǎn)業(yè)研究院，NVIDIADGXH100在4個NVSwitch加持下總帶寬達到PCle5.0的7倍，意味著其覆銅板材料至少需要使用UltraLowLoss級別。圖：NVIDIADGXH100NVSwitch實物圖圖：NVIDIADGXH100NVSwitch概念圖Al算力報告 2.2Al算力報告?由于其上集成部件較多，布線較為復(fù)雜，通常需要24~26層的超高層PCB板，ASP提升較大。?作為搭載整個GPU板組的板塊，對于高頻高速具有較高的要求，需要使用的覆銅板等級為UltraLowLoss。NVIDIADGXUBB設(shè)計更為緊湊，使用HDI技術(shù)會進一步提高ASP。?目前滬電股份在超高層和高密度PCB中優(yōu)勢領(lǐng)先，未來深度受益于AI服務(wù)器需求釋放。圖：NVIDIADGXH100UBB實物圖 2.2PCB及載板：規(guī)格加速升級，單機ASP持續(xù)Al算力報告?從覆銅板（CCL）技術(shù)升級角度，將目前最新的IntelEagleStream平臺與前代平臺對比，可明顯看出服務(wù)器平臺用覆銅板升級處于一個階梯跨越至另一個階梯的關(guān)鍵轉(zhuǎn)型期。最新的EagleStream平臺要求CCL的介電損失因數(shù)Df達到0.002-0.004，介電常數(shù)Dk達到3.3-3.6。表：Intel不同平臺CCL性能對比服務(wù)器平臺升級要求傳輸速率提高，Dk與Dr值下降對標(biāo)松下電工產(chǎn)品 2.2PCB及載板：規(guī)格加速升級，單機ASP持續(xù)Al算力報告?H100等GPU的芯片封裝通常使用2.5D/3D封裝技術(shù)，而ABF載板是2.5D/3D封裝的核心材料之一。隨著GPU需求持續(xù)走高，ABF載板需求也相應(yīng)增加。并且由于AI大模型要求多張G?從產(chǎn)業(yè)鏈看，上游ABF薄膜基本由日本味之素壟斷，中游制造有日本的Ibi路、興森科技等產(chǎn)品逐步突破，未來有望深度受益于國產(chǎn)替代。圖：H100TENSORCOREGPU實物圖ABF載板力Al算力報告算力時代來臨,高ASP的Al服務(wù)器需求加速爆發(fā)。傳統(tǒng)服務(wù)器數(shù)據(jù)處理能力有限,Al服務(wù)器通過異構(gòu)形式實現(xiàn)并行計算,可以更好滿足算力要求。相較于普通服務(wù)器,Al服務(wù)器采用多芯片組合,算力硬件成本更高,品牌與白牌組裝市場有望進一步擴容。Al服務(wù)器需求量加速增長,2026年將超過200w臺。根據(jù)TrendForce數(shù)據(jù),2022年全球Al服務(wù)器出貨量為85萬臺,預(yù)計2023年Al服務(wù)器出貨量將增長到118.3萬臺,同比增長38.4%,預(yù)計到2026年出貨量將達到236.9萬臺。云服務(wù)廠商是Al服務(wù)器主要的采購主力。根據(jù)TrendForce,2022年北美四大云端廠商谷歌、亞馬遜AWSMeta、微軟合計占據(jù)全球Al服務(wù)器采購量的66.2%,國內(nèi)互聯(lián)網(wǎng)云計算廠商字節(jié)跳動、騰訊、百度、阿里巴巴分別占比6%、2%、2%、2%。圖：2022-2026全球AI服務(wù)器出貨量預(yù)估（單位：千臺）數(shù)據(jù)來源：TrendForce圖：2022全球AI服務(wù)器市場客戶采購結(jié)構(gòu)數(shù)據(jù)來源：TrendForceAlAl算力報告?總體服務(wù)器市場:根據(jù)counterpoint,2021年全球服務(wù)器市場中排名前三的品牌分別為戴爾、HPE及浪潮,份額分別為14.5%12.4%及10.1%ODM廠商銷售規(guī)模302.3億美元,占比達31.1%,其中工業(yè)富聯(lián)銷售規(guī)模最大,在ODM市場占比42%。?Al服務(wù)器市場:參照2022年上半年全球Al服務(wù)器市場中,浪潮、戴爾、惠普分別以20.2%、13.8%、9.8%位列前三。工業(yè)富聯(lián)則在圖：2022H1全球AI服務(wù)器市場份額占比統(tǒng)計圖：2022H1全球AI服務(wù)器市場份額占比統(tǒng)計數(shù)據(jù)來源：Counterpoint數(shù)據(jù)來源：CounterpointAl算力報告?數(shù)據(jù)流量快速增長和人工智能快速發(fā)展推動數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)轉(zhuǎn)型，有望驅(qū)動交換機數(shù)量和端口速率上行，高速以太網(wǎng)交換機市場有望實現(xiàn)強勁增長。根據(jù)IDC預(yù)測，中國25G端口交換機市場規(guī)模到2022年將達到4.4億美元，而100G交換機市場規(guī)模將達到13.?國內(nèi)交換機市場集中度較高，銳捷和新華三市場份額提升。根據(jù)IDC測算，2022前三個季度新華三、華為、星網(wǎng)銳捷三家市占率已經(jīng)超過80%，國產(chǎn)份額持續(xù)保持領(lǐng)先。圖：我國高速數(shù)據(jù)中心交換機市場規(guī)模（單位：億美元）圖：2020-2022Q3中國交換機市場份額華為新華三中興銳捷網(wǎng)絡(luò)其他13.77%14.69%1.62%13.81%13.96%1.56%13.84%11.69%1.92%34.01%34.14%34.33%38.54%36.54%35.59%90%80%70%60%50%40%30%20%13.77%14.69%1.62%13.81%13.96%1.56%13.84%11.69%1.92%34.01%34.14%34.33%38.54%36.54%35.59%202020212022Q3數(shù)據(jù)來源：IDC、銳捷網(wǎng)絡(luò)招股書，國泰君安證券研究Al算力報告Al算力報告?AI驅(qū)動交換機端口速率和端口數(shù)提升，帶來交換機市場增量需求。GH200的Nvlink架構(gòu)交換機為25.6Tb交換容量，32*800G端口，服務(wù)器交換機的比例從A100的1:1.2提升到1:5。?近期產(chǎn)業(yè)鏈發(fā)展顯著提速，各家均推出可支持AI訓(xùn)練的800G產(chǎn)品。華為發(fā)布全球首款800G數(shù)據(jù)中心核心交換機，新華三全球首發(fā)51.2T800GCPO硅光數(shù)據(jù)中心交換機，均可支持AI訓(xùn)練業(yè)務(wù)需求。圖：DGXGH200采用胖樹和無阻塞的拓撲結(jié)構(gòu)數(shù)據(jù)來源：英偉達，國泰君安證券研究圖：一個NVLink交換機為25.6Tb交換容量，32*800G端口Al算力報告?軟硬件解耦的白盒交換機有效降低組網(wǎng)成本，成為當(dāng)下的主流選擇。白盒交換機將網(wǎng)絡(luò)中的物理硬件和操作系統(tǒng)進行解耦，讓標(biāo)準(zhǔn)化的硬件配置與不同的軟件協(xié)議進行匹配，下游客戶可選擇為交換機安裝外部操作系統(tǒng)或在交換機廠商已提供開放式操作系統(tǒng)基礎(chǔ)上開發(fā)上層應(yīng)用軟件，客戶可組建更為開放靈活的網(wǎng)絡(luò)方案，在大幅提高數(shù)據(jù)中心運維效率的同時，降低了建網(wǎng)成本。?白盒交換機廠商具備低成本、高開放性、易操作性的優(yōu)勢，有望在未來市場競爭中逐步提升份額。我們認為白盒交換機的成本低、操作難度小的優(yōu)勢未來將進一步凸顯，銳捷網(wǎng)絡(luò)等白盒交換機廠商在國內(nèi)交換機市場中份額也逐步提高。圖：白盒交換機降低了組網(wǎng)成本表：白盒交換機與其他類型交換機的對比種類裸金屬交換機品牌裸金屬交換機白盒交換機品牌交換機定義僅有硬件，ODM提供基礎(chǔ)技術(shù)支持僅有硬件，OEM提供貼牌和技術(shù)支持/服務(wù)商品化硬件，預(yù)裝網(wǎng)絡(luò)操作系統(tǒng)品牌專門化硬件，預(yù)裝操作系統(tǒng)硬件成本低低低高硬件種類商品化硬件（包括ASIC）商品化硬件（包括ASIC）商品化硬件（包括ASIC）品牌硬件（系統(tǒng)化ASIC）網(wǎng)絡(luò)操作系統(tǒng)沒有（顧客選擇第三方操作系統(tǒng)）沒有（顧客選擇第三方操作系統(tǒng)）預(yù)裝廠商自己的操作系統(tǒng)或第三方操作系統(tǒng)品牌商自有操作系統(tǒng)2.4液冷：AI時代算力密度急速增加，早期以冷板式為主Al算力報告?AI算力時代數(shù)據(jù)中心趨于集中化、大型化，且服務(wù)器功率密度逐年增加，風(fēng)冷方案已經(jīng)不能滿足要求。自然風(fēng)冷單機柜密度一般支持8-?我們預(yù)計早期仍以技術(shù)較為成熟的冷板式方案為主。IDC液冷技術(shù)方案主要包括冷板式、浸沒式和噴淋式，冷板式方案目前較為成熟、成本較低、改造上對服務(wù)器芯片影響較小，浸沒式和噴淋式散熱效率更好但成本較高。目前，阿里巴巴以單相浸沒式液冷為主要發(fā)展方向，其他用戶以冷板式液冷試點應(yīng)用居多。圖：單機柜功率密度快速增加，風(fēng)冷已經(jīng)不能滿足要求圖：2019-2025年中國液冷IDC市場規(guī)模(億元）40%80%30%60%20%40%10%20%0IDC液冷（保守）IDC液冷（樂觀）---yoy元）40%80%30%60%20%40%10%20%02019202020212022202320242025圖：2019-2025年中國液冷方案結(jié)構(gòu)冷板式浸沒式201920202021E2022E2023E2024E2025E2.4液冷：三大運營商全面擁抱液冷?中科曙光、華為行業(yè)領(lǐng)先，英維克液冷方案全面布局，近年來競爭力不斷加強。其中中科曙光、華為、阿里和聯(lián)想位于中國液冷數(shù)據(jù)中心市場領(lǐng)導(dǎo)者位置，浪潮位于挑戰(zhàn)者位置，戴爾中國、維諦技術(shù)和英維克位于跟隨者位置，IBM中國位于可期待者位置。?三大運營商全面擁抱液冷，預(yù)計2025年能累計帶來百億左右增量市場空占比7-8成3）浸沒式方案單價約為冷板式的4-5倍4）平均新增機柜功率8-10kw5）暫時不考慮老舊改造只考慮新建。圖：中國液冷數(shù)據(jù)中心能力競爭矩陣圖Al算力報告表：國內(nèi)廠商在液冷方面的布局企業(yè)名稱儲備液冷技術(shù)類型主要液冷產(chǎn)品推出時間英維克冷板式液冷、單相浸沒液冷、相變浸沒液冷等XGlacier服務(wù)器液冷解決方案Coolinside全鏈條液冷解決方案Coolinside全鏈條液冷6大集成交付方案年年年申菱環(huán)境冷板式液冷、單相浸沒液冷、相變浸沒液冷等天樞-液冷溫控系統(tǒng)年高瀾股份同飛股份佳力圖冷板式液冷、浸沒式液冷等冷板式液冷等冷板式液冷、浸沒式液冷等冷板式液冷服務(wù)器熱管理解決方案、浸沒式液冷服務(wù)器熱管理解決方案同飛數(shù)據(jù)中心板式液冷全鏈條整體解決方案技術(shù)儲備和預(yù)研年年-依米康中興通訊冷板式液冷、浸沒式液冷等冷板式液冷、浸沒式液冷技術(shù)儲備和預(yù)研ICT液冷一體化解決方案-數(shù)據(jù)來源：《中國液冷數(shù)據(jù)中心發(fā)展白皮書》，國泰君安證券研究41/Al算力報告 Al算力報告運行效率問題：根據(jù)阿姆達爾定律，串行通信決定了并行系統(tǒng)整體運行效率，并行系統(tǒng)節(jié)點數(shù)越多，其通信占比越高，通信數(shù)據(jù)來源：星脈數(shù)據(jù)來源：星脈數(shù)據(jù)來源：星脈Al算力報告?我們認為800G升級需求側(cè)主要來源于1）云數(shù)據(jù)中心自然升?Meta論文：提到1）服務(wù)器計算訓(xùn)練需求6個季度翻了3倍，2）個季度內(nèi)分布式的訓(xùn)練工作流提升到原來7倍圖：傳統(tǒng)數(shù)據(jù)中心架構(gòu)圖（800G傳統(tǒng)云需求在51.2T較為明顯）層級amazonSpine/Leaf400GFR4/DR4400GFR4/DR42*400GFR4Tor400GSR8/100GDR1400GDR4800GPSM8Server100GAOC100GAOC200GAOCgoogleSpine/Leaf2*400GFR42*800GFR4Tor8*100GPSM88*200GPSM8Server100GDAC/ACC100GDAC/ACCmicrosoftSpine/Leaf400GDR4、400GZR-Tor400GAOC Server100GDAC MetaSpine/Leaf400G(2*200GFR4)-Tor200GFR4-Server 百度Spine/Leaf400GFR4/DR4400GFR4/DR42*400FR4Tor400GSR8/100GDR1400GDR4800GPSM8Server100GAOC；2*200GSR4/AOC100GAOC200GAOC騰訊Spine/Leaf200GFR4400GFR4；400GDR4+2*400GFR4;2*400GDR4+Tor200GSR4400GDR4/400GSR4800GPSM8Server100GAOC/ACC/AOC100GDAC/ACC/AOC200GDAC/ACC/AOCSpine/Leaf200GFR4400GFR4；400GDR4+2*400GFR4;2*400GDR4+Tor200GSR4400GDR4/400GSR4800GPSM8Server100GAOC/ACC/AOC100GDAC/ACC/AOC200GDAC/ACC/AOC圖：訓(xùn)練、推理相關(guān)的需求增長遠高于其他自然增長需求數(shù)據(jù)來源：DeepLearningTraininginFacebookDataCenters:DesignofScale-upandScale-outAI800G穿越n的基石,算力基建的起始》數(shù)據(jù)來源：圖：Nvidia方案的Basepod采數(shù)據(jù)來源：Al算力報告?網(wǎng)絡(luò)性能是決定AI集群算力效率的核心要素。根據(jù)阿姆達爾定律，并行系統(tǒng)節(jié)點數(shù)越多，而其通信占比越高，對整體系統(tǒng)運?芯片互聯(lián)性能持續(xù)提升，對于節(jié)點外的芯片互聯(lián)，需要經(jīng)過數(shù)據(jù)中心圖：NVLink本身單通道速率在升級，同時連接數(shù)也在升級圖：DGXH100集群采用4*800G接入（Infiniband組網(wǎng)，1016卡）圖：NVLink本身單通道速率在升級，同時連接數(shù)也在升級數(shù)據(jù)來源：數(shù)據(jù)來源：NvidiaH100referencearchitectureAl算力報告Al算力報告?AI和高性能計算迅猛發(fā)展，數(shù)據(jù)中心服脊交換機100G400G200G400G100G200G機頂交換機/服務(wù)器網(wǎng)卡速率25G100G脊交換機100G400G200G400G100G200G機頂交換機/服務(wù)器網(wǎng)卡速率25G100G800G800G800G800G400G800G800G200G200G400G400G數(shù)據(jù)來源：國泰君安證券研究A100/H100驅(qū)動接入側(cè)網(wǎng)口快速升級！3.1800G主線：從芯片接入-服務(wù)器外-交換機層級Al算力報告?最通用的測算方法就是芯片的接入流量->服務(wù)器內(nèi)流量->服務(wù)器外流量->不同層級交換機流量，最后換算成端口數(shù)，再考慮是否采用光模塊還是銅纜等形態(tài)。?以GH200測算為例：端口數(shù)來自L1層和L2層，共(2*115200GB+115200GB)*8(B/b）/800Gbps=3456個端口，再考慮L1接收流量端口距離較近，可以舍去，則最終為2304個端口，對應(yīng)256個GPU芯片。數(shù)據(jù)來源：GH200參考，國泰君安證券研究3.1800G主線：主要模型A100\H100\GH200測算Al算力報告?核心要點：1）在非Nvl表：H100和GH200Nvlink組網(wǎng)下光模塊測算GH200H100Nvlink表：H100和GH200Nvlink組網(wǎng)下光模塊測算GH200H100NvlinkGPU數(shù)量256256單個GPU互聯(lián)流量450GB450GB板卡內(nèi)：板塊外收斂比L1層流量（南向）115200GB57600GBL1層流量（北向）115200GB57600GBL2層流量115200GB57600GB端口數(shù)345617281:13.51:6.751:4.516KGPU訓(xùn)練集群設(shè)計H100A100核心參數(shù)POD數(shù)量88單個POD節(jié)點數(shù)88單個節(jié)點所需AI服務(wù)器個數(shù)AI服務(wù)器個數(shù)20482048單個服務(wù)器GPU數(shù)88GPU個數(shù)16384163841個服務(wù)器對應(yīng)網(wǎng)卡端口4*（800G端口）8*（200G端口）服務(wù)器服務(wù)器端口需求819216384接入層TOR下行端口數(shù)819216384TOR上行端口數(shù)819216384匯聚層Leaf下行端口數(shù)819216384Leaf上行端口數(shù)819216384核心層Spine下行端口數(shù)819216384三層架構(gòu)匯總4915298304結(jié)果數(shù)據(jù)來源：國泰君安證券研究Al算力報告?Marvell則指引AI相關(guān)業(yè)務(wù)2280.080.060.040.020.00.0FY23Q1FY23Q2FY23Q3FY23Q4FY24Q1FY24Q2Nvidia營收（億美金）9.08.07.06.05.04.03.02.01.00.020222023E2024EMarvellAI收入（億美元）算力報告算力報告光模塊技術(shù)的演進離不開以下兩個核心指標(biāo)：單位速率功耗：PJ/Bit，單位速率成本：$/Gbps該指標(biāo)下降可以因為：圖：器件層面主要通過改進材料可以下降單位速率的功耗圖：器件層面主要通過改進材料可以下降單位速率的功耗數(shù)據(jù)來源：Co-package數(shù)據(jù)來源：Co-packageoptics數(shù)據(jù)來源：Innovium,國泰君安證券研究Al算力報告圖：傳統(tǒng)光模塊方案（左）vs硅光光模塊（中）及硅光芯片（右）表：我們預(yù)計硅光技術(shù)在800G模塊中滲透將明顯上升電口速率光口速率4通道8通道1.6TOSFP-XD硅光數(shù)據(jù)來源：ICCSZ，國泰君安證券研究Al算力報告GaAsSOI4.551.65GaAsSOI4.551.650.2功能晶圓價格33.9527.160.2150200450450數(shù)據(jù)來源：ICCSZ，博創(chuàng)科技，國泰君安證類別硅光傳統(tǒng)lnP晶圓尺寸8-12’2-3’工藝精度65nm-250nm0.3-0.5um集成度耦合器、波導(dǎo)、調(diào)制器、和波器、探測器、分束器、Driver、LA、CDR單片集成難實現(xiàn)高密度集成工廠維護代工生產(chǎn)產(chǎn)業(yè)鏈成熟相對不成熟芯片良率>80%<40%成本量大可以很低受限于良率和固定開支數(shù)據(jù)來源：ICCSZ，博創(chuàng)科技，國泰君Al算力報告Al算力報告圖：傳統(tǒng)的光模塊使用CDR/DSP（上半部分），LPO模塊省略了CDR/DSP（下半部分）DSP功耗占8W的400GDR4/FR4接近60%激光器,數(shù)據(jù)來源：索爾思，國泰君安證券研究Al算力報告Al算力報告線性驅(qū)動減少光學(xué)部分的DSP功能線性驅(qū)動可插拔模塊接近當(dāng)前DEMO的CPO方案單位帶寬功耗Al算力報告?薄膜鈮酸鋰是一種高帶寬的材料，可以支），薄膜鈮酸鋰功耗可以比硅光更低圖：鈮酸鋰調(diào)制性能好，薄膜化后尺寸與硅材料類型長度/mm芯片損耗/3dB帶寬/GHz半波電壓/V直流消光比SiPh硅光4504磷化銦5653傳統(tǒng)LN353-5薄膜LN100/80/454.4/2.3/1.4薄膜LN2707.4/5.1數(shù)據(jù)來源：鈮酸鋰調(diào)制器發(fā)展進展Al算力報告Al算力報告圖：薄膜鈮酸鋰可以用在800G模塊的發(fā)端Al算力報告Al算力報告光芯片層面光芯片全球市場規(guī)模在80-90億元，根據(jù)ICC預(yù)測，當(dāng)前光芯片層面光學(xué)元件模塊層面ChipOnCarrier光學(xué)元件光收發(fā)組件數(shù)據(jù)來源：聯(lián)特科技招股書，優(yōu)迅科技招股書Al算力報告Al算力報告圖：Sumitomo100GEML圖：200G/通道將成為下一個代際800G100GEMLAl算力報告806040200圖：全球光通信DFB/EML光芯片市場快速提升單位：百萬2022E2023E2024E數(shù)據(jù)中心市場光纖接入市場5G移動市場DWDM數(shù)據(jù)來源：國泰君安證券研究806040200圖：100G速率光芯片快速成長單位：億元2022202320242.5G10G25G50G100GDWDMA100H100Al算力報告事項事項備注-H100數(shù)量（1:8)一臺AI服務(wù)器8張卡800G端口數(shù)=1：3)800G光模塊數(shù)量交換機采用SR多模光模塊案，不采用硅光方案；因100G光芯片市場規(guī)模（億元）事項1Scen2備注AI服務(wù)器出貨量（萬臺)-A100數(shù)量（1:8)一臺AI服務(wù)器8張卡200G端口數(shù)=1：6)200G光模塊數(shù)量50G光芯片數(shù)量（1:4）假設(shè)全部用單模，不采用VCSEL50G光芯片市場規(guī)模（億數(shù)據(jù)來源：國泰君安證券研究數(shù)據(jù)來源：國泰君安證券研究Al算力報告3.1Al算力報告Al算力報告 Al算力報告 局，足DC間大帶寬需求數(shù)據(jù)來源：三大運營商講話，國泰君安證券研究3.1骨干設(shè)備：骨干網(wǎng)400G新代際，主要設(shè)備商受益Al算力報告圖：2020-2023年OTN端口比例華為占比最高表：100G代際OTN新建+擴容有超過累計100萬端口合計華為烽火諾基亞數(shù)據(jù)來源：中國移動采招網(wǎng)，國泰君安證券研究Al算力報告Al算力報告表：主流相干模塊市場價格情況相干模塊市場價格100GCFP/CFP228000200GCFP2DCO40000400GCFP2DCO60000800G6位數(shù)1.2T6位數(shù)數(shù)據(jù)來源：易飛揚通信圖：相干模塊圖樣Al算力報告 Al算力報告 ?薄膜領(lǐng)域，當(dāng)前海外富士通、國內(nèi)光庫科技等有相應(yīng)產(chǎn)品，我們預(yù)計有望應(yīng)用在400G骨干網(wǎng)端口中。?交付的形式大概率為調(diào)制器HB-CDM的格式，封裝尺寸可以相對做的較小。圖：富士通宣布商用的驅(qū)動器+鈮酸鋰調(diào)制器封裝起來3cm表：核心的薄膜材料技術(shù)我國已經(jīng)掌握，芯片技術(shù)已逐鈮酸鋰薄膜材料薄膜鈮酸鋰調(diào)制器芯片薄膜LN器件制作學(xué)院派產(chǎn)業(yè)山東大學(xué)：胡卉團隊濟南晶正（胡中山大學(xué)：余思遠蔡鑫倫團隊、武漢國家重點實驗室等光庫科技、鈮奧光電、寧波元芯華中科技大學(xué)夏金松團隊、山東大學(xué)晶體材料實驗室光庫科技、鈮奧光電、寧波元芯等數(shù)據(jù)來源：國泰君安證券研究Al算力報告通信、汽車、消費電子、工業(yè)交通、航空航天、軍事等領(lǐng)域。傳輸高速高頻數(shù)據(jù)信號的同時須保證電路阻抗連續(xù)性好、串?dāng)_小、時延低、信號完整性高。?數(shù)據(jù)中心連接新趨勢不斷涌現(xiàn)，對連接器&線束性能要求持續(xù)提升。隨著數(shù)據(jù)中心規(guī)模不斷擴大、組網(wǎng)模式日益復(fù)雜，研發(fā)更快速度、更高密度和更小型化的連接器以及更高集成度的線束成為行業(yè)技術(shù)發(fā)展的趨勢。表：連接器分類連接器類別主要功能應(yīng)用領(lǐng)域電連接器用于器件、組件、設(shè)備、系統(tǒng)之間的電信號連接，借助電信號和機械力量的作用使電路接通、斷開，傳輸信號或電磁能量，包括大功率電能、數(shù)據(jù)信號在內(nèi)的電信號等廣泛應(yīng)用于通信、航空航天、計算機、汽車，工業(yè)等領(lǐng)域微波射頻連接器用于微波傳輸電路的連接，隸屬于高頻電連接器，因電氣性能要求特殊，行業(yè)內(nèi)企業(yè)會將微波射頻連接器與電連接器進行區(qū)分主要應(yīng)用于通信、軍事等領(lǐng)域光連接器用于連接兩根光纖或光纜形成連續(xù)光通路的可以重復(fù)使用的無源器件，廣泛應(yīng)用于光纖傳輸線路、光纖配線架和光纖測試儀器，儀表，光纖對于組件的對準(zhǔn)精度要求廣泛應(yīng)用于傳輸干線、區(qū)域光通訊網(wǎng)、長途電信、光檢測、等各類光傳輸網(wǎng)絡(luò)系統(tǒng)中圖：數(shù)據(jù)中心場景下的連接器應(yīng)用Al算力報告?連接器順應(yīng)光模塊迭代趨勢實現(xiàn)用量增長。根據(jù)集成光纖數(shù)量的不同，常見的光模塊連接器可分為LC接口和MPO/MTP接口，100G以下光模塊多使用LC接口，100G以上光模塊則需要光纖集成度更高的MPO/MTP接口（常用2~48芯）。隨著光模塊速率從100G/200G向400G/800G躍升，單個光模塊的通道數(shù)量增加，所需使用的單個連接器的通道密度&即需要更多的MPO/MTP連接器。表：光模塊技術(shù)演進光模塊封裝類型通道數(shù)量單通道速率調(diào)制技術(shù)傳輸速率440G44200G8400G8800G圖：常見400G光模塊連接方案?Al算力報告值高速背板連接器新技術(shù)，高壁壘筑就高附加值。高速背板連接器因其功能主要集中在高速信號的板間傳輸，且能夠在有限的空間 布置更多電路板，已成為應(yīng)用于高端服務(wù)器的新技術(shù)方向。由于其在技術(shù)難度、信號傳輸速率和應(yīng)用場景多方面優(yōu)于I/O連接器，且下游客戶產(chǎn)品定制化要求較高，價值量大幅提升。圖：I/O連接器和背板連接器應(yīng)用表：I/O連接器和高速背板連接器對比應(yīng)用領(lǐng)域I/O連接器高速背板連接器技術(shù)難度層的兩個絕緣層③差分對集中在同一個信號PIN上，間距相同易加工①信號PIN數(shù)量較多（一般為12個以上）和信號層之間的絕緣層；③差分對配置在不同信號PIN上，且交錯分布，不易加工傳輸速率速率為28Gbps，共4個通道，總傳輸速市面主流方案6pair/4column：單個差分對的傳輸速率為28Gbps，共24個差分對，總傳輸速率為600Gbps應(yīng)用場景安裝在子板邊緣，主要作用是和外部的其它設(shè)備互聯(lián)，以便和外部系統(tǒng)進行數(shù)據(jù)/信號交換安裝在背板上，主要作用是將背板和子板進行連接，實現(xiàn)背板和子板的數(shù)據(jù)/信號交換AlAl算力報告?線纜同步平臺升級，內(nèi)部線纜單服務(wù)器價值量大幅提升纜：高速裸線等內(nèi)部線纜，用于服務(wù)器內(nèi)板卡、存儲等組件互聯(lián)；DAC/AOC高速線纜屬于外部線纜交換機、交換機-交換機互聯(lián)。由于內(nèi)部線纜需配合服務(wù)器/交換機平臺不斷升級（Intel平臺從支持PCIe4.0向5.0升級，傳輸速率和調(diào)制技術(shù)均升級可實現(xiàn)單服務(wù)器價值量大幅提升。?隨著交換機與AI服務(wù)器需求和性能持續(xù)提升，高速線纜、組件、連圖：DAC/AOC應(yīng)用場景圖：主板上PCIE通道?國內(nèi)廠商憑借在消費電子領(lǐng)域的技術(shù)積累+國產(chǎn)替代節(jié)奏加速，有望打破行業(yè)格局。海外連接器市場發(fā)展較早且成熟，歐美、日系廠商依靠技術(shù)沉淀和規(guī)模優(yōu)勢長期占據(jù)全球大部分市場份額。我國連接器行業(yè)起步相對較晚，以消費電子領(lǐng)域為代表，產(chǎn)品以中低端為主，市場份額有限。隨著數(shù)據(jù)中心需求爆發(fā)式增長以及國產(chǎn)替代穩(wěn)步推進，國內(nèi)連接器廠商有望實現(xiàn)產(chǎn)品技術(shù)升圖：2020年全球連接器廠商市場份額泰科安費諾莫仕立訊精密安波福富士康J.S.T廣瀨電機其他表：國外廠商與國內(nèi)廠商對比應(yīng)用領(lǐng)域主要國外制造商主要國內(nèi)制造商通信瑞可達汽車泰科、安費諾、莫仕、矢崎、航空電子計算機等消費電子泰科、安費諾、莫仕、航空電子電連技術(shù)、立訊精密、得潤電子、徠木股份工業(yè)和交通泰科、安費諾、莫仕、矢崎、航空電子、灝訊、羅森伯格中航光電、航天電器、永貴電器、四川華豐軍事、航空航天泰科、安費諾、莫仕、航空電子中航光電、永貴電器、四川華豐AlAl算力報告Al算力報告纜）、光連接（AOC和光模塊）、射頻通信（基站天線、基站濾波器、塔頂放大器、雙工器、合路器、RRU、AAU、小基站）等現(xiàn)有產(chǎn)品基礎(chǔ)上，增加了熱管理（熱管、VC、軸流風(fēng)扇、冷板、液冷散熱）和工業(yè)連接等產(chǎn)品，實現(xiàn)數(shù)據(jù)中心場景下解決方案的垂直整合。扎實的產(chǎn)品基礎(chǔ)+5G趨勢有望推動公司復(fù)刻海外龍頭圖：立訊精密數(shù)據(jù)中心場景解決方案圖：電連技術(shù)ECT產(chǎn)品應(yīng)用AlAl算力報告?小型化模型將打破智能終端性能冗余窘境，終端接口的硬件求基本滿足目前應(yīng)用需求場景，導(dǎo)致終端消費者換機動力不足。而AI大語言模型的小型化發(fā)展，將帶來智能終端的再升級。在手輸、執(zhí)行、感知等硬件需求也將同步升級。圖：谷歌發(fā)布可植入終端設(shè)備的小型化模型GeckoAl算力報告?Soc作為核心部件有望深度受益。Soc作為智能終端中的底層系統(tǒng)、音頻處理器、I/O子系統(tǒng)以及各類高速模擬接口等功能模塊。應(yīng)用于智能家居、互動零售、企業(yè)、商業(yè)、工業(yè)物聯(lián)網(wǎng)等場景。圖：Soc賦能的終端AI應(yīng)用》圖：通過調(diào)節(jié)VisionPro的旋鈕，用戶可以獲得不同的沉浸度體驗數(shù)據(jù)來源：WWDC23圖：完全沉浸時，EyeSight技術(shù)讓走近的同伴出現(xiàn)在用戶視野中數(shù)據(jù)來源：WWDC23Al算力報告Al算力報告間運算新時代。?VisionPro與AI結(jié)合生成Persona虛擬現(xiàn)實形象。VisionPro采用機器學(xué)習(xí)技術(shù)，通過前置傳感器和神經(jīng)網(wǎng)絡(luò)生成用戶專屬形圖：基于機器學(xué)習(xí)運算后創(chuàng)造的現(xiàn)實形象Al算力報告Al算力報告?公司在電信領(lǐng)域耕耘已久，是國內(nèi)少數(shù)批量交付電信100G高端模塊的廠商。此外，公司?超預(yù)期的點：新客戶開拓進展；硅光能力整合加強；22-23年行業(yè)需求超預(yù)期。圖：主要產(chǎn)品為各速率光模塊數(shù)據(jù)來源：公司公告，國泰君安證券研究Al算力報告Al算力報告?2018-2020年：收購AiDi、開拓有源BO?超預(yù)期的點：數(shù)通器件需求超預(yù)期，激光雷達項目進展超預(yù)期，23年光引擎需求超圖：全球客戶鏈條圖：全球研發(fā)和產(chǎn)能布局圖：全球客戶鏈條數(shù)據(jù)來源：公司公告，國泰君安證券研究5.3中興通訊：盈利質(zhì)量持續(xù)改善，AI布局逐步放量Al算力報告l預(yù)計2023年公司電信網(wǎng)絡(luò)側(cè)業(yè)務(wù)將穩(wěn)步增長。根據(jù)工業(yè)和信息化部的數(shù)據(jù)，2023年l服務(wù)器和存儲業(yè)務(wù)高增長可期，產(chǎn)品組合不斷豐富。由于電信運營商強勁的算力資本將強勁。公司最新發(fā)布的G5系列服務(wù)器產(chǎn)品，具備高密度算力、靈活擴展、異構(gòu)算力、海量存儲、穩(wěn)定可靠等特性，采用最新的英特爾至強第四代可擴展處理器，雙路最大支持120核，AI性能提升10倍，提供強大算力支持。公司目前已與百度合作，為“文心一言”量身定制算力底座，為AI產(chǎn)品應(yīng)用提供更加強勁的算力支撐圖：中興通訊G5系列服務(wù)器新品表：中興通訊智算基礎(chǔ)設(shè)施產(chǎn)品矩陣產(chǎn)品分類產(chǎn)品簡介服務(wù)器全系列服務(wù)器支持GPU和液冷，可以以極致低耗構(gòu)建大模型計算資源池，使數(shù)據(jù)中心的PUE降到1.13以下。已推出R6500G5GPU服務(wù)器，最大支持20個GPU，還將推出更高性能的R6900G5GPU訓(xùn)練服務(wù)器。存儲提供高帶寬多元融合存儲，以滿足AI訓(xùn)練多態(tài)數(shù)據(jù)存儲需求。提供分布式磁陣和高端全閃磁陣組合方案，兼顧了大容量和高性能需求，同時提供文件、對象和塊等多元存儲。此外，通過NEO智能云卡卸載高性能存儲傳輸協(xié)議NVMe，實現(xiàn)了3MIOPS的存儲性能。網(wǎng)絡(luò)采用高速“無損”網(wǎng)絡(luò)，實現(xiàn)了AI算力的“無損”。以DPU為中心，換機的高性能RDMA網(wǎng)絡(luò)，構(gòu)建了超大規(guī)模算力集群。引入NEO智能云卡，服務(wù)器可實現(xiàn)單節(jié)點800Gbps轉(zhuǎn)發(fā)性能、微秒級時延，從而突破節(jié)點間網(wǎng)絡(luò)瓶頸，可以將GPU集群算力發(fā)揮到極致。數(shù)據(jù)來源：中興通訊微信公眾號，國泰君安證券研究Al算力報告Al算力報告l盈利和派息均將持續(xù)穩(wěn)健增長。預(yù)計移動客戶和家庭寬帶客戶仍將實現(xiàn)凈增長；預(yù)計移動ARPU將基本保持穩(wěn)定，而家庭客戶綜慧家庭增值業(yè)務(wù)推動下將同比增長。由于資本開支放緩帶來的折舊壓力減小，以及運維費用的管控，預(yù)計盈利的增長l數(shù)據(jù)要素市場空間廣闊，為公司帶來巨大市場機會。公司擁有大量的優(yōu)質(zhì)數(shù)據(jù)，在數(shù)據(jù)資源方面有很大的優(yōu)勢，未來在數(shù)據(jù)要素市場將有很大的發(fā)展機會及占據(jù)較大市場份額。目前，已有一些商業(yè)案例落地，但數(shù)據(jù)相關(guān)業(yè)務(wù)仍處于發(fā)展初期；我們認為公司將從戰(zhàn)略層面表：中國移動算網(wǎng)基礎(chǔ)設(shè)施數(shù)據(jù)中心布局算力規(guī)?？捎脵C架數(shù)35萬架云專網(wǎng)覆蓋城市數(shù)304個網(wǎng)絡(luò)時延全國20ms省域地市省際骨干網(wǎng)帶寬數(shù)據(jù)來源：產(chǎn)業(yè)通信網(wǎng)、國泰君安證券研究表：中國移動面向政務(wù)領(lǐng)域的行業(yè)大模型模型類型簡介優(yōu)勢基于近年來積累的豐富數(shù)字政府建設(shè)經(jīng)驗所打造的面向政務(wù)領(lǐng)域的行業(yè)大模型。依托九天·海算政務(wù)大模型，復(fù)雜流程的多元交互能力。九天·客服大模型既可根據(jù)用戶提供的自然語言描述，解析用戶問題并提供答案，又可以與人工客服協(xié)作，分析歷史溝通內(nèi)容的語義和上下文 ,總結(jié)和歸納對話的重點和關(guān)鍵信息，根據(jù)對話內(nèi)容為人工客服坐席提示回復(fù)建議 ,以減少應(yīng)答時間，形成“大模型—人工坐席—用戶”的三方溝通場。效率。數(shù)據(jù)來源：中國移動、國泰君安證券研究中國電信：云業(yè)務(wù)不斷拓展，算力資源奠定發(fā)展基礎(chǔ)《穿越n的基石,算力基建的起始l國資云龍頭，業(yè)務(wù)規(guī)模不斷拓展。天翼云公有云市場份額進入行業(yè)前三，在云業(yè)界民幣1,000億元。目前，市場需求依然旺盛，關(guān)鍵點在于公司自身的關(guān)鍵核心技術(shù)能力；預(yù)計公司將繼續(xù)加強在云計計劃2023年投資云資源人民幣195億l算力資源規(guī)模持續(xù)擴充，為產(chǎn)業(yè)數(shù)字化業(yè)務(wù)奠定堅實基礎(chǔ)。中l(wèi)催化劑：派息及派息率的上升；云業(yè)務(wù)的增長快表：中國電信“2+4+31+X+O”算力布局分類具體內(nèi)容2在內(nèi)蒙古和貴州兩個全國性云基地打造融合資源池4在京津冀、長三角、粵港澳、陜川渝4個大區(qū)建成大規(guī)模公有云31在31個省省會級和重點城市建設(shè)屬地化專屬云X在X節(jié)點打造差異化邊緣云O布局“一帶一路”沿線國家，將算力體系延展至海外表：中國電信新一代智算引擎分類具體內(nèi)容核心算法全面布局圖像、語音、語義和AR/VR等領(lǐng)域基礎(chǔ)算法和前沿探索，AI算法倉已突破5500+，發(fā)布星河通用視覺大模型2.0，從垂直領(lǐng)域智能邁向跨行業(yè)通用智能。高效算力依托天翼云進行人工智能4級算力的平臺建設(shè)：在全國6個大區(qū)建設(shè)核心的、大型的算力集群；在31個省節(jié)點