AI黃金時代中的賣鏟人

分析師及聯(lián)系人SAC：S0490517070012SAC：S0請閱讀最后評級說明和重要聲明2/37英偉達：軟硬件大平臺鑄造核心壁壘，GPAI揚帆，巨龍展翅——英偉達踏上宏偉 2023/82023/122024/42024/8?《2024Q1半導設備及材料綜述：收入端加速增長，景氣度持續(xù)回暖》2024-05-20?《景氣回暖+Chiplet加速應用，封測行業(yè)多重β演繹長期成長邏輯》2023-05-27?《AI重構生產力下的電子行業(yè)投資機遇分析》2023-03-27行業(yè)研究丨深度報告投資評級看好丨維持請閱讀最后評級說明和重要聲明 7 產品平臺化構建競爭壁壘，應用擴張打造增 圖1：AI能力出現(xiàn)拐點，從預測推斷走向內容生成 7圖2：內容創(chuàng)作模式的四個發(fā)展階段 7圖3：生成式AI技術的成熟應用進程時間表 7圖4：人工智能三要素逐步成熟，推動行業(yè)進入爆發(fā)期 8圖5：全球及我國人工智能市場收支規(guī)模及預測（億美元） 8圖6：大模型參數(shù)快速提升，對于訓練、推理芯片的性能要求越來越高 9圖7：B2C\B2B對算力的需求（QFLOPS） 9圖8：ScalingLaw尚未見頂，MOE萬億參數(shù)大模型是新的熱點 9圖9：大模型算力需求6個月翻一番的趨勢，預計至少持續(xù)到2030年 9圖10：開發(fā)更高性能的AI大模型需要更強的算力平臺 10圖11：算力底座技術門檻提高，未來訓練核心拼集群系統(tǒng)能力 10圖12：訓練&推理對算力均帶來顯著需求 10圖13：AIGC產業(yè)的算力是工程化結果，是從芯片到資源服務的多層次構造 10圖14：AI服務器將成為服務器的核心增長點（億美元） 圖15：相比傳統(tǒng)服務器，AI服務器整體成本中計算芯片占比更高 圖16：四類邏輯芯片特性比較 圖17：主要AI芯片的功能特性比較 圖18：1983年由TI推出的第一款GPU芯片，用于雅利達游戲機，顯存僅為16kb，分辨率為256*192 12圖19：目前最先進的游戲顯卡英偉達RTX40系列顯存達16GB，可實現(xiàn)光線追蹤效果 12圖20：GPU處理圖形主要分為幾何階段和光柵化階段 12圖21：渲染著色需要大量shader串行完成數(shù)據處理 12圖22：CPU與GPU的結構差異 13圖23：核（ire）→線程組（Thread）→線程塊（Block）→網格（Grid）的多層級復合堆積結構使得GPU更適合處理簡單重復的并行運算 13圖24：阿凡達中用光線追蹤技術制作的鏡頭，GPU在圖形渲染中的應用范圍持續(xù)擴大 13圖25：以GPU為計算核心的服務器集群已成為AI發(fā)展的關鍵基礎 13請閱讀最后評級說明和重要聲明圖26：全球GPU市場規(guī)模2027年有望達到1857.5億美元 14圖27：2023年全球GPU下游應用仍以移動設備、PC及工作站為主 14圖28：服務器中的GPU市場規(guī)?？焖贁U大（億美元） 14圖29：英偉達在服務器GPU中占據核心份額 14圖30：英偉達H100硬件架構示意圖，大量CUDACore需要跟片上緩存、管口配合 15圖31：2020年以來英偉達CUDA生態(tài)持續(xù)擴大（百萬次） 16圖32：英偉達目前仍為桌面級GPU市場的核心龍頭，份額持續(xù)提升 16圖33：英偉達在全球服務器GPU中的市場份額高達95.9% 16圖34：英偉達增長趨勢（單位：百萬美元） 18圖35：英偉達應用于AI運算的H100芯片組 19圖36：英偉達應用于圖形顯示的RTX系列產品 19圖37：英偉達圍繞GPU硬件基礎打造了CUDA生態(tài)系統(tǒng) 19圖38：在CUDA生態(tài)系統(tǒng)至上進一步完善了各類場景應用 19圖39：AI的核心驅動與英偉達的三重壁壘 20圖40：TensorCore的4x4矩陣可大幅提升運算效率 21圖41：相比無TensorCore的P100，V100訓練效率大幅提升 21圖42：Blackwell架構下的GB200GPU集成了2080億個晶體管 22圖43：GB200的整體運算效率遠超英偉達前代產品 22圖44：NVIDIABLUEFIELD-3DPU：可編程片上數(shù)據中心基礎設施 23圖45：DPU可大幅提升通信吞吐量 23圖46：GraceCPU通過NVLink與GPU連接，大幅提升吞吐效率 24圖47：使用NVIDIAScalableCoherencyFabric擴展內核和帶寬 24圖48：英偉達從硬件→軟件→應用層的完整結構 25圖49：DRAM內存尋址：可以在DRAM的任何區(qū)域進行數(shù)據讀寫 26圖50：On-chip內存共享：提升數(shù)據讀寫速度 26圖51：外部內存讀?。壕€程可以通過不同范圍的一組內存空間來訪問設備的DRAM和片上存儲器 26圖52：線程批處理：任務分解 26圖53：CUDA-XAI開發(fā)套件 27圖54：CUDA-XHPC開發(fā)套件 27圖55：DOCA的軟硬件結構 28圖56：英偉達AIEnterprise應用體系 28圖57：英偉達Omniverse體系 29圖58：英偉達整體收入及變化（億美元） 30圖59：英偉達歸母凈利潤變化（億美元） 30圖60：英偉達數(shù)據中心收入變化（單位：億美元） 30圖61：英偉達數(shù)據中心收入占比變化 30圖62：英偉達游戲收入變化（單位：億美元） 31圖63：英偉達游戲收入占比變化 31圖64：英偉達專業(yè)可視化收入變化（單位：億美元） 31圖65：英偉達專業(yè)可視化收入占比變化 31圖66：英偉達自動駕駛收入變化（單位：億美元） 32圖67：英偉達自動駕駛收入占比變化 32請閱讀最后評級說明和重要聲明圖68：英偉達盈利能力 32圖69：英偉達費用率 32圖70：英偉達研發(fā)投入（億美元） 33圖71：英偉達存貨（億美元） 33表1：英偉達主要游戲顯卡參數(shù) 21表2：英偉達主要數(shù)據中心顯卡參數(shù) 22表3：CUDA主要工作模塊及原理 25表4：CUDA核心優(yōu)勢 26請閱讀最后評級說明和重要聲明生成式AI引爆技術奇點，GPU行業(yè)迎高增機遇AIGC全稱為AI-GeneratedConten資料來源：《邁向智能世界白皮書2023》華為，長江證券研究所資料來源：《AIGC發(fā)展趨勢報告2023》騰訊研究院，長江證券研究所資料來源：《AIGC發(fā)展趨勢報告2023》騰訊研究院，長江證券研究所請閱讀最后評級說明和重要聲明達24.5%，顯示出強勁的產業(yè)化增長勢頭250020005000204210178508210216120212022E250020005000204210178508210216120212022E2025E全球中國!!數(shù)據AIGC算法算力資料來源：甲子光年，長江證券研究所資料來源：IDCGlobal，IDCChina，上海數(shù)字大腦研究院，長江證券研究所到千億甚至萬億級別，這與應用級別的模型在參數(shù)規(guī)模上存在指數(shù)級的差異。自2022請閱讀最后評級說明和重要聲明資料來源：英偉達官網，長江證券研究所資料來源：McKinsey，長江證券研究所提升。在參數(shù)數(shù)量相同的情況下，更深的神經網絡模型往往能夠展現(xiàn)出更優(yōu)越的性能。續(xù)至2030年。隨著模型規(guī)模的不斷擴大，對算力的需求也在急劇上升，這不僅推動了資料來源：《邁向智能世界白皮書2023》華為，長江證券研究所圖9：大模型算力需求6個月翻一番的資料來源：《邁向智能世界白皮書2023》華為，長江證券研究所請閱讀最后評級說明和重要聲明資料來源：華為，長江證券研究所資料來源：華為，長江證券研究所指利用訓練好的模型進行計算，利用輸入的數(shù)據獲得正確結論的過資料來源：甲子光年，長江證券研究所資料來源：甲子光年，長江證券研究所請閱讀最后評級說明和重要聲明計算芯片在AI服務器中占據了更高的成本比例。與傳統(tǒng)服務器相比，AI服務器對計算能力的要求更高，因此對高性能計算芯片的需求也更為迫切。GPU由于其并行處理能力，在加速這些計算密集型任務中發(fā)揮著至關重要的作用，800600400200020202021202220232024E2025E2026E2027EAI服務器非AI服務器資料來源：IDC，長江證券研究所60%50%40%30%20%10%0%計算芯片網絡芯片HDDSSD&NANDDRAMAI服務器非AI服務器資料來源：IDC，長江證券研究所性能功能效率靈活性延遲CPUGPU性能功能效率靈活性延遲CPUGPUFPGAASICGPUFPGAASIC定制化程度通用型半定制化定制化靈活性好好不好成本高較高低編程語言/架構CUDA、OpenCL等Verilog/VHDL等硬件描述語言，OpenCL、HLS/功耗大較大小主要優(yōu)點峰值計算能力強、產品成熟平均性能較高、功耗較低、靈活性強平均性能很強，功耗很低、體積小主要缺點效率不高、不可編輯、功耗高量產單價高、峰值計算能力較強、編程語言難度大前期投入成本高、不可編輯、研發(fā)時間長、技術風險大主要應用場景云端訓練、云端推斷云端推理、終端推斷云端訓練、云端推斷、終端推斷代表企業(yè)芯片英偉達Tesla、高通Adreno等XilinxVersal、英特爾Arria等谷歌TPU、寒武紀Cambricon等資料來源：與非網，長江證券研究所資料來源：賽迪智庫，長江證券研究所請閱讀最后評級說明和重要聲明GPU：并行運算效率領先，誕自游戲而盛于AI但隨著計算需求的增加，GPU逐漸成為專門處理圖形渲染的硬件。在作為圖形顯示芯資料來源：MSX，長江證券研究所資料來源：英偉達官網，長江證券研究所資料來源：CSDN，長江證券研究所資料來源：CSDN，長江證券研究所請閱讀最后評級說明和重要聲明資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所速圖形渲染向電影、電視、醫(yī)療影像等領域擴擴展，人工智能、機器學習、科學計算、加密貨幣挖礦、數(shù)據中心和云計算、自動駕駛和機器人等領域也進入百花齊放的階段，資料來源：Broadgeek，長江證券研究所資料來源：英偉達官網，長江證券研究所年進一步增長至584.1億美元，這一上升趨勢預計將持續(xù)至2027年，屆時市場規(guī)模有請閱讀最后評級說明和重要聲明卓越的并行處理能力而成為這些應用的理想選擇，服務器市2000800600400200035%35%34%34%33%33%32%32%31%31%30%202220232024E2025E2026E2027E全球GPU市場規(guī)模（億美元）YoY（右軸）資料來源：Technavio，長江證券研究所n移動設備PCn移動設備PC及工作站游戲機w服務器w其他應用資料來源：MordorIntelligence，長江證券研究所中占據核心份額。憑借其強大的產品性能、廣泛的軟件生態(tài)系統(tǒng)以及持續(xù)的技術創(chuàng)新，900800700600500400300200020202021202220232024E2025E2026E2027E2028E服務器中的GPU市場規(guī)模資料來源：IDC，長江證券研究所402002020Q12020Q22020Q12020Q22020Q32020Q42021Q12021Q22021Q32021Q42022Q12022Q22022Q32022Q42023Q12023Q22023Q32023Q4英偉達AMD&Intel資料來源：IDC，長江證券研究所請閱讀最后評級說明和重要聲明半導體制造技術不易獲得，需要與頂級的代工廠建立合作關系。這些壁壘共同維護了持并行處理和高吞吐量計算，這要求精細的工程設計來平衡性能和功耗。設計者必須精通復雜的計算圖形學和并行計算理論，確保GPU能夠有效地執(zhí)行圖形渲以適應從移動設備到超級計算機的不同應用場景。散熱管理也是設計中的一個挑要不斷創(chuàng)新以支持新興技術，如光線追蹤、AI資料來源：英偉達官網，長江證券研究所能夠充分利用GPU硬件性能的開發(fā)環(huán)境。這需要提供強大的編程模型、豐富的必須支持多平臺、多語言和多種計算框架。此外，構建一個充滿活力的開發(fā)者社請閱讀最后評級說明和重要聲明6050403020020202023nCUDA下載量資料來源：英偉達官網，長江證券研究所英偉達的成功不僅源于其在GPU硬件架構上的技84%84%80%88%資料來源：JPR，長江證券研究所n英偉達英特爾AMD資料來源：IDC，長江證券研究所請閱讀最后評級說明和重要聲明AI揚帆，巨龍展翅——英偉達踏上宏偉航路請閱讀最后評級說明和重要聲明第一階段16nm12nm716nm12nm7nm第二階段4nm汽車芯片4nm汽車芯片Thor2000TOPS第三階段3/2nm泛AI3/2nm28nm均以AI為內核數(shù)據中心元宇宙自動駕駛數(shù)字孿生70,00060,00050,00040,00030,00020,00010,0000汽車芯片Orin汽車芯片VoltaXavier30TOPSGraceCPU汽車芯片VoltaXavier30TOPSGraceCPUBlueField3DPUBlackwell計算卡B100/B200Hopper計算卡H10060TFLOPSVoltaAmpere計算卡A10019.5TFLOPSPascall計算卡P100HBM2RTX20系列推出光追技術PascallGTX10系列BlueField2BlueField3DPUBlackwell計算卡B100/B200Hopper計算卡H10060TFLOPSVoltaAmpere計算卡A10019.5TFLOPSPascall計算卡P100HBM2RTX20系列推出光追技術PascallGTX10系列BlueField2DPU汽車芯片Parker汽車芯片TegraX1計算卡V10016.4TFLOPSAdaLovelaceRTX40系列TurningAmpereRTX30系列MaxcellGTX900系列FY2014FY2015FY2016FYFY2014FY2015FY2016FY2017FY2018FY2019FY2020FY2021FY2022FY2023FY2024140%120%100%80%60%40%20%0%-20%數(shù)據中心游戲專業(yè)設計與可視化解決方案OEM&IP汽車總收入YoY（右軸）資料來源：Anandtech，英偉達官網，Thinkcomputers，快科技，長江證券研究所（注：算力大小均取系列產品中單精度計算性能的較大值）三重壁壘聯(lián)動+螺旋提升打造AI全棧體系，系請閱讀最后評級說明和重要聲明資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所軟件：在軟件方面，英偉達提供了CUDA限，以推動自動駕駛汽車的發(fā)展。量子計算生態(tài)系統(tǒng)則與多家合作伙伴建立了合資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所動了人工智能、自動駕駛汽車、量子計算等多個領域的請閱讀最后評級說明和重要聲明視頻流、社交媒體……數(shù)據持續(xù)高增，算力需求遠超現(xiàn)存多芯配合算力迭代突破硬件摩爾定律限制數(shù)據三芯戰(zhàn)略多芯互聯(lián)瓶頸打開算力上限硬件層互聯(lián)網絡AI發(fā)展關鍵瓶頸算力、功耗、體積與成本以及如何發(fā)揮軟硬件強耦合充分發(fā)揮硬件優(yōu)勢AI芯片應用軟件軟件層下沉應用層提供更完整解決方案行業(yè)應用軟件從消費到數(shù)據基建再到AI完整領域視頻流、社交媒體……數(shù)據持續(xù)高增，算力需求遠超現(xiàn)存多芯配合算力迭代突破硬件摩爾定律限制數(shù)據三芯戰(zhàn)略多芯互聯(lián)瓶頸打開算力上限硬件層互聯(lián)網絡AI發(fā)展關鍵瓶頸算力、功耗、體積與成本以及如何發(fā)揮軟硬件強耦合充分發(fā)揮硬件優(yōu)勢AI芯片應用軟件軟件層下沉應用層提供更完整解決方案行業(yè)應用軟件從消費到數(shù)據基建再到AI完整領域GPUGPUDPUCPUDOCAOmniverseDOCAOmniverseNVlinkConnectXCUDAAIEnterprise游戲應用層數(shù)據中心自動駕駛算法經歷超半世紀發(fā)展主流模型逐步成熟專業(yè)視覺游戲應用層數(shù)據中心自動駕駛算法經歷超半世紀發(fā)展主流模型逐步成熟專業(yè)視覺生產力數(shù)字孿生數(shù)字孿生元宇宙元宇宙社會效益資料來源：長江證券研究所AI服務器的首選加速方案。超算中心的市場份額超過70%，AI加速卡的市場份額請閱讀最后評級說明和重要聲明推出時間202220202018Ampere------成---D-1標準顯存配置資料來源：英偉達官網，Techhpowerup，長江證券研究所資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所請閱讀最后評級說明和重要聲明2022年，英偉達推出Hopper架構，其代表了NV運算而設計，能夠顯著提升深度學習訓練和推理的性能；Hopper架構還實現(xiàn)了與推出時間20162017架構Pascal雙精度（TFLOPS）5.37.8顯存帶寬（GB/s）732互聯(lián)方式NVLink/PCIe3.0互聯(lián)帶寬最大功耗300W資料來源：英偉達官網，長江證券研究所Blackwell架構的優(yōu)勢在于其強大的并行處理能資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所請閱讀最后評級說明和重要聲明數(shù)據中心中網絡、存儲和安全等基礎設施任務的高效處理。此外，DPU支持先進的RDMA技術，提供低延遲和高吞吐量的網絡性能，并通過集成的AI和機器學習加速器資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所ARM是全球領先的半導體知識產權（IP）提供商，其架構廣泛應用于移在能效和設計靈活性方面的優(yōu)勢，以及英偉達在GPU和AI技術上的領先地位，共同開發(fā)新一代計算平臺。然而，這筆交易面臨了全球反壟斷監(jiān)管機構的嚴格審延遲的計算性能。GraceCPU與英偉達的HopperGPU系列相結合，可以構成請閱讀最后評級說明和重要聲明模型，特別適合于需要處理大量并行任務的高性能計算資料來源：CSDN，長江證券研究所資料來源：CSDN，長江證券研究所英偉達的軟件體系可以分為基礎架構層和應用工具層，其中基礎架構層主要是CU請閱讀最后評級說明和重要聲明資料來源：英偉達官網，長江證券研究所資料來源：CSDN，長江證券研究所請閱讀最后評級說明和重要聲明 優(yōu)勢CUDA能夠顯著提升計算性能，特別適用于需要大量數(shù)CUDA提供了類似于C語言的編程接口CUDA提供了包括性能分析工具、調試器以及樣例代碼資料來源：CSDN，長江證券研究所資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所的一種API)、滿足不同領域開發(fā)者編請閱讀最后評級說明和重要聲明集(GDB、Nsight.Memcheck等)、第三方工具和軟件庫(和用資料來源：英偉達官網，長江證券研究所資料來源：英偉達官網，長江證券研究所能夠滿足企業(yè)對性能、安全性、可管理等越來越高的需求，英偉達DOCA是專為請閱讀最后評級說明和重要聲明資料來源：英偉達官網，長江證券研究所Enterprise是一套端到端的云開發(fā)時間從80周縮短到僅8周，并允許客戶在VMwarevSphere上部署和管理高資料來源：英偉達官網，長江證券研究所請閱讀最后評級說明和重要聲明資料來源：英偉達官網，長江證券研究所英偉達2025財年第一季度實現(xiàn)了顯著的增長，期間單季度收入達到了260.44億美請閱讀最后評級說明和重要聲明300250200500Q4Q42015Q22016Q42016Q22017Q42017Q22018Q42018Q22019Q42019Q22020Q42020Q22021Q42021Q22022Q42022Q22023Q42023Q22024Q42024300%250%200%150%100%50%0%-50%主營業(yè)務收入YoY（右軸）QoQ（右軸）資料來源：Bloomberg，長江證券研究所80402001400%1200%1000%800%600%400%200%0%-200%-400%Q1Q12016Q32016Q12017Q32017Q12018Q32018Q12019Q32019Q12020Q32020Q12021Q32021Q12022Q32022Q12023Q32023Q12024Q32024Q12025GAAP凈利潤YoY（右軸）QoQ（右軸）資料來源：Bloomberg，長江證券研究所領域，英偉達的業(yè)務收入在2024財年達到了增長426.7%，顯示出英偉達在數(shù)據中心領域的強勁動力和250200500450%400%350%300%250%200%150%100%50%0%-50%1Q151Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25數(shù)據中心YoY（右軸）資料來源：Bloomberg，長江證券研究所1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25100%90%80%70%1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25資料來源：Bloomberg，長江證券研究所請閱讀最后評級說明和重要聲明403530252050120%100%80%60%40%20%0%-20%-40%-60%1Q151Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25游戲YoY（右軸）資料來源：Bloomberg，長江證券研究所1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q2570%60%50%40%1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25資料來源：Bloomberg，長江證券研究所765432101Q153Q151Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25200%150%100%50%0%-50%-100%專業(yè)可視化YoY（右軸）資料來源：Bloomberg，長江證券研究所1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q2520%1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25資料來源：Bloomberg，長江證券研究所提供了強大的計算能力。根據英偉達2025財年第一季度的請閱讀最后評級說明和重要聲明3.5 2.5 1.5 0.501Q153Q151Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25150%100%50%0%-50%-100%mm自動駕駛oYoY（右軸）資料來源：Bloomberg，長江證券研究所1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q259%8%7%6%5%4%3%1Q153Q151Q163Q161Q173Q171Q183Q181Q193Q191Q203Q201Q213Q211Q223Q221Q233Q231Q243Q241Q25資料來源：Bloomberg，長江證券研究所季度環(huán)比增長1.99pct，這一顯著的增長反映了公司在高利潤的數(shù)據中心80.0%70.0%60.0%50.0%40.0%30.0%20.0%10.0%0.0%3Q153Q153Q163Q173Q183Q193Q203Q213Q223Q233Q24毛