AI算力芯片市場(chǎng)分析

AI算力芯片市場(chǎng)分析一、AI處史上最長(zhǎng)繁榮期，算力國(guó)產(chǎn)化需求迫切AI正處史上最長(zhǎng)繁榮大周期人工智能從1956年被正式提出以來(lái)，經(jīng)歷了數(shù)十年的發(fā)展歷程。人工智能誕生初期，其研究主要分為三個(gè)流派，即邏輯演繹、歸納統(tǒng)計(jì)和類腦計(jì)算。人工智能研究的三大流派各有優(yōu)劣勢(shì)。類腦計(jì)算流派的目標(biāo)最為宏遠(yuǎn)，但在未得到生命科學(xué)的支撐之前，難以取得實(shí)際應(yīng)用。歸納演繹流派的思考方式與人類相似，具有較強(qiáng)的可解釋性。由于對(duì)數(shù)據(jù)和算力的依賴較少，歸納演繹流派成為人工智能前兩次繁榮的主角。隨著學(xué)界對(duì)人工智能困難程度的理解逐漸加深，數(shù)理邏輯方法的局限性被不斷放大，并最終在第三次繁榮期中，逐漸讓位于統(tǒng)計(jì)學(xué)習(xí)的“暴力美學(xué)”。在進(jìn)入21世紀(jì)以來(lái)，在大數(shù)據(jù)和大算力的支持下，歸納統(tǒng)計(jì)方法逐漸占據(jù)了人工智能領(lǐng)域的主導(dǎo)地位，深度學(xué)習(xí)的浪潮席卷人工智能，人工智能迎來(lái)史上最長(zhǎng)的第三次繁榮期，至今仍未有結(jié)束的趨勢(shì)。智能算力規(guī)模將快速增長(zhǎng)復(fù)雜的模型和大規(guī)模的訓(xùn)練需要大規(guī)模的高算力支持，這不僅需要消耗大量計(jì)算資源，而且對(duì)算力的速度、精度、性能也提出更高要求。市場(chǎng)對(duì)于更高性能的智能算力需求將顯著提升，智能算力增長(zhǎng)速率約通用算力的兩倍。據(jù)IDC和浪潮信息測(cè)算，2022年中國(guó)通用算力規(guī)模達(dá)54.5EFLOPS，預(yù)計(jì)到2027年通用算力規(guī)模將達(dá)到117.3EFLOPS。2022年中國(guó)智能算力規(guī)模達(dá)259.9EFLOPS，預(yù)計(jì)到2027年將達(dá)到1117.4EFLOPS。2022-2027年期間，中國(guó)智能算力規(guī)模年復(fù)合增長(zhǎng)率達(dá)33.9%，同期通用算力規(guī)模年復(fù)合增長(zhǎng)率為16.6%。AI服務(wù)器需求旺盛從感知智能到生成式智能，人工智能越來(lái)越需要依賴“強(qiáng)算法、高算力、大數(shù)據(jù)”的支持。模型的大小、訓(xùn)練所需的參數(shù)量等因素將直接影響智能涌現(xiàn)的質(zhì)量，人工智能模型需要的準(zhǔn)確性越高，訓(xùn)練該模型所需的計(jì)算力就越高。IDC預(yù)計(jì)，全球人工智能硬件市場(chǎng)（服務(wù)器）規(guī)模將從2022年的195億美元增長(zhǎng)到2026年的347億美元，五年年復(fù)合增長(zhǎng)率達(dá)17.3%；在中國(guó)，預(yù)計(jì)2023年中國(guó)人工智能服務(wù)器市場(chǎng)規(guī)模將達(dá)到91億美元，同比增長(zhǎng)82.5%，2027年將達(dá)到134億美元，五年年復(fù)合增長(zhǎng)率達(dá)21.8%。二、AI技術(shù)收斂，GPU主宰算力芯片AI芯片架構(gòu)眾多AI芯片根據(jù)其技術(shù)架構(gòu)，可分為GPU、FPGA、ASIC及類腦芯片，同時(shí)CPU可執(zhí)行通用AI計(jì)算。相較于傳統(tǒng)的中央處理器（CPU），GPU具有并行計(jì)算、高效能和高并發(fā)等優(yōu)勢(shì)，因此在人工智能、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘等領(lǐng)域得到廣泛應(yīng)用。AI芯片根據(jù)其在網(wǎng)絡(luò)中的位置可以分為云端AI芯片、邊緣及終端AI芯片；根據(jù)其在實(shí)踐中的目標(biāo)，可分為訓(xùn)練芯片和推理芯片。云端主要部署訓(xùn)練芯片和推理芯片，承擔(dān)訓(xùn)練和推理任務(wù)，具體指智能數(shù)據(jù)分析、模型訓(xùn)練任務(wù)和部分對(duì)傳輸帶寬要求比高的推理任務(wù)；邊緣和終端主要部署推理芯片，承擔(dān)推理任務(wù)，需要獨(dú)立完成數(shù)據(jù)收集、環(huán)境感知、人機(jī)交互及部分推理決策控制任務(wù)。GPU與深度學(xué)習(xí)技術(shù)相契合GPU設(shè)計(jì)之初用于對(duì)圖形進(jìn)行渲染，需要并行處理海量數(shù)據(jù)，涉及大量矩陣運(yùn)算。深度學(xué)習(xí)依賴于數(shù)學(xué)和統(tǒng)計(jì)學(xué)計(jì)算，所以圖形渲染與深度學(xué)習(xí)有著相似之處，這兩種場(chǎng)景都需要處理每秒大量的矩陣乘法運(yùn)算。GPU擁有數(shù)千個(gè)內(nèi)核的處理器，能夠并行執(zhí)行數(shù)百萬(wàn)個(gè)數(shù)學(xué)運(yùn)算。因此GPU完美地與深度學(xué)習(xí)技術(shù)相契合。使用GPU做輔助計(jì)算，能夠更快地提高AI的性能。CPU+GPU是人工智能異構(gòu)計(jì)算的主要組合形式異構(gòu)計(jì)算仍然是芯片發(fā)展趨勢(shì)之一。異構(gòu)計(jì)算通過(guò)在單一系統(tǒng)中利用不同類型的處理器（如CPU、GPU、ASIC、FPGA、NPU等）協(xié)同工作，執(zhí)行特定任務(wù)，以優(yōu)化性能和效率，更高效地利用不同類型的計(jì)算資源，滿足不同的計(jì)算需求。得益于硬件支持與軟件編程、設(shè)計(jì)方面的優(yōu)勢(shì)，CPU+GPU成為了目前應(yīng)用最廣泛的平臺(tái)。截至2023年10月，中國(guó)市場(chǎng)普遍認(rèn)為“CPU+GPU”的異構(gòu)方式是人工智能異構(gòu)計(jì)算的主要組合形式。三、“AI信創(chuàng)”驅(qū)動(dòng)，培育國(guó)產(chǎn)算力生態(tài)GPU行業(yè)需跨越CUDA橫亙英偉達(dá)CUDA已經(jīng)實(shí)現(xiàn)了與算法工程師、芯片客戶的強(qiáng)綁定，眾多算法工程師已經(jīng)習(xí)慣了一套工具庫(kù)、一套編程語(yǔ)言，向外遷移存在不習(xí)慣等問(wèn)題。所以很多算力芯片硬件廠商選擇了兼容CUDA的路線——使硬件能夠直接用CUDA調(diào)動(dòng)起來(lái)，以降低用戶的硬件遷移痛點(diǎn)。兼容CUDA需要巨大時(shí)間和成本投入。據(jù)集微網(wǎng)，兼容CUDA涉及50個(gè)驅(qū)動(dòng)、50個(gè)編譯器、50個(gè)數(shù)學(xué)庫(kù)、300個(gè)應(yīng)用層工程師，3-5年的時(shí)間。功能的驗(yàn)證，用戶的培養(yǎng)需要額外3-5年，每年還要至少開支1000萬(wàn)-3000萬(wàn)元資助外部開發(fā)者。從頭部AI廠商布局來(lái)看，英偉達(dá)競(jìng)爭(zhēng)者AMD選擇兼容CUDA+自研原生“兩條腿”并行，英偉達(dá)客戶谷歌、Meta、亞馬遜等均已推出自己的AI芯片。我們認(rèn)為，國(guó)產(chǎn)GPU在起步階段兼容CUDA生態(tài)更容易發(fā)展，易于生存。在美國(guó)技術(shù)封鎖的大背景之下，“AI信創(chuàng)”為國(guó)產(chǎn)算力芯片提供了市場(chǎng)窗口，遠(yuǎn)期國(guó)產(chǎn)GPU還是需要發(fā)展原生生態(tài)。國(guó)產(chǎn)算力有待提升當(dāng)下諸多國(guó)內(nèi)本土芯片技術(shù)儲(chǔ)備和生態(tài)能力仍圍繞小模型時(shí)代的識(shí)別式人工智能展開，難以匹配大模型和生成式人工智能發(fā)展所需的軟件生態(tài)、模型框架、性能需求，因此本土人工智能芯片仍需在發(fā)展、繼承和競(jìng)爭(zhēng)中成長(zhǎng)。在中美脫鉤的時(shí)代背景下，國(guó)產(chǎn)算力芯片正經(jīng)歷“可用”到“好用”的階段，國(guó)產(chǎn)算力芯片整體實(shí)力有待提升。從生態(tài)成熟度來(lái)看，我們認(rèn)為，華為海思和海光信息有望率先替代英偉達(dá)算力芯片。受益于華為ICT行業(yè)的領(lǐng)先地位，昇騰系列將獲得從芯片設(shè)計(jì)、芯片制造、算力部署、應(yīng)用生態(tài)的全方位支持，有更大概率成為主流國(guó)產(chǎn)算力芯片。四、HBM解決GPU內(nèi)存危機(jī)，成為存儲(chǔ)下一主戰(zhàn)場(chǎng)AI算力刺激更多存儲(chǔ)器用量AI服務(wù)器存儲(chǔ)容量倍增，帶動(dòng)存儲(chǔ)器需求成長(zhǎng)。據(jù)TrendForce，AI服務(wù)器需要配置更多DRAM、SSD和HBM等大容量存儲(chǔ)以應(yīng)對(duì)日益復(fù)雜的大模型所帶來(lái)的海量數(shù)據(jù)。當(dāng)前普通服務(wù)器DRAM普遍配置約為500至600GB，而AI服務(wù)器DRAM配置可達(dá)1.2至1.7TB，是普通服務(wù)器的二到三倍。此外，相較于一般服務(wù)器而言，AI服務(wù)器多增加GPGPU的使用，因此以NVIDIAA10080GB配置4或8張計(jì)算，HBM用量約為320~640GB。未來(lái)在AI模型逐漸復(fù)雜化的趨勢(shì)下，將刺激更多的存儲(chǔ)器用量，并同步帶動(dòng)ServerDRAM、SSD以及HBM的需求成長(zhǎng)。HBM解決GPU內(nèi)存危機(jī)處理器的性能按照摩爾定律規(guī)劃的路線不斷飆升，內(nèi)存所使用的DRAM卻從工藝演進(jìn)中獲益很少，性能提升速度遠(yuǎn)慢于處理器速度，造成了DRAM的性能成為制約計(jì)算機(jī)性能的一個(gè)重要瓶頸，即所謂的“內(nèi)存墻”。HBM成為增加存儲(chǔ)器帶寬的路徑之一，以解決大數(shù)據(jù)時(shí)代下的“內(nèi)存墻”問(wèn)題。HBM（HighBandwidthMemory）即高帶寬存儲(chǔ)器，按照J(rèn)EDEC的分類，HBM屬于GDDR內(nèi)存的一種，其通過(guò)使用先進(jìn)的封裝方法（如TSV硅通孔技術(shù)）垂直堆疊多個(gè)DRAM，并與GPU封裝在一起。HBM主要優(yōu)勢(shì)是在高帶寬和低功耗領(lǐng)域，應(yīng)用場(chǎng)景以配合并行計(jì)算的GPU和ASIC芯片為主。HBM供不應(yīng)求AI創(chuàng)造純?cè)隽渴袌?chǎng)，HBM需求量年增近六成。目前高端AI服務(wù)器GPU搭載HBM已成主流，TrendForce預(yù)估2023年全球HBM需求量將年增近六成，來(lái)到2.9億GB，2024年將再成長(zhǎng)三成。根據(jù)MordorIntelligence，2020年HBM市場(chǎng)價(jià)值為10.68億美元，預(yù)計(jì)到2026年將達(dá)到40.89億美元，在2021-2026年預(yù)測(cè)期間的復(fù)合年增長(zhǎng)率為25.4%。HBM頭部企業(yè)SK海力士在2023年7月表示，目前其HBM的銷量占比還不足營(yíng)收1%，但2023年銷售額占比有望成長(zhǎng)到10%，同時(shí)預(yù)計(jì)在2024年應(yīng)用于AI服務(wù)器的HBM和DDR5的銷量將翻一番。2023年10月，SK海力士表示，已經(jīng)在2023年出售了明年HBM3和HBM3E的所有產(chǎn)量。五、異構(gòu)計(jì)算時(shí)代，先進(jìn)封裝戰(zhàn)略地位凸顯異構(gòu)計(jì)算時(shí)代，先進(jìn)封裝戰(zhàn)略地位凸顯異構(gòu)集成（HeterogeneousIntegration），即橫向和縱向連接多個(gè)半導(dǎo)體，可將更多的晶體管裝在一個(gè)更小的半導(dǎo)體上，準(zhǔn)確地說(shuō)是在更小的半導(dǎo)體封裝內(nèi)，從而提供比其各部分之和更大的功用。CPU+GPU是人工智能異構(gòu)計(jì)算的主要組合形式，英偉達(dá)的GraceHopper超級(jí)芯片通過(guò)異構(gòu)集成CPU、GPU以及存儲(chǔ)器，實(shí)現(xiàn)芯片更高帶寬的互連，能夠承擔(dān)更大的數(shù)據(jù)集、更復(fù)雜的模型和新的工作負(fù)載。先進(jìn)封裝成為突破“摩爾定律”局限的技術(shù)。先進(jìn)封裝技術(shù)充當(dāng)著半導(dǎo)體器件與系統(tǒng)之間的橋梁，是實(shí)現(xiàn)異構(gòu)集成的關(guān)鍵技術(shù)，因此，這種連接方法變得越來(lái)越重要。先進(jìn)封裝技術(shù)本身已成為一種系統(tǒng)解決方案，半導(dǎo)體頭部設(shè)計(jì)、制造商均通過(guò)此方法，在摩爾定律放緩的時(shí)代，從系統(tǒng)層面繼續(xù)提升芯片性能。順應(yīng)AI算力芯片發(fā)展，封裝技術(shù)持續(xù)創(chuàng)新自2020年開始，先進(jìn)封裝進(jìn)入技術(shù)融合期，成為關(guān)鍵的系統(tǒng)級(jí)解決方案。不僅需要借助多項(xiàng)技術(shù)將各類芯片集成到同一封裝內(nèi)，還需要在整合系統(tǒng)時(shí)將多個(gè)部分連接至同一模塊。AI計(jì)算芯片融合了多項(xiàng)先進(jìn)封裝技術(shù)，HBM應(yīng)用TSV堆疊技術(shù)獲得超高帶寬，而為了將HBM和GPU集成，CoWoS封裝技術(shù)被深度開發(fā)。因此，封裝技術(shù)將成為提供整體系統(tǒng)解決方案的重要手段。海力士判斷，未來(lái)各公司將依賴封裝技術(shù)助力其成為半導(dǎo)體行業(yè)的領(lǐng)軍者。順應(yīng)AI算力芯片發(fā)展，封裝技術(shù)持續(xù)創(chuàng)新隨著封裝技術(shù)的發(fā)展，近十年中，重新分配層（RDL）、倒片封裝（FlipChip）和硅穿孔（TSV）等封裝技術(shù)得到了積極廣泛的應(yīng)用，在硅晶圓或芯片堆疊結(jié)構(gòu)晶圓中進(jìn)行工藝處理，大幅提高了產(chǎn)品的性能和容量。SK海力士憑借業(yè)界領(lǐng)先的TSV堆疊技術(shù)引領(lǐng)了市場(chǎng)發(fā)展，這其中包括HBM封裝存儲(chǔ)器解決方案，以及用于服務(wù)器的高密度存儲(chǔ)器（HDM）三維堆疊技術(shù)。同時(shí)，海力士持續(xù)迭代封裝技術(shù)，研發(fā)了批量回流模制底部填充、混合鍵合、扇出型晶圓級(jí)封裝等技術(shù)，以進(jìn)一步提升了HBM的堆疊層數(shù)。六、電源技術(shù)提升計(jì)算能效，背面供電蓄勢(shì)待發(fā)AI算力對(duì)高效電源提出新需求據(jù)高性能電源解決方案供應(yīng)商MPS測(cè)算，云計(jì)算領(lǐng)域的電源市場(chǎng)規(guī)模增長(zhǎng)迅速，從2015年8億美元，至2021年增長(zhǎng)四倍，達(dá)到40億美元。云計(jì)算模擬電源市場(chǎng)由CPU服務(wù)器電路、GPU服務(wù)器電路、機(jī)架電路構(gòu)成，市場(chǎng)規(guī)模分別為10億美元、10億美元、20億美元。CPU服務(wù)器中，CPU供電、存儲(chǔ)器供電、PoL（負(fù)載點(diǎn)）供電、eFuse（電子保險(xiǎn)絲）市場(chǎng)規(guī)模分別為6億、2.8億美元、0.6億美元、0.6億美元。服務(wù)器電源架構(gòu)轉(zhuǎn)向48V48V直流供電能夠降低服務(wù)器配電損耗。據(jù)松下測(cè)試結(jié)果，計(jì)算配電路徑的電阻為0.1mΩ時(shí)的配電損耗，12V時(shí)為100W，48V時(shí)為6.25W，會(huì)出現(xiàn)16倍的計(jì)算差異。在各家公司都在積極致力于節(jié)省電力消耗中，谷歌公司于2016年率先引入了48V直流供電的手法。算力電路的供電設(shè)計(jì)擁有較高壁壘典型48V電源架構(gòu)包含一個(gè)AC/DC前端，負(fù)責(zé)生成48V直流電。該直流電會(huì)被輸送至DC/DC變換器，在這里電壓被轉(zhuǎn)