科技行業(yè)專題研究：AI智算時(shí)代已至算力芯片加速升級(jí)

AI智算時(shí)代已至，算力芯片加速升級(jí)《AI大模型開啟新一輪大國(guó)競(jìng)爭(zhēng)，半導(dǎo)體戰(zhàn)略地位凸顯》分析師：劉牧野股市有風(fēng)險(xiǎn)入市需謹(jǐn)慎中航證券研究所發(fā)布證券研究報(bào)告請(qǐng)務(wù)必閱讀正文后的免責(zé)條款部分式計(jì)算的市場(chǎng)主要由算力芯片(55-75%)、內(nèi)存(10-20%)和互聯(lián)設(shè)備（10-20%）三部分組成。美國(guó)已限制對(duì)華銷售最先進(jìn)、使用最廣泛的AI訓(xùn)練IDC預(yù)測(cè)，全球CoWoS供需缺口約20目錄目錄AI正處史上最長(zhǎng)繁榮大周期AI正處史上最長(zhǎng)繁榮大周期派，即邏輯演繹、歸納統(tǒng)計(jì)和類腦計(jì)算。目標(biāo)最為宏遠(yuǎn)，但在未得到生命科學(xué)的支撐之前，難以取得實(shí)際應(yīng)用。歸納演繹流派的思考方式與人類相似，具有較強(qiáng)的可解釋性。由于對(duì)數(shù)據(jù)和算力的依賴較少，歸納演繹流派成為人工智能前兩次繁榮的主角。隨著學(xué)界對(duì)人工智能困難程度的理解逐漸加深，數(shù)理邏輯方法的局限性被不斷放大，并最終在第三次繁榮期中，逐漸讓位于統(tǒng)計(jì)學(xué)習(xí)的“暴力美學(xué)”。統(tǒng)計(jì)方法逐漸占據(jù)了人工智能領(lǐng)域的主導(dǎo)地位，深度學(xué)AI生態(tài)加速收斂AI生態(tài)加速收斂智能算力規(guī)模將快速增長(zhǎng)智能算力規(guī)模將快速增長(zhǎng)2022-2027年期間，中國(guó)智能算力規(guī)模年復(fù)合增長(zhǎng)率達(dá)33.9%，同期通用算力規(guī)模年復(fù)合增AI服務(wù)器需求旺盛AI服務(wù)器需求旺盛年的195億美元增長(zhǎng)到2026年的347億美元，五年年復(fù)合增長(zhǎng)率達(dá)17.2023年10月《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)2023年10月《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》算力規(guī)模超過(guò)300EFLOPS，智能算力占比達(dá)到35%，東西部算力2023年12月《深圳市算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》到2025年，通用算力達(dá)到14EFLOPS（FP32），智能算力達(dá)到25EFLOPS（FP16），超算算力達(dá)到2EFLOPS（FP64）。全國(guó)推進(jìn)算力建設(shè)，加大算力投資2023年4月2023年4月《上海市推進(jìn)算力資源統(tǒng)一調(diào)度指導(dǎo)意見》到2023年，可調(diào)度智能算力達(dá)到1000PFLOPS（FP16）以上；到2025年，本市數(shù)據(jù)中心算力超過(guò)18000PFLOPS（FP32）算力、存儲(chǔ)、網(wǎng)絡(luò)構(gòu)建智算中心基礎(chǔ)算力、存儲(chǔ)、網(wǎng)絡(luò)構(gòu)建智算中心基礎(chǔ)集群為載體，而當(dāng)前算法模型的發(fā)展趨勢(shì)以AI大模型為代表。資料來(lái)源：國(guó)家信息中心《智能計(jì)算中心創(chuàng)新發(fā)展指南》系統(tǒng)芯片：CPU推理芯片GPU、ASIC、FPGA算力芯片主導(dǎo)AI計(jì)算市場(chǎng)系統(tǒng)芯片：CPU推理芯片GPU、ASIC、FPGA算力芯片主導(dǎo)AI計(jì)算市場(chǎng)算力芯片訓(xùn)練芯片：訓(xùn)練芯片：GPU、ASIC、FPGA邊緣推理：邊緣推理：GPU、SoC、AppleSilicon存儲(chǔ)芯片集成算力與存力，先進(jìn)封裝產(chǎn)能緊缺集成算力與存力，先進(jìn)封裝產(chǎn)能緊缺AI算力對(duì)高效電源提出新需求AI算力對(duì)高效電源提出新需求國(guó)外國(guó)外國(guó)內(nèi)國(guó)外國(guó)內(nèi)甬矽電子興森科技、聯(lián)瑞新材、生國(guó)外國(guó)內(nèi)源算力產(chǎn)業(yè)鏈面臨國(guó)產(chǎn)化機(jī)會(huì)和挑戰(zhàn)國(guó)外國(guó)內(nèi)技目錄目錄AI芯片架構(gòu)眾多AI芯片架構(gòu)眾多行計(jì)算、高效能和高并發(fā)等優(yōu)勢(shì)，因此在人工智能、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘等領(lǐng)域得到廣泛應(yīng)用。 芯片架構(gòu)芯片特點(diǎn)CPU的通用架構(gòu)設(shè)計(jì)使運(yùn)行效率受限。當(dāng)前CPU雖然在機(jī)器學(xué)習(xí)領(lǐng)域的計(jì)算大大減少,但是 CPU的通用架構(gòu)設(shè)計(jì)使運(yùn)行效率受限。當(dāng)前CPU雖然在機(jī)器學(xué)習(xí)領(lǐng)域的計(jì)算大大減少,但是 TPU/ASIC當(dāng)前為谷歌公司專用,還不是市像FPGA很快改變架構(gòu),適應(yīng)變化,谷歌L5模仿人腦神經(jīng)元和神經(jīng)突觸的結(jié)構(gòu),功耗非常低。有可能實(shí)現(xiàn)人工智能領(lǐng)域的通用化路徑,寬寬AI算力路線向GPU收斂AI算力路線向GPU收斂注意力層和前饋神經(jīng)網(wǎng)絡(luò)層組成，這種設(shè)計(jì)使得它在構(gòu)造大型型，算力芯片技術(shù)路線也向適合并行計(jì)算的GPU收斂。達(dá)到萬(wàn)卡級(jí)別。因此，出于對(duì)大模型的訓(xùn)練需求，市場(chǎng)選擇了GPU作為主流的算力芯片。據(jù)IDC，在中國(guó)人工智能芯片市場(chǎng)，異構(gòu)方式是人工智能異構(gòu)計(jì)算的主要組合形式。鏈需要長(zhǎng)時(shí)間積累，目前難以繞過(guò)CUDA去兼容英偉達(dá)的生態(tài)，所以CUDA成為了英偉達(dá)的堅(jiān)效應(yīng)，微軟和英特爾在市場(chǎng)獲得巨大優(yōu)勢(shì)。在AI大模型時(shí)代，軟硬件協(xié)同完善的生態(tài)是客戶選擇CUDA的原因，英偉達(dá)打造的GPU運(yùn)算生態(tài)系統(tǒng)已擁有龐大的使用群體和客戶粘性，英偉達(dá)算力王者的地位仍然穩(wěn)健。庫(kù)件應(yīng)用應(yīng)用剖析和除剖析和除錯(cuò)工具GPUGPU應(yīng)用程序程序語(yǔ)言程序語(yǔ)言和APIGPUGPU硬件程序庫(kù)程序庫(kù)資料中心資料中心工具優(yōu)勢(shì)和創(chuàng)新，可以為AI計(jì)算提供高性能、高并行度、高可擴(kuò)展性和高能效等特點(diǎn)，滿足大規(guī)模數(shù)據(jù)處理和復(fù)雜模型訓(xùn)練的需求。因此，英偉達(dá)的增速分別高達(dá)171%、285%。英偉達(dá)芯片進(jìn)口受限，國(guó)產(chǎn)算力需求迫切英偉達(dá)芯片進(jìn)口受限，國(guó)產(chǎn)算力需求迫切9月，美國(guó)芯片巨頭英偉達(dá)收到美國(guó)官方通知，若對(duì)中國(guó)和俄羅斯的客戶出口兩款高端GPU芯片——A100和H100，需要出口合規(guī)限制。美國(guó)商務(wù)部長(zhǎng)雷蒙多表示，管制目的就是遏制中國(guó)獲得先進(jìn)芯片，從而阻礙中國(guó)「人工智能和復(fù)雜計(jì)算服務(wù)，從而在這場(chǎng)競(jìng)爭(zhēng)中擁有先發(fā)權(quán)。隨著一系列英偉達(dá)算力供給縮水動(dòng)作，使得國(guó)內(nèi)市場(chǎng)上已有的英偉達(dá)系列顯卡進(jìn)務(wù)和NVIDIAAIEnterprise軟件都是全速增長(zhǎng)的引擎。因此，英龍芯中科表：英偉達(dá)國(guó)產(chǎn)替代產(chǎn)品產(chǎn)品型號(hào)理論對(duì)標(biāo)英偉達(dá)產(chǎn)品一一一一一目錄目錄所以很多算力芯片硬件廠商選擇了兼容CUDA的路線——使對(duì)標(biāo)英偉達(dá)GPU15254715對(duì)標(biāo)英特爾CPU35151515型框架、性能需求，因此本土人工智能芯片仍需在發(fā)展、繼承和競(jìng)爭(zhēng)中成長(zhǎng)。在中美脫鉤的時(shí)代背景下，國(guó)產(chǎn)算力芯片正經(jīng)歷“可用”到“好用”芯片制造、算力部署、應(yīng)用生態(tài)的全方位支持，有更大概率英偉達(dá)英偉達(dá)華為海思海光信息寒武紀(jì)摩爾線程-------23--1-----昇思MindSpore原生支持預(yù)訓(xùn)練大模型開發(fā),已在中國(guó)Omdia在對(duì)人工智能開發(fā)者的調(diào)研中發(fā)現(xiàn),在所有主流人工智能框架中,TensorFl圖：TensorFlow和MindSpore對(duì)“負(fù)責(zé)任的人工智能”提供的支持能力最好華為：打造全棧AI軟硬件平臺(tái)，構(gòu)筑國(guó)產(chǎn)智能華為：打造全棧AI軟硬件平臺(tái)，構(gòu)筑國(guó)產(chǎn)智能對(duì)標(biāo)英偉達(dá)GPU華為：引領(lǐng)國(guó)內(nèi)AI芯片發(fā)展華為：引領(lǐng)國(guó)內(nèi)AI芯片發(fā)展段，在智能計(jì)算中心的建設(shè)過(guò)程中，投-建-運(yùn)使用華為昇騰人工智能計(jì)算系統(tǒng)作為底層技設(shè)計(jì)企業(yè)?；趚86指令框架、“類CUDA”計(jì)算環(huán)境和國(guó)際先進(jìn)處理器設(shè)二號(hào)于2023Q3發(fā)布，深算三號(hào)研發(fā)進(jìn)展順利。產(chǎn)品類型處理器種類指令集主要產(chǎn)品產(chǎn)品特征典型應(yīng)用場(chǎng)景兼容x86指令集海光3000系列算和事務(wù)處理等通用型應(yīng)用海光5000系列海光7000系列海光8000系列GPU上編程模型使用的是HIP或者OpenCL，運(yùn)行環(huán)境是ROCm。英偉達(dá)顯卡上，編程模型是CUDA，運(yùn)行環(huán)境也是寒武紀(jì)：云邊端AI硬件協(xié)同發(fā)展寒武紀(jì)：云邊端AI硬件協(xié)同發(fā)展產(chǎn)品線產(chǎn)品類型寒武紀(jì)主要產(chǎn)品推出時(shí)間寒武紀(jì)：互聯(lián)網(wǎng)客戶存較大增長(zhǎng)空間寒武紀(jì)：互聯(lián)網(wǎng)客戶存較大增長(zhǎng)空間目錄目錄AI算力刺激更多存儲(chǔ)器用量AI算力刺激更多存儲(chǔ)器用量帶來(lái)的海量數(shù)據(jù)。當(dāng)前普通服務(wù)器DRAM普遍配置約為500至600GB，而AI服務(wù)器DRAM配置可達(dá)1.2至1.7TB，是普通服務(wù)器的普通服務(wù)器AI服務(wù)器未來(lái)AI服務(wù)器DRAM容量500-600GB1.2-1.7TB2.2-2.7TBSSD容量4.1TB4.1TB8TBHBM容量——320-640GB512-1024GB圖：存儲(chǔ)計(jì)算性能存在“剪刀差”推出時(shí)間45405040.892021-20262021-2026CAGR25.4%10.6820262020202660%50%40%30%20%10%0%53%50%38%40%38%10%9%SK海力士三星電子SK海力士2022年2023年建議關(guān)注：香農(nóng)芯創(chuàng)——深度布局存儲(chǔ)產(chǎn)業(yè)建議關(guān)注：香農(nóng)芯創(chuàng)——深度布局存儲(chǔ)產(chǎn)業(yè)新公司擬開展SSD存儲(chǔ)產(chǎn)品的設(shè)計(jì)、生產(chǎn)和銷售業(yè)務(wù)，當(dāng)前我國(guó)企業(yè)級(jí)SSD市場(chǎng)國(guó)產(chǎn)化率較低，而2022-2026年我國(guó)企業(yè)級(jí)SSD市場(chǎng)規(guī)模將球形氧化鋁等產(chǎn)品已開始向客戶穩(wěn)定供貨工業(yè)用六氟化硫受益于推出新High-K材料及超力士主要供應(yīng)商江蘇先科工廠量產(chǎn)在即球形氧化鋁等產(chǎn)品已開始向客戶穩(wěn)定供貨工業(yè)用六氟化硫受益于推出新High-K材料及超力士主要供應(yīng)商江蘇先科工廠量產(chǎn)在即亞微米球形二氧化硅完成研發(fā)，供貨給住友電木、日立化成等知名環(huán)氧塑封料的廠商子公司科美特供應(yīng)臺(tái)積建議關(guān)注：雅克科技——海力士重要供應(yīng)商中芯國(guó)際、海力士、京東方等業(yè)國(guó)際頭部企業(yè)。RDL層用i-Line光刻膠等導(dǎo)入客戶測(cè)試目錄目錄異構(gòu)計(jì)算時(shí)代，先進(jìn)封裝戰(zhàn)略地位凸顯異構(gòu)計(jì)算時(shí)代，先進(jìn)封裝戰(zhàn)略地位凸顯CPU、GPU以及存儲(chǔ)器，實(shí)現(xiàn)芯片更高帶寬的互連，能夠集成GPU\CPU\存儲(chǔ)順應(yīng)AI算力芯片發(fā)展，封裝技術(shù)持續(xù)創(chuàng)新開發(fā)減少封裝高度的技術(shù)(封裝堆疊→芯片堆疊)開發(fā)提升封裝性能的技術(shù)(凸塊→TSV)開發(fā)增強(qiáng)封裝整合競(jìng)爭(zhēng)力的新技術(shù)(SiP*)順應(yīng)AI算力芯片發(fā)展，封裝技術(shù)持續(xù)創(chuàng)新順應(yīng)AI算力芯片發(fā)展，封裝技術(shù)持續(xù)創(chuàng)新存儲(chǔ)器解決方案，以及用于服務(wù)器的高密度存儲(chǔ)器（HDM）三維堆疊技術(shù)。同時(shí)，海力士持續(xù)迭代封裝技術(shù)，研發(fā)了批量回流模制底部填充、混帶寬128GB/s307GB/s460GB/s819GB/s堆疊高度4層4層/8層4層/8層4層/12層容量4GB/8GB8GB/16GB16GB/24GBI/O速率2.4Gbps3.6Gbps6.4Gbps硅通孔封裝技術(shù)大幅提升HBM帶寬硅通孔封裝技術(shù)大幅提升HBM帶寬量增加，引線變得更加復(fù)雜，而且也需8、背面UBM，重布線8、背面UBM，重布線先進(jìn)封裝生態(tài)已形成，國(guó)產(chǎn)替代空間廣闊力芯片上建議關(guān)注：興森科技——引領(lǐng)IC載板國(guó)產(chǎn)替代建議關(guān)注：興森科技——引領(lǐng)IC載板國(guó)產(chǎn)替代表面貼裝；半導(dǎo)體業(yè)務(wù)聚焦于IC封裝基板（含CSP封裝基板和FCBGA封裝基板）及半導(dǎo)體測(cè)試板。要由海外公司主導(dǎo)，國(guó)內(nèi)正在積極擴(kuò)充產(chǎn)能,大陸廠商對(duì)IC載板的投資額占比達(dá)全球的46%，興森科技（fastprint）的資本投入在2021-2022年間排建議關(guān)注：興森科技——引領(lǐng)IC載板國(guó)產(chǎn)替代建議關(guān)注：興森科技——引領(lǐng)IC載板國(guó)產(chǎn)替代幅下滑導(dǎo)致整體產(chǎn)能利用率下降，隨著行業(yè)回暖以珠海FCBGA封裝基板項(xiàng)目擬建設(shè)產(chǎn)能200萬(wàn)顆/月季度進(jìn)入小批量生產(chǎn)階段。；廣州FCBGA封裝基板建議關(guān)注：華海誠(chéng)科——環(huán)氧塑封領(lǐng)先企業(yè)建議關(guān)注：華海誠(chéng)科——環(huán)氧塑封領(lǐng)先企業(yè)體封裝技術(shù)的發(fā)展息息相關(guān)，是保證芯片功能穩(wěn)定實(shí)現(xiàn)的關(guān)鍵材料?，F(xiàn)建有先進(jìn)的環(huán)氧模塑料中試線1條、大生產(chǎn)線5條。目前公司的研發(fā)能力和一，具體類型包括FC-BGA、FC-SiP等先進(jìn)封裝技術(shù)，目前該市場(chǎng)仍主要為日本納美仕、日立化成等要尚處于實(shí)驗(yàn)室階段。公司FC底填膠已通建議關(guān)注：艾森股份——先進(jìn)封裝材料平臺(tái)建議關(guān)注：艾森股份——先進(jìn)封裝材料平臺(tái)公司主要產(chǎn)品以傳統(tǒng)封裝材料為主，先進(jìn)封裝材料逐步放量。公司先進(jìn)封裝用電鍍銅基液（高純硫酸銅）已在華天科技正式供應(yīng)；先進(jìn)封裝用電研發(fā)，目前，公司自研先進(jìn)封裝用g/i線負(fù)性光目錄目錄AI算力對(duì)高效電源提出新需求AI算力對(duì)高效電源提出新需求服務(wù)器電源架構(gòu)轉(zhuǎn)向48V服務(wù)器電源架構(gòu)轉(zhuǎn)向48V器計(jì)算能力增長(zhǎng)快速，總體功耗也隨之提升。據(jù)華12-15kW/柜@2027，超算、智算中心功率密度將提升至30kW以上。高達(dá)40%的數(shù)據(jù)中心運(yùn)營(yíng)成本來(lái)自為服務(wù)器機(jī)架供電與冷卻所需的能源，由于數(shù)據(jù)中心功率密度增加，提高供電效率成為數(shù)據(jù)中心試結(jié)果，計(jì)算配電路徑的電阻為0.1mΩ時(shí)的配電損倍的計(jì)算差異。在各家公司都在積極致力于節(jié)省電力消耗中，谷歌公司于2016年率先引入了48V直流算力電路的供電設(shè)計(jì)擁有較高壁壘算力電路的供電設(shè)計(jì)擁有較高壁壘然后將12V母線電壓分配至板上多個(gè)負(fù)載點(diǎn)（堆棧才能為下方的晶體管提供供電和數(shù)據(jù)信號(hào)。因此，業(yè)界在研究一種“將電源線遷移到芯片背面”的方法，這樣可以讓芯片正面只需要專注于與傳遞。背面供電技術(shù)能減輕線路后端的布線從50mV下降到20mV高了30資料來(lái)源：半導(dǎo)體行業(yè)觀察、維科網(wǎng)電子工程、中圓反轉(zhuǎn)，并對(duì)背面進(jìn)行打磨減薄，再通過(guò)