2024智能算力產業(yè)發(fā)展白皮書

2024年7月智能算力產業(yè)發(fā)展白皮書專家指導組成員于施洋國家信息中心大數(shù)據(jù)發(fā)展部主任宋海濤上海人工智能研究院院長陳剛東方證券首席研究總監(jiān)編制組成員國家信息中心大數(shù)據(jù)發(fā)展部郭明軍規(guī)劃與應用處處長童楠楠規(guī)劃與應用處副處長陳東規(guī)劃與應用處高級工程師竇悅規(guī)劃與應用處副研究員郭巧敏規(guī)劃與應用處助理研究員趙正規(guī)劃與應用處助理研究員馬文博規(guī)劃與應用處助理研究員馬驍規(guī)劃與應用處實習研究員張琳穎規(guī)劃與應用處實習研究員上海人工智能研究院楊浩副院長孫麗數(shù)字經濟研究中心主任蘇合檢算力算網中心副主任唐晟凌數(shù)字經濟研究中心資深咨詢師康起明數(shù)字經濟研究中心資深咨詢師徐藝數(shù)字經濟研究中心資深咨詢師仲惠穎數(shù)字經濟研究中心資深咨詢師東方證券-上海人工智能研究院聯(lián)合實驗室浦俊懿計算機行業(yè)首席分析師，東方證券-上海人工智能研究院聯(lián)合實驗室主任宋鑫宇計算機行業(yè)分析師陳超計算機行業(yè)前瞻科技首席分析師杜云飛計算機行業(yè)高級分析師覃俊寧計算機行業(yè)分析師粵港澳大灣區(qū)大數(shù)據(jù)研究院李琳常務副院長王天瑞工程咨詢中心高級咨詢師欒雪洋工程咨詢中心高級咨詢師目錄一、AI大模型時代到來，智能計算成為關鍵引擎- 04 1.2智能算力需求將呈現(xiàn)指數(shù)級增長 08 12 二、智算產業(yè)蓬勃發(fā)展，產業(yè)生態(tài)逐步形成 232.2智算產業(yè)鏈正在形成 25 27 3.1.2智算芯片成為中美科技博弈的焦 28 33 33 353.2.4特斯拉推出FSD芯片以最大化其自動駕駛技術潛力 36 38 3.3.2海光DCU依托開放生態(tài)加速推廣 443.3.5瀚博半導體芯片產品聚焦AI加速和視頻 483.4.1國產智算芯片在性能方面與英偉達的通用GPU的差距正在縮小 48 504.1多元異構算力融合與國產化是方向與趨勢 50 53 4.4智算中心低碳化發(fā)展需要算力-電力協(xié)同 —03—。 5.1中科曙光 635.2廣州數(shù)字科技集團 66 6.1加強智算資源整合與布局優(yōu)化 696.2加快培育國產軟硬件生態(tài) 696.3促進產業(yè)鏈協(xié)同與創(chuàng)新升級 等圖1算力種類→圖→圖2AI計算場景愈加豐富，對智能算力的需求增加●更準確地模擬現(xiàn)實更準確地模擬現(xiàn)實更精確地探索未知永無止境的探索致超越現(xiàn)實的體驗據(jù)驅動的業(yè)務創(chuàng)新源源不斷的創(chuàng)新更高的運營效率醫(yī)o驅動力1:通用大模型。機器學習進入大模型時代，ChatGPT等通用大模型的訓練迭代極大拉動對智能算力的需求，模型成功部署后的推理階段也將需要大量智能算力做支撐。從模型訓練角度來說，據(jù)J.Sevilla等發(fā)布的文章《ComputeTrendsAcrossThreeErasofMachineLearning,"2022InternationalJointConferenceonNeuralNetworks(IJCNN)》,機器學習的訓練計算大概可以分為三個時期：1)第一個時期為2012年之前，訓練算力大致遵循摩爾定律，約每20個月翻一番；2)進入深度學習時代，算力翻倍的速度加速至5-6個月；3)2015-2016年左右開啟了大模型時代，在這個時期，計算量增長變慢，翻倍時間約為10個月，但整體的訓練計算量比深度學習時代的系統(tǒng)大2到3個數(shù)量級(OOM)。從2022年底，隨著ChatGPT言等國內外通用大模型相繼發(fā)布。這些大模型的訓練需要千億、甚至萬億級參數(shù)，以及上千GB的高質量數(shù)據(jù)，大模型的訓練迭代極大地拉動了智能算力的需求。另外，隨著模型的成熟落地和推廣，模型推理所需的智能算力也將逐漸增加，占比不斷提高。厘C4(800G,2019),厘OpenWebText(38G,2023),OthePile-StackExchangBookCorpus(5G,2015,EGutenberg(,2021),ECC-Stories-R(31G,2019),四CC-NE孟thePile-ArXiv(72G,2020),益thePile-PubMedAbstracts(25G=BigQuery(.2023),thePile-GitHub(61G, 圖3大模型參數(shù)量及其訓練所需高質量數(shù)據(jù)源構成—智能算力產業(yè)發(fā)展白皮書albeitwithsomeuncertainty.EstiDatasource:Epoch(2023)andstandardsfortheresponsibledevelopmentanduseofartifcialintellmultiplication,ordivisionoftwodecimal→圖4用于訓練人工智能系統(tǒng)的算力需求驅動力2:垂直行業(yè)大模型。垂直行業(yè)大模型的訓練和基于通用大模型微調的行業(yè)應用都需要大量的智能算力做支撐。垂直行業(yè)的大模型訓練需要大量的智能算力，另外，基于大模型的多場景應用也不斷拓展。AI滲透千行百業(yè)，拉動智能算力規(guī)模高速增長。2022年，各行各業(yè)的AI應用滲透度都呈不斷加深的態(tài)勢，尤其是在金融、電信、制造以及醫(yī)療領域，為實現(xiàn)業(yè)務增長、保持強大競爭力、從而占據(jù)更大的市場份額，企業(yè)紛紛入局AI領域，通過新技術提升傳統(tǒng)業(yè)務用戶體驗，人工智能應用增長迅速。據(jù)IDC和浪潮信息聯(lián)合發(fā)布的《2022-2023中國人工智能計算力發(fā)展評估報告》,預計到2023年年底，中國將有50%的制造業(yè)供應鏈環(huán)節(jié)采用人工智能技術實現(xiàn)業(yè)務體驗提升。在未來，隨著AI技術對傳統(tǒng)行業(yè)賦能作用日益凸顯，更大規(guī)模的智算需求出現(xiàn)成為必然。40互聯(lián)網金融政府電信制造服務交通醫(yī)療能源教育 ●圖5中國人工智能行業(yè)應用滲透度(%)及同比增長智能算力產業(yè)發(fā)展白皮書需求也隨之快速增長。據(jù)IDC最新發(fā)布GlobalDataSphere2023數(shù)據(jù)，2023年我國數(shù)據(jù)量規(guī)模預計為30.0ZB,到2027年數(shù)據(jù)量規(guī)模則將達到76.6ZB,2023-2027年CAGR達到26.4%。英特爾的研究也表明，AI模型的計算量每年將會增長10倍，這一趨勢隨著未來人工智能與傳統(tǒng)產業(yè)的深度融合會進一步加快。自2012年開始，驅動AI的底層機器學習技術計算量呈指數(shù)級增長，遠超摩爾定律帶來的算力提升速度，對以CPU為主的通用算力提出嚴峻考驗。目前CPU的物理工藝、核心數(shù)已接近極限，但數(shù)據(jù)量的增長卻不會停止。面對激增的數(shù)據(jù)量，算力不足的問題日益突出。因此，在AI時代下，僅由CPU作為算力的提供者已經不能滿足需求，向包括GPU、FPGA、ASIC等加速芯片異構而成的智能算力演化成為趨勢，并最終將會成為數(shù)字經濟時代下算力的主角。020252026 圖6中國數(shù)據(jù)量規(guī)模預測(2022-2027年)當前，我國智能算力占比已經超過通用算力，成為整體算力增長的主要驅動力。我國智能算力占總體算力的比重增長迅速，據(jù)中國信通院《中國算力發(fā)展指數(shù)白皮書(2023)》數(shù)據(jù)，2017-2022年我國算力內部結構中智能算力占比持續(xù)增加，2022年我國算力結構為通用算力：智能算力：超級算力=40%:59%:1%,智能算力占比已較大幅度超過通用算力占比，逐步成為總體算力增長的主要驅動力。據(jù)中國信通院預計，未來五年，全球算力規(guī)模增速超過50%。 ·圖72022年我國算力結構智能算力產業(yè)發(fā)展白皮書1.2智能算力需求將呈現(xiàn)指數(shù)級增長 2020年中國智能算力規(guī)模為75.0EFLOPS,之后則保持快速增長態(tài)勢，預計2023年智能算力規(guī)模將為智能算力產業(yè)發(fā)展白皮書■2020-2027年中國智能算力規(guī)模及預測■2020-2027年中國智能算力規(guī)模及預測(EFLOPS,基于FP16計算)——g%40020020202021202220232024 ■■2020-2027年中國通用算力規(guī)模及預測(EFLOPS,0202020212022→圖102020-2027年中國通用算力規(guī)模及預測(EFLOPS,基于FP16計算)202520目標規(guī)劃到2025年，算力規(guī)模超過300EFLOPS,智能算力占比達到35%,達到105EFLOPS?！鑫覈懔χ行囊?guī)劃總算力規(guī)模(EFLOPS)■我國算力中心規(guī)劃智能算力規(guī)模(EFLOPS)02023E2024E數(shù)據(jù)來源：國務院官網智能算力產業(yè)發(fā)展白皮書人均算力處于中等水平。據(jù)IMD研究發(fā)現(xiàn)，人均算力的水平與一國的智能化水平高度相關，我國積極發(fā)展智02020202120222023圖102020-2027年中國通用算力規(guī)模及預測(EFLOPS,基于FP16計算)基于FP64計算)—202520 圖11我國規(guī)劃智算中心算力需求規(guī)模人均算力處于中等水平。據(jù)IMD研究發(fā)現(xiàn)，人均算力的水平與一國的智能化水平高度相關，我國積極發(fā)展智能算力、打造智算中心是打造國際競爭力、發(fā)展綜合國力的關鍵。智能算力產業(yè)發(fā)展白皮書 → →圖12世界主要國家人均算力水平高算力國家中算力國家低算力國家2.522人均1;000人均460衝印度印度尼西亞壹南非岳俄羅斯哥倫比亞泰國墨西哥波蘭沙特阿拉伯捷克西班牙意大利氣呆韓國加拿大法國阿聯(lián)酋新加坡美國智算中心是“東數(shù)西算”的關鍵，在未來將會為社會提供主要智算資源。據(jù)國家信息中心，未來80%的場景都將基于人工智能，所占據(jù)的算力資源將主要由智算中心提供。AI大模型已經成為國家、企業(yè)和科研院所積極發(fā)展、重點投入的大方向，而普惠大眾的智能算力就是AI發(fā)展的基礎資源，將要像水、電一樣驅動科技發(fā)展、社會進步，智算中心則是實現(xiàn)這些科技創(chuàng)新的源泉。人工智能一直是中美兩國科技競爭的重要領域，而中美在AI的三大技術數(shù)據(jù)、算法、算力中各有優(yōu)勢。中國的數(shù)據(jù)優(yōu)勢較為明顯，但是算法和智能算力卻明顯落后于美國。發(fā)展智能算力對我國發(fā)展AI與數(shù)據(jù)要素，推動社會全方位發(fā)展有重大戰(zhàn)略意義。 ①2020年4月20日，國家發(fā)展改革委首次明確新型基礎設施范圍，將智能計算中心作為算力基礎設施的重要代表納入信息基礎設施范疇。2021年5月，國家發(fā)改委等四部門聯(lián)合發(fā)布了《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實施方案》,提出布局全國算力網絡樞紐節(jié)點。②2022年2月17日，國家發(fā)改委、中央網信辦、工業(yè)和信息化部、國家能源局聯(lián)合規(guī)劃了10個國家數(shù)據(jù)中心集群?！皷|數(shù)西算”工程正式全面啟動。而智算中心承載的以模型訓練為代表③科技部出臺政策推動公共算力平臺建設。依照《新一代人工智能發(fā)展規(guī)劃》能驅動的科學研究”(AIforScience)專項部署工作，同時發(fā)布《科技部辦公廳關于開展國家新一代人工智能公共算力開放創(chuàng)新平臺申報工作的通知》,提出要推進Al領域的模型與算法創(chuàng)新工作，加快推動國家新一代人工智能公共算力開放創(chuàng)新平臺建設，支持高性能計算中心與智算中心異構融合發(fā)展。布局圖和林格爾內蒙古長三角長韶關集樣蕪制焦群資料來源：國際科技創(chuàng)新中心智能算力產業(yè)發(fā)展白皮書發(fā)布時間頒布部門政策主要內容2023年12月國家發(fā)改委等五部門《深入實施“東數(shù)西算”統(tǒng)籌通用算力、智能算力、超級算力協(xié)同計算。到2025年底，綜合算力基礎區(qū)各類新增算力占全國新增算力的延城市算力網、5ms時延區(qū)域算力網、20ms時延跨國家樞紐節(jié)點算力網在2023年10月工信部等六部門到2025年，計算力方面，算力規(guī)模超過300EFLOPS,智能算力占比達到2023年2月國務院動，引導通用數(shù)據(jù)中心、超算中心、智能計算中心、邊緣數(shù)據(jù)中心等合2022年2月國家發(fā)改委等部門啟動建設全國一體化算力網絡國家樞紐節(jié)點的同意在京津冀地區(qū)啟動建設全國一密度、高能效、低碳數(shù)據(jù)中心集群。積極承接北京等地實時性算力需求，引導溫冷業(yè)務向西部遷移。2022年1月國務院《“十四五”數(shù)字經濟發(fā)2021年12月中央網絡安全和《“十四五”國家信息化港澳大灣區(qū)、成渝等全國一體化算力網絡國家樞紐節(jié)點。統(tǒng)籌建設面向區(qū)塊鏈和人工智能等的算力和算法中心，構建具備周邊環(huán)境感應能力和反饋回應能力的邊緣計算節(jié)點，提供低時延、高可靠、強安全邊緣計算服務。2021年11月工信部系，推進國家工業(yè)互聯(lián)網大數(shù)據(jù)中心智能算力產業(yè)發(fā)展白皮書表1智能算力相關國家/地方政策2021年7月國家發(fā)改委等五部門用3年時間，基本形成布局合理、技術先進、綠色低碳、算力規(guī)模與數(shù)字經濟增長相適應的新型數(shù)據(jù)中心發(fā)展格局。技術能力明顯提升，產業(yè)鏈不斷完善，國際競爭力穩(wěn)步增強。2021年5月國家發(fā)改委等四部門《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞2021年3月《中華人民共和國國民經濟和社會發(fā)展第十四系，強化算力統(tǒng)籌智能調度，建設若干國家樞紐節(jié)點和大數(shù)據(jù)中心集群，2021年1月工信部聯(lián)網大數(shù)據(jù)中心體系，建設20個區(qū)域2023年7月《河南省重大新型基礎設施建設提速行動方案(2023—2025年)》加快建設鄭州、洛陽等全棧國產化智能計算中心，構建中原智能算力網。力，建設智算中心和鄭州城市算力網2023年6月力產業(yè)生態(tài)行動方案》目標到2025年，臨港新片區(qū)將形成以智算算力為主、基礎算力和超算算力協(xié)同的多元算力供給體系，總算力超過5EFLOPS(FP32),Al算力占比達到80%,算力產業(yè)總體規(guī)模突破100億元。2023年5月深圳能高質量發(fā)展高水平應堅持供給智能算力一大要素，強化智能算力集群供給，打造多層次智能算智能算力產業(yè)發(fā)展白皮書發(fā)布時間頒布部門政策主要內容2023年5月北京與頭部公有云廠商等市場主體合作，實施“算力伙伴計劃”,并加快推動北京人工智能公共算力平臺、北京數(shù)字運行各類人工智能計算任務。2023年5月北京創(chuàng)新策源地實施方案(片等基本實現(xiàn)自主可控。國產硬件比例顯著提高，全面兼容國產深度學習動基礎軟硬件實現(xiàn)高質量自主可控。2023年1月四川成都市圍繞超算智算加措施建立以“算力券”為核心的算力中心智算中心算力資源。已建成的、在建中的和規(guī)劃的中心數(shù)量已逾40家。一般智算中心的的起步算力目標是100P,整體布智能算力產業(yè)發(fā)展白皮書萬達開先進計算中心(曙光站)長沙人工智能創(chuàng)新中心硅立方 →圖15多地積極推動智算中心建設②根據(jù)ICPA智算聯(lián)盟統(tǒng)計，截至2023年3月，全國已投運的人工智能計算中心有近20個，在建設的人工智能計算中心超20個。2023至2024年，北京、哈爾濱、成都、廣州、杭州、長春等多地持續(xù)發(fā)布智算中心相關招標公告。金額大多在億元以上，招標單位具有國資背景。全國各地智算中心建設熱度持續(xù)。各地方也結合本地產業(yè)特色，加快人工智能應用創(chuàng)新，聚合人工智能產業(yè)生態(tài)，例如武漢人工智能計算中心陸續(xù)孵化出紫東.太初、武漢.LuoJia等大模型，加速推動Al在多模態(tài)交互、遙感等領域的落地應用。智能算力產業(yè)發(fā)展白皮書中科曙光山東省青島市嶗山區(qū)混合精度建設中混合精度已建成萬達開先進計算中心四川省達州市混合精度已建成宜昌先進計算中心一期混合精度已建成蕪湖一體化智算中心安徽省蕪湖市混合精度建設中合肥先進計算中心“巢湖明月”安徽省合肥市混合精度已建成北京昇騰人工智能計算中心北京市門頭溝區(qū)(短期500P,遠期1000P)已建成中原人工智能計算中心已建成未來人工智能計算中心陜西省西安市雁塔區(qū)已建成成都人工智能計算中心四川省成都市(最終1000P)已建成武漢人工智能計算中心湖北省武漢市東湖區(qū)已建成重慶人工智能計算中心已建成長沙人工智能計算中心湖南省長沙市高新區(qū)(25年達1000P)已建成廣州省珠海市橫琴區(qū)1.14Eops(完全建成4Eops)已建成(后期100P)已建成已建成濟南人工智能計算中心山東省濟南市/已建成山東省青島市已建成天津人工智能計算中心天津市河北區(qū)已建成河南省廊坊經濟開發(fā)區(qū)已建成大連人工智能計算中心遼寧省大連市建設中沈陽人工智能計算中心遼寧省沈陽市(后期300P)已建成中國-東盟人工智能計算中心訓練系統(tǒng)和1.4P推理系統(tǒng)已建成廣東省深圳市龍崗區(qū)已建成智能算力產業(yè)發(fā)展白皮書已建成百度陽泉智算中心陜西省陽泉市已建成鹽城智算中心鹽城市鹽南高新區(qū)已建成百度沈陽元宇宙智算中心沈陽市皇姑區(qū)總體500P建設中(華為控股子公司)合肥人工智能計算中心已建成商湯人工智能計算中心上海自貿區(qū)臨港新片區(qū)同時接入已建成上海市松江區(qū)智慧產業(yè)長三角(合肥)智算中心合肥高新區(qū)/已建成/已建成浪潮、寒武紀南京智能計算中心已建成浪潮信息安徽省宿州市建設中建設中克拉瑪依智算中心1萬個已建成昆山智算中心智能算力不低于500POPS建設中阿里云阿里云張北超級智算中心已建成阿里云華東智算中心上海市金山區(qū)建設中阿里云烏蘭察布超級智算中心內蒙古烏蘭察布市中科曙光、長沙5A級智算中心已建成寧數(shù)科創(chuàng)寧波人工智能超算中心寧波市高新區(qū)信息集團福建省福州新區(qū)—期105P,總體400P已建成浪潮云、中國電信武漢分公司武昌智算中心武漢市武昌區(qū)建設中智能算力產業(yè)發(fā)展白皮書/哈爾濱人工智能先進計算中心哈爾濱已建成/北京數(shù)字經濟算力中心北京建成后1000P以上建設中/鄭州人工智能計算中心二期10000P,建設中/石景山智算中心北京北重科技文化產業(yè)園建設中/北京七星園數(shù)字經濟產業(yè)智算中心北京市豐臺區(qū)建成后2300P建設中/華南數(shù)谷智算中心韶關市武江區(qū)建設中/博大數(shù)據(jù)深圳前海智算中心深圳已建成/中國移動智算中心(青島)青島Flops,參數(shù)網建設中③寒武紀不斷深入參與智算中心建設，接連中標南京智能計算中心一期與二期項目，總預算金額超智能算力產業(yè)發(fā)展白皮書綠色

適用廣泛靈活A客戶選揮多樣其產業(yè)生態(tài)繁榮普惠A唯理回冷板浸沒完整技術方案少能耗降任最高達30%開放智能算力產業(yè)發(fā)展白皮書智能算力產業(yè)發(fā)展白皮書 智能算力產業(yè)發(fā)展白皮書2.1智算中心建設迅速落地，多方主體積極參與建設主體(主導建設的一方)建設目標代表案例萬達開先進計算中心合肥先進計算中心天津市人工智能計算中心北京人工智能公共算力平臺服務科研項目云服務商提供數(shù)據(jù)存儲、通用阿里云烏蘭察布智算中心的商用服務，部分智算中心中國電信京津冀大數(shù)據(jù)智能算力中心吉利星睿智算中心 智能算力產業(yè)發(fā)展白皮書重點提到了智能制造和數(shù)字化工廠升級，這也使得作為支撐智能制造的核心技術的智能算力受到廣泛關當前我國注重構建人工智能公共算力開放創(chuàng)新平臺，為科技創(chuàng)新和產業(yè)智能化轉型提供人工智能普智能算力產業(yè)發(fā)展白皮書2.2智算產業(yè)鏈正在形成 智能算力產業(yè)發(fā)展白皮書智能算力產業(yè)鏈的下游環(huán)節(jié)主要涉及智能算力的應用，這是將上游的硬件能力和中游的服務轉化為中游：智算服務云計算中游：智算服務云計算 智能算力產業(yè)發(fā)展白皮書絡訓練和推理成為可能。智算芯片通過優(yōu)化硬件設計和架構，可以大大提高Al算法的運行速度和處理能■CPU、GPU成本■內存、存儲器成本■其他 圖21服務器主要成本構成創(chuàng)新提供了強大的驅動力。在不斷挑戰(zhàn)計算能力極限的同時，智算芯片也催生了新的應用場景和商業(yè)模202220232024202520262027202820292030203智算芯片成為大國科技博弈的焦點之一。智算芯片作為很多關鍵基礎設施行業(yè)領域中的核心硬件組智算芯片的發(fā)展也關系到國際科技規(guī)則的制定和話語權的爭奪。在這一領域的領先地位意味著能夠主導美國陸續(xù)推出限制性政策限制中國智算芯片的發(fā)展。智算芯片的經濟和戰(zhàn)略價值使其已經成為了中智能算力產業(yè)發(fā)展白皮書時間管制主要內容2018年4月美國商務部發(fā)布公告，在未來7年內禁止中興通訊向美國企業(yè)購買敏感產品。2019年5月，華為及68家附屬關聯(lián)公司被美國列入“實體名單”;2020年5月，BIS限制華為購買使用美導體；2020年8月，BIS在實體清單中新增38家華為附屬公司，并修術生產的半導體。2020年12月中芯國際被納入實體名單，對用于≤10nm技術節(jié)點的產品或技術，美國商務部采取“推定拒絕”的審批政策進行審核。2022年7月供527億美元用于半導體制造激勵計劃、研發(fā)投資、稅收抵免，其中美國芯片基金共500億美元，390億美元用于鼓勵半導體制造企業(yè)，110億美元補貼芯片研發(fā)；(2)法案授權在未來十年撥款2000億美元增加關鍵領域科技研發(fā)的投資；(3)法案要求獲得補貼的半導體企業(yè)未來10年內不得在中國大陸新建或擴建先進制程導體工廠。2022年7月美國半導體廠商收到美國商務部規(guī)定，要求不得向中國供應用于制造≤14nm芯片的設備。2022年8月BIS公告美國準備對EDA等四項技術實行出口管2022年8月美國通知英偉達向中國和俄羅斯出口A1002022年10月BIS對中國實施超級計算機計算芯片和包含此類芯片品的禁令；對受到許可證要求限制的外國生產項目的范圍擴大到實體名單上中國境內的28家現(xiàn)有實體；針對≤18nm的DRAM、≥128層的NAND存儲芯片增加了新的許可證要求；限制美國人員在沒有許可證的情況下支持中國某些半導體制造設施的研發(fā)和集成31家實體列入未經核實名單(UVL)。2023年3月美國商務部將浪潮集團、龍芯中科等公司列入實體名單。2023年10月美國商務部將壁仞科技、摩爾線程等公司列入實體名單。智能算力產業(yè)發(fā)展白皮書英文名稱BeijingBirenTechnologyDevelopmentCo.北京壁仞科技開發(fā)有限公司GuangzhouBirenInte廣州壁仞集成電路有限公司HangzhouBirenTechnologyDevelopmentCo.,杭州壁仞科技開發(fā)有限公司LightCloud(Hangzhou光線云(杭州)科技有限公司摩爾線程智能科技(北京)有限責任公司摩爾線程智能科技(成都)有限責任公司摩爾線程智能科技(上海)有限責任公司ShanghaiBirenInformat上海壁仞信息科技有限公司上海壁仞集成電路有限公司上海壁仞科技股份有限公司超燃半導體(南京)有限公司蘇州新巖控股有限公司(現(xiàn)為上海新之礫企業(yè)發(fā)展有限公司)珠海壁仞集成電路有限公司智能算力產業(yè)發(fā)展白皮書■智能算力(基于■智能算力(基于FP16計算)智能算力產業(yè)發(fā)展白皮書0—→圖24中國加速計算服務器市場預測，2023-2027·— →圖25中國人工智能芯片市場份額，2023H1——寒武紀，1%_燧原科技，1%寒武紀，1%_燧原科技，1%其他，1%■英偉達■華為■百度昆侖■寒武紀·燧原科技■其他 圖262022年中國AI加速卡出貨量占比·—英偉達在教育和研究支持方面，英偉達通過提供教育資源、培訓課程和研究資助來支持學術界和研究社區(qū)。例如，posing.simulating.andcollabo 智能算力產業(yè)發(fā)展白皮書特斯拉自2019年4月發(fā)布的Hardware3.0開始采用其自研芯片F(xiàn)SD,該芯片采用三星的14納米工智能算力產業(yè)發(fā)展白皮書3.2.5谷歌TPU持續(xù)迭代性能升級谷歌在AI領域的布局主要體現(xiàn)在其TensorFlow框架和TPU(張量處理單元)上。TPU是谷歌定制開發(fā)的應用專用集成電路(ASIC),用于加速機器學習工作負載，已經在多個谷歌的產品和服務中得到應用，如搜索引擎、語音識別和圖像識別等。谷歌TPU已經過數(shù)次迭代，2023年8月發(fā)布了第五代TPUv5e,專為提升大中型模型的訓練、推理性能以及成本效益所設計，與TPUv4相比大型語言模型提供的訓練性能提高了2倍、推理性能提高了2.5倍?！鷪D33TPUv5e相對TPUv4的訓練性能提升—谷歌通過其云平臺GoogleCloud提供TPU加速的機器學習服務。客戶可以利用TPUs的強大計算能力，將其作為GoogleCloud上的可伸縮計算資源使用，而無需直接投資于硬件。CloudTPU能夠針對各PyTorch、JAX和TensorFlow)上的工作負載?？蛻暨€可以在全代管式AI平臺VertexAI中利用CloudTPU。谷歌不僅在硬件上實現(xiàn)了創(chuàng)新，還構建了一個圍繞TPUs的綜合性AI生態(tài)系統(tǒng)，包括云服務、軟件工具和廣泛的應用領域。智能算力產業(yè)發(fā)展白皮書3.3國內：華為、海光信息等科技大廠積極布局，寒武紀、天數(shù)智芯等創(chuàng)業(yè)型企業(yè)紛紛興起Spore以及一系列應用使能工具，包括行業(yè)SDK和應MindXDL異構計算架構計算資源計算資源昇騰AI處理器昇騰AI應用深度學習框架昇騰計算語言第三方庫昇騰計算服務層昇騰算子庫昇騰調優(yōu)AdaptorAI異構計算架構昇騰張量編譯器昇騰計算編譯層昇騰計算執(zhí)行器昇騰計算執(zhí)行層昇騰計算基礎層昇騰基礎層華為自主構建的全場景深度學習框架Mindspore,旨在實現(xiàn)易開發(fā)、高效執(zhí)行、全場景覆蓋三大目電磁仿真/分子模擬/量子計算IR中間表達層端-邊-云全場景運行時系統(tǒng)CANN(NPU)CUDA(GPU)Eigen(CPU)類型推導自動微分自動并行二階優(yōu)化內存優(yōu)化圖算融合流水線執(zhí)行強化學習/GNN/深度概率編程…數(shù)據(jù)加載數(shù)據(jù)格式異構加速數(shù)據(jù)增強Al+數(shù)值計算表達硬件相關優(yōu)化算子自動生成單機分布式表達動靜表達統(tǒng)一函數(shù)/0OP編程范式融合量化/剪枝/蒸餾可信AI圖36昇思MindSpore整體架構AI開發(fā)平臺ModelArts通過端到端模型生產線，為開發(fā)者提供高效開發(fā)、調試和調優(yōu)大模型應用和推理加速，支持分布式高效訓練和推理，支持大規(guī)模異構集群及調度管理，并提供全流程云化昇騰遷移大模型開發(fā)工具鏈大模型開發(fā)工具鏈智能運營運維場景化開發(fā)工具鏈資源管理框架異構算力開發(fā)工具鏈開發(fā)環(huán)境平臺在產業(yè)生態(tài)方面，昇騰計算圍繞昇騰計算軟硬件體系，匯聚了包括原始設備制造商OEM、原始設計制造商ODM、獨立硬件開發(fā)商IHV、咨詢與解決方案集成商C&SI、獨立軟件開發(fā)商ISV、云服務提供商XaaS在內的產業(yè)合作伙伴，以及圍繞昇騰相關產品對外提供服務交付的服務類伙伴、提供培訓服務的人才聯(lián)盟伙伴、提供投融資和運營服務的投融資運營伙伴，以及立足人才根本的高校和開發(fā)者，共同推動AI在各行各業(yè)的發(fā)展和繁榮。行業(yè)應用行業(yè)應用合作伙伴昇騰計算軟硬件體系MndSporeTensorFowPyTorchl…制造→圖38昇騰計算產業(yè)生態(tài)·—異騰計算產業(yè)生態(tài)智能算力產業(yè)發(fā)展白皮書3.3.2海光DCU依托開放生態(tài)加速推廣海光信息成立于2014年，主要從事高端處理器、加速器等計算芯片產品和系統(tǒng)的研發(fā)，是我國先進二號兩代產品已實現(xiàn)了在人工智能、大數(shù)據(jù)處理、商業(yè)計算等領域的規(guī)?；瘧?，可以用于大模型的訓主流應用軟件。依托開放式生態(tài)，海光信息構建了擁有完善的層次化軟件棧的統(tǒng)一底層硬件驅動平臺，數(shù)學庫智能算力產業(yè)發(fā)展白皮書開發(fā)效率和部署速度。CambriconNeuware支持各主流人工智能編程框架，包括TensorFlow、產品線產品類型寒武紀主要產品推出時間云端產品線云端智能芯片及加速卡思元100(MLU100)芯片及云端智能加速卡2018年思元270(MLU270)芯片及云端智能加速卡2019年思元290(MLU290)芯片及云端智能加速卡2020年思元370(MLU370)芯片及云端智能加速卡2021年、2022年訓練整機玄思1000智能加速器2020年玄思1001智能加速器2022年邊緣產品線思元220(MLU220)芯片及邊緣智能加速卡2019年IP授權及軟件終端智能處理器IP寒武紀1A處理器2016年寒武紀1H處理器2017年寒武紀1M處理器2018年基礎系統(tǒng)軟件平臺公司所有芯片與處理器產品)持續(xù)研發(fā)和配新的芯片智能算力產業(yè)發(fā)展白皮書2021年3月發(fā)布首款通用GPU產品天垓100,實現(xiàn)了國內通用GPU從0到1的突破，2022年12月發(fā)布達到國際主流產品水平且穩(wěn)定性更高，成為率先支持大模智能算力產業(yè)發(fā)展白皮書0視頻處理自然語言處理數(shù)字人DemoApp.Vastpipe云游戲云桌面AICoreProgramableVRuntimeAIAccelerationCompller/RuntimeDirectx,OpenGL/ES、OpenCL,VulkanLinuxAndroidWindowsVirtual計算機視覺智能算力產業(yè)發(fā)展白皮書智能視頻分析、云轉碼驅硬驅硬動件實現(xiàn)更流暢、高質量的直播體驗；針對視頻會議場景方面，通過優(yōu)越的芯片性能構建一套基于SV100芯片的需求；此外，在車路協(xié)同系統(tǒng)領域，基于瀚博SV100芯片搭建的2D視頻分析pipeline和3D點云分析pipeline,可靠的支持。智能算力產業(yè)發(fā)展白皮書車路協(xié)同云平臺車路協(xié)同云平臺邊緣低速自動駕駛車輛智能算力產業(yè)發(fā)展白皮書智算芯片的不斷發(fā)展，未來國產智算芯片有望在更多領域和場景公司型號時間一號昇騰寒武紀壁立仞架構壁立仞架構預計2023天數(shù)智芯智能算力產業(yè)發(fā)展白皮書智能算力產業(yè)發(fā)展白皮書4.1多元異構算力融合與國產化是方向與趨勢智能算力產業(yè)發(fā)展白皮書開放共享開放共享監(jiān)控告警智能運營全棧訓練調度平臺驅動資源管理NPU擴展組件層開發(fā)工具棧Pylordy/TF/Ja/Paddle/itor/Onef鏡像倉庫A編2022年，美國商務部宣布實施AI芯片出口管制，英偉達推出閹割版芯片H800與A800.2022年10月，數(shù)字處理單元原始計算單元”每次操作的比特長度乘以TOPS計算出的的算力之和大于或等于智能算力產業(yè)發(fā)展白皮書 智能算力產業(yè)發(fā)展白皮書·基于主流通用并行計算架構，可搭配海光 2022年2月，作為算網建設開始的“東數(shù)西算”正式啟動。2022年2月17日，國家發(fā)改委、中央網信和林格爾集群和林格爾集群中衛(wèi)集群蕪湖集群長三角生態(tài)綠色一體化發(fā)展示范區(qū)集群貴安集群京津冀張家口集群韶關集群 圖472022年2月，東數(shù)西算正式啟動，8地建設國家算力樞紐節(jié)點，規(guī)劃10個國家數(shù)據(jù)中心集群資料來源：華為智能算力產業(yè)發(fā)展白皮書此次發(fā)布的《實施意見》強調了國家樞紐節(jié)點外原則上不得新建各類大型或超大型數(shù)據(jù)中心，進一提出了到2025年底，國家樞紐節(jié)點地區(qū)各類新增算力占全國新增算力的60%以上，國家樞紐節(jié)點算力資源使用率顯著超過全國平均水平的建設目標。同時，國家持續(xù)推動統(tǒng)籌東中西部算力的一體化協(xié)同，提升國家算力網絡的傳輸效能，著眼于推進樞紐節(jié)點內、節(jié)點間以及樞紐節(jié)點與非樞紐節(jié)點之間高度確定性與高通量網絡的構建?！秾嵤┮庖姟分写_20ms時延跨國家樞紐節(jié)點算力網在示范區(qū)域內初步實現(xiàn)等目標。確定性網絡在多地多領域展開實踐性探索，各地正針對全新的網絡架構對未來網絡實驗設施(CENI)進行成果驗證。如山東已建成并運行覆蓋16個地市、5600公里的全球首張確定性網絡，其核心節(jié)點時延抖動控制在20微秒以內，主要性能指標達智能算力產業(yè)發(fā)展白皮書4.3通過算力調度，智算由單個節(jié)點向多點融合與協(xié)同演變智能算力產業(yè)發(fā)展白皮書 嚮嚮東數(shù)西算一體化算力服務平臺 智能算力產業(yè)發(fā)展白皮書華東三區(qū)【烏鎮(zhèn)】西北一區(qū)【西安】內存東北一區(qū)【哈爾演】理華東-區(qū)【昆山】存華北一區(qū)【雄衡】內存智能算力產業(yè)發(fā)展白皮書鏈路利用率30%鏈路利用率30%云池利用率35%鏈路利用率30%云池利用率35%鏈路利用率30% 圖53廣域網絡的云網一體化調度云池利用率30%此外，中國信通院聯(lián)合中國電信共同發(fā)布了首個實現(xiàn)多元異構算力調度全國性平臺“全國