2024年中國端側(cè)AI場景應(yīng)用分析：智能終端與邊緣計(jì)算的融合創(chuàng)新-29正式版

研究報(bào)告

2024/052024年中國端側(cè)AI場景應(yīng)用分析：智能終端與邊緣計(jì)算的融合創(chuàng)新ChinaAITerminalApplicationIndustry中國AI端末応用業(yè)界報(bào)告標(biāo)簽：端側(cè)AI、終端AI主筆人：饒立杰報(bào)告提供的任何內(nèi)容（包括但不限于數(shù)據(jù)、文字、圖表、圖像等）均系頭豹研究院獨(dú)有的高度機(jī)密性文件（在報(bào)告中另行標(biāo)明出處者除外）。未經(jīng)頭豹研究院事先書面許可，任何人不得以任何方式擅自復(fù)制、再造、傳播、出版、引用、改編、匯編本報(bào)告內(nèi)容，若有違反上述約定的行為發(fā)生，頭豹研究院保留采取法律措施、追究相關(guān)人員責(zé)任的權(quán)利。頭豹研究院開展的所有商業(yè)活動(dòng)均使用“頭豹研究院”或“頭豹”的商號、商標(biāo)，頭豹研究院無任何前述名稱之外的其他分支機(jī)構(gòu)，也未授權(quán)或聘用其他任何第三方代表頭豹研究院開展商業(yè)活動(dòng)。團(tuán)隊(duì)介紹頭豹是國內(nèi)領(lǐng)先的行企研究原創(chuàng)內(nèi)容平臺(tái)和創(chuàng)新的數(shù)字化研究服務(wù)提供商。頭豹在中國已布局3大研究院，擁有近百名資深分析師，頭豹科創(chuàng)網(wǎng)()擁有20萬+注冊用戶，6,000+行業(yè)賽道覆蓋及相關(guān)研究報(bào)告產(chǎn)出。頭豹打造了一系列產(chǎn)品及解決方案，包括數(shù)據(jù)庫服務(wù)、行企研報(bào)服務(wù)、微估值及微盡調(diào)自動(dòng)化產(chǎn)品、財(cái)務(wù)顧問服務(wù)、PR及IR服務(wù)，研究課程，以及分析師培訓(xùn)等。誠摯歡迎各界精英與頭豹交流合作，請即通過郵件或來電咨詢。報(bào)告作者袁栩聰首席分析師oliver.yuan@L饒立杰行業(yè)分析師arjen.rao@L頭豹研究院咨詢/合作網(wǎng)址：電話李先生）電話袁先生）深圳市華潤置地大廈E座4105室研究報(bào)告

|2024/05中國端側(cè)AI摘要?

中國端側(cè)AI行業(yè)現(xiàn)狀如何？端側(cè)AI，是人工智能應(yīng)用的一種實(shí)現(xiàn)方式，側(cè)重于將AI的能力下沉到設(shè)備端，減少對云服務(wù)的依賴，從而實(shí)現(xiàn)更快的響應(yīng)速度、更好的隱私保護(hù)和更低的網(wǎng)絡(luò)需求。2023年中國端側(cè)AI市場規(guī)模為

1,939億

元

，

預(yù)

計(jì)

2028年

其

市

場

規(guī)

模

將

為19,071億元，年均復(fù)合增長率為58%。技術(shù)進(jìn)步和邊緣計(jì)算的出現(xiàn)是端側(cè)AI行業(yè)發(fā)展的驅(qū)動(dòng)因素，未來端側(cè)AI將與云側(cè)AI結(jié)合為混合式AI一同使用，采用混合式AI，可在全球范圍內(nèi)實(shí)現(xiàn)成本效益、能效、性能提升、隱私保護(hù)、安全性增強(qiáng)和個(gè)性化服務(wù)。目前，中國主流科技企業(yè)紛紛在端側(cè)AI領(lǐng)域加大投入并取得顯著成果，特別是在移動(dòng)端和操作系統(tǒng)層面上的AI集成與創(chuàng)新。同時(shí)海外科技企業(yè)推動(dòng)端側(cè)AI技術(shù)的集成和應(yīng)用更廣泛。同時(shí)，端側(cè)大模型是端側(cè)AI中游廠商實(shí)現(xiàn)落地應(yīng)用的關(guān)鍵因素之一，眾多端側(cè)AI中游廠商選擇自研端側(cè)大模型。?

中國端側(cè)AI市場規(guī)模如何？2023年中國端側(cè)AI市場規(guī)模為1,939億元，從2018至2023年，其年均復(fù)合增長率為116.3%。在2023年之前，端側(cè)AI技術(shù)已在多個(gè)領(lǐng)域落地應(yīng)用，其中智能安防和智能車載設(shè)備是兩個(gè)重要的應(yīng)用領(lǐng)域。AI手機(jī)和AIPC開始興起，兩者龐大的市場需求將在未來支撐端側(cè)AI行業(yè)迅速發(fā)展。預(yù)計(jì)2028年，中國端側(cè)AI市場規(guī)模將為19,071億元，年均復(fù)合增長率為58%。?

中國端側(cè)AI發(fā)展如何？混合式AI是指，終端設(shè)備和云端服務(wù)器相互協(xié)作，根據(jù)具體場景和時(shí)間，合理分配AI計(jì)算任務(wù)，以提供更優(yōu)的用戶體驗(yàn)，并高效利用計(jì)算資源。在特定應(yīng)用場景中，計(jì)算任務(wù)主要在終端設(shè)備上執(zhí)行，僅在需要時(shí)才將部分任務(wù)遷移到云端處理。而在以云端為核心的場景中，終端設(shè)備會(huì)根據(jù)自己的計(jì)算能力，在條件允許的情況下分擔(dān)部分AI計(jì)算任務(wù)。400-072-55883目錄◆

中國端側(cè)AI行業(yè)綜述----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------0607080910111213141617182021222425262728???端側(cè)AI定義及分類行業(yè)發(fā)展歷程市場規(guī)模測算◆

中國端側(cè)AI行業(yè)產(chǎn)業(yè)鏈分析????產(chǎn)業(yè)圖譜及說明上游產(chǎn)業(yè)鏈分析中游產(chǎn)業(yè)鏈分析下游產(chǎn)業(yè)鏈分析◆

中國端側(cè)AI行業(yè)分析?????相關(guān)政策驅(qū)動(dòng)因素限制因素發(fā)展趨勢競爭格局◆

中國端側(cè)AI代表性企業(yè)???華為商湯科技中科創(chuàng)達(dá)◆

方法論及法律聲明4Contents◆

OverviewofChina'sAITerminalApplicationIndustry----------------------------------------------------------0607?DefinitionandClassificationofIntelligentPerception??IndustryDevelopmentHistoryMarketSizeCalculation----------------------------------------------------------0809◆

AnalysisofChina'sAITerminalApplicationIndustry-----------------------------10Chain????IndustryMapandExplanation--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------11121315171819202122AnalysisofUpstreamIndustryChainAnalysisofMidstreamIndustryChainAnalysisofDownstreamIndustryChain◆

AnalysisofChina'sAITerminalApplicationIndustry?????RelatedPoliciesDrivingFactorsLimitingFactorsDevelopmentTrendsCompetitiveLandscape◆

RepresentativeEnterprisesofPerceivedIntelligence-----------------------------24inChina???HUAWEI--------------------------------------------------------------------------------------------------------------------25262728SenseTimeThunderSoft◆

MethodologyandLegalStatement5Chapter1中國端側(cè)AI行業(yè)綜述?

端側(cè)AI定義及分類?

行業(yè)發(fā)展歷程?

市場規(guī)模測算研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)綜述——端側(cè)AI定義及分類端側(cè)AI側(cè)重于將AI的能力下沉到設(shè)備端，并涵蓋AI驅(qū)動(dòng)系統(tǒng)融合、AI重塑操作系統(tǒng)、端側(cè)AI應(yīng)用、AI端云協(xié)同四層應(yīng)用，按照模型訓(xùn)練方向的分類方式，端側(cè)AI可以分為5大類端側(cè)AI行業(yè)定義與分類?

端側(cè)AI，是人工智能應(yīng)用的一種實(shí)現(xiàn)方式，側(cè)重于將AI的能力下沉到設(shè)備端，減少對云服務(wù)的依賴，從而實(shí)現(xiàn)更快的響應(yīng)速度、更好的隱私保護(hù)和更低的網(wǎng)絡(luò)需求。與云端大模型相比，端側(cè)AI更強(qiáng)調(diào)本地化運(yùn)行，以滿足用戶對隱私的需求和個(gè)性化的任務(wù)需求。值得關(guān)注的是，端側(cè)AI行業(yè)的應(yīng)用范圍廣泛，包括但不限于個(gè)人電腦（PC）、智能手機(jī)等設(shè)備。?

目前，端側(cè)AI涵蓋四層應(yīng)用：①AI驅(qū)動(dòng)系統(tǒng)融合，實(shí)現(xiàn)多設(shè)備間無縫銜接與數(shù)據(jù)共享；②AI重塑操作系統(tǒng)，通過意圖識(shí)別優(yōu)化人機(jī)互動(dòng)，提升用戶體驗(yàn)；③端側(cè)AI應(yīng)用，涵蓋圖像處理、文檔摘要等實(shí)用功能；④AI端云協(xié)同，結(jié)合云端大模型，拓展AI應(yīng)用場景邊界。?

按照模型訓(xùn)練方向的分類方式，端側(cè)AI行業(yè)可以分為5大類，包括自然語言處理端側(cè)AI、計(jì)算機(jī)視覺端側(cè)AI、智能語音端側(cè)AI、全模態(tài)處理端側(cè)AI以及科學(xué)計(jì)算端側(cè)AI。01自然語言處理端側(cè)AI在自然語言處理（NLP）領(lǐng)域的應(yīng)用意味著用戶的語音或文本命令可以直接在用戶的設(shè)備上被處理和理解，而不是上傳到云端處理。目前，許多科技公司都在研發(fā)專門針對端側(cè)的NLP解決方案，例如輕量級的NLP模型、邊緣計(jì)算平臺(tái)以及優(yōu)化的運(yùn)行時(shí)環(huán)境。02計(jì)算機(jī)視覺端側(cè)AI在本地設(shè)備上處理和分析圖像及視頻數(shù)據(jù)，以實(shí)現(xiàn)識(shí)別、分類、追蹤、場景理解等多種視覺任務(wù)。與自然語言處理的端側(cè)AI相似，計(jì)算機(jī)視覺端側(cè)AI也旨在提升隱私性、降低延遲、支持離線操作并優(yōu)化資源使用。03智能語音端側(cè)AI在本地設(shè)備上處理語音識(shí)別、語音合成、自然語言理解和語音交互等任務(wù)的技術(shù)。該技術(shù)的發(fā)展使得智能設(shè)備能在不依賴網(wǎng)絡(luò)連接的情況下，實(shí)現(xiàn)快速、高效且保護(hù)隱私的語音控制和交互。04全模態(tài)處理端側(cè)AI在邊緣設(shè)備上同時(shí)處理和融合多種類型的數(shù)據(jù)模態(tài)（如文本、語音、圖像、視頻等）的人工智能技術(shù)。該綜合處理方式旨在通過跨模態(tài)信息的整合，提高決策的準(zhǔn)確性和上下文理解能力，為用戶提供更為豐富和自然的交互體驗(yàn)。05科學(xué)計(jì)算端側(cè)AI在科研、工程設(shè)計(jì)、數(shù)據(jù)分析等專業(yè)領(lǐng)域，利用部署在本地設(shè)備上的人工智能算法來加速計(jì)算過程、優(yōu)化模型預(yù)測或執(zhí)行復(fù)雜數(shù)據(jù)分析的任務(wù)。與通用的端側(cè)AI相比，科學(xué)計(jì)算端側(cè)AI更加側(cè)重于處理大規(guī)模數(shù)據(jù)集、執(zhí)行復(fù)雜的數(shù)學(xué)運(yùn)算、模擬物理過程或解決特定領(lǐng)域的科學(xué)問題。來源：專家訪談，頭豹研究院400-072-55887?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)綜述——行業(yè)發(fā)展歷程中國端側(cè)AI行業(yè)經(jīng)歷三個(gè)階段，分別為起步探索階段、技術(shù)研發(fā)與初步落地階段和應(yīng)用快速拓展階段中國端側(cè)AI發(fā)展歷程2016-2017年2023年至今?2023年8月，華為在HarmonyOS4系統(tǒng)中集成盤古大模型，為用戶提供更智能的設(shè)備互動(dòng)。??2016年，阿里云開始研發(fā)端側(cè)AI能力。2017年，阿里云計(jì)劃并探索端側(cè)AI的研發(fā)方向。????2023年8月，小米開源自研的MiLM端側(cè)大模型，該模型包含13億參數(shù)。2018-2022年2023年10月，英特爾宣布將發(fā)布AIPC的英特爾酷睿Ultra處理器MeteorLake。??2018年5月，寒武紀(jì)發(fā)布1M終端智能處理器IP產(chǎn)品。2023年11月，OPPO采用端云協(xié)同設(shè)計(jì)構(gòu)建AndesGPT模型。2018年10月，華為推出Atlas智能計(jì)算平臺(tái)，旨在構(gòu)建一個(gè)全面覆蓋端、邊、云環(huán)境的AI基礎(chǔ)設(shè)施解決方案。截至2019年初，阿里集團(tuán)多數(shù)移動(dòng)應(yīng)用程序已融入端側(cè)AI技術(shù)，其中超20款A(yù)pp采用MNN推理引擎。2023年11月，VIVO推出自研AI藍(lán)心大模型，該模型可支持超過700項(xiàng)手機(jī)功能，并包含70億模型參數(shù)量。????2024年1月，榮耀的MagicOS8.0將應(yīng)用首個(gè)端側(cè)平臺(tái)級AI大模型一魔法大模型。2024年5月，蘋果和OpenAI將在6月10日的WWDC上聯(lián)合宣布將OpenAI的AI技術(shù)引入iOS18。2022年，天璣9200發(fā)布，其AI性能提升35%。?2024年5月，微軟推出全新WindowsPC品類—Windows11AIPC。?

中國端側(cè)AI行業(yè)經(jīng)歷三個(gè)階段：起步探索階段、技術(shù)研發(fā)與初步落地階段和應(yīng)用快速拓展階段。?

起步探索階段：2016-2017年，中國逐漸進(jìn)入端側(cè)AI領(lǐng)域，且互聯(lián)網(wǎng)巨頭企業(yè)率先發(fā)力。這標(biāo)志著中國正式開啟端側(cè)AI領(lǐng)域的探索之旅。?

技術(shù)研發(fā)與初步落地階段：2018-2022年，中國端側(cè)AI行業(yè)在本土創(chuàng)新企業(yè)的推動(dòng)下迅速啟動(dòng)，核心芯片研發(fā)、計(jì)算平臺(tái)建設(shè)、廣泛應(yīng)用實(shí)踐及性能持續(xù)升級。?

應(yīng)用快速拓展階段：2023年至今，中國主流科技企業(yè)紛紛在端側(cè)AI領(lǐng)域加大投入并取得顯著成果，特別是在移動(dòng)端和操作系統(tǒng)層面上的AI集成與創(chuàng)新。同時(shí)海外科技企業(yè)推動(dòng)端側(cè)AI技術(shù)的集成和應(yīng)用更廣泛。來源：企業(yè)官網(wǎng)，頭豹研究院400-072-55888?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)綜述——市場規(guī)模測算2023年中國端側(cè)AI市場規(guī)模為1,939億元，預(yù)計(jì)2028年其市場規(guī)模將為19,071億元，年均復(fù)合增長率為58%，端側(cè)AI已大規(guī)模用于智能安防和智能車載設(shè)備，未來AI手機(jī)和AIPC將成為主要增長因素中國端側(cè)AI行業(yè)市場規(guī)模，2018-2028E單位：億元CAGR58%19,07115,39512,664CAGR116.3%8,6615,0011,939960729526274412018201920202021202220232024E2025E2026E2027E2028E?

2023年中國端側(cè)AI市場規(guī)模為1,939億元，從2018至2023年，其年均復(fù)合增長率為116.3%。在2023年之前，端側(cè)AI技術(shù)已在多個(gè)領(lǐng)域落地應(yīng)用，其中智能安防和智能車載設(shè)備是兩個(gè)重要的應(yīng)用領(lǐng)域。端側(cè)AI在智能安防領(lǐng)域的應(yīng)用包括視頻監(jiān)控分析、面部識(shí)別、異常行為檢測等，以上技術(shù)能夠?qū)崟r(shí)分析監(jiān)控?cái)?shù)據(jù)，提高安防系統(tǒng)的響應(yīng)速度和準(zhǔn)確性，從而增強(qiáng)公共安全。在智能交通和自動(dòng)駕駛領(lǐng)域，端側(cè)AI技術(shù)被用于車輛的環(huán)境感知、決策制定和實(shí)時(shí)控制，包括車道保持輔助、碰撞預(yù)警、自動(dòng)泊車等智能功能，旨在提升駕駛安全和車輛的自動(dòng)化水平。?

值得關(guān)注的是，自2023年起，AI手機(jī)和AIPC開始興起，兩者龐大的市場需求將在未來支撐端側(cè)AI行業(yè)迅速發(fā)展。其中AI手機(jī)通過集成NPU或AI加速器，能實(shí)現(xiàn)更快的圖像處理、語音識(shí)別和自然語言處理等功能，進(jìn)而提供更加豐富的智能服務(wù)，如智能助手、實(shí)時(shí)翻譯、健康監(jiān)測等，極大地提升用戶體驗(yàn)。而AI

PC利用AI技術(shù)為用戶提供強(qiáng)大的計(jì)算能力和智能功能，特別是在創(chuàng)意工作、游戲、教育和企業(yè)級應(yīng)用中。例如，AI

PC能通過學(xué)習(xí)用戶的行為模式，優(yōu)化性能，提供個(gè)性化的軟件和服務(wù)。同時(shí)，端側(cè)AI的應(yīng)用將不斷拓展到新的領(lǐng)域，如智能家居、健康醫(yī)療、工業(yè)自動(dòng)化等。預(yù)計(jì)2028年，中國端側(cè)AI市場規(guī)模將為19,071億元，年均復(fù)合增長率為58%。來源：專家訪談，頭豹研究院400-072-55889?2024LeadLeoChapter2中國端側(cè)AI行業(yè)產(chǎn)業(yè)鏈分析?

產(chǎn)業(yè)圖譜及說明?

上游產(chǎn)業(yè)鏈分析?

中游產(chǎn)業(yè)鏈分析?

下游產(chǎn)業(yè)鏈分析研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)產(chǎn)業(yè)鏈分析——產(chǎn)業(yè)圖譜中國端側(cè)AI行業(yè)的上游產(chǎn)業(yè)鏈為核心技術(shù)和硬件提供商，中游產(chǎn)業(yè)鏈為端側(cè)AI系統(tǒng)集成與軟件平臺(tái)開發(fā)商，下游產(chǎn)業(yè)鏈為應(yīng)用領(lǐng)域與服務(wù)端側(cè)AI產(chǎn)業(yè)圖譜核心技術(shù)和硬件提供商AI基礎(chǔ)設(shè)施提供商算法框架AI芯片傳感器數(shù)據(jù)處理器處理器算力上游傳感器與其他硬件制造商端側(cè)AI系統(tǒng)集成與平臺(tái)服務(wù)商系統(tǒng)集成軟件平臺(tái)開發(fā)中游?具備端側(cè)AI技術(shù)的專業(yè)能力，包括模型優(yōu)化、硬件適配和系統(tǒng)集成等，提供從底層硬件到上層應(yīng)用的一體化解決方案，實(shí)現(xiàn)端側(cè)AI的系統(tǒng)集成?適應(yīng)端側(cè)設(shè)備的計(jì)算能力和存儲(chǔ)限制，提供輕量化的AI模型應(yīng)用領(lǐng)域與服務(wù)行業(yè)解決方案產(chǎn)品與軟件服務(wù)下游?利用端側(cè)AI技術(shù)，為特定行業(yè)或應(yīng)用場景提供?需利用AI技術(shù)來提升產(chǎn)品的智能化水平，增強(qiáng)用定制化的解決方案，以滿足不同客戶的需求戶體驗(yàn)，提高運(yùn)營效率，開發(fā)新的業(yè)務(wù)模式來源：頭豹研究院400-072-558811?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)產(chǎn)業(yè)鏈分析——上游產(chǎn)業(yè)鏈分析2022年中國通用算力和智能算力分別達(dá)137EFLOPS和41EFLOPS，分別占全球比重27%和39%，MindSpore在中國自主研發(fā)的AI框架中活躍度最高，且未來NPU將在端側(cè)AI領(lǐng)域廣泛應(yīng)用中國端側(cè)AI上游產(chǎn)業(yè)鏈分析中國算力規(guī)模情況，2021-2022年全球算力規(guī)模分布，2022年單位：%中國開發(fā)者主流AI框架使用率，2022年單位：%單位：EFLOPS1372%4%12%1%6%109PyTorchTensorFlowPaddlePaddleMindsporeOneFlowMXNet2%3%34%34%17%11%11%412922MeEngineJittor33%美國中國歐洲日本其他通用算力智能算力20212022超算算力30%其他?

伴隨著人工智能、大數(shù)據(jù)、云計(jì)算等前沿技術(shù)的迅速發(fā)展，算力作為技術(shù)基石，其需求呈爆發(fā)式增長。2022年中國通用算力和智能算力分別達(dá)137EFLOPS和41EFLOPS，分別同比增長25.7%和41.4%。?

美國、中國、歐洲、日本在全球算力規(guī)模中的份額分別為34%、33%、17%和4%。其中，在基礎(chǔ)算力方面，中國以27%份額的排名第二；在智能算力方面，中國以39%的份額排名第一。?

在選擇AI框架時(shí)，開發(fā)者最重視的因素是框架的易用性，其中有40%的開發(fā)者將其列為首要考量，其次性能為第二位選擇依據(jù)。值得關(guān)注的是，目前在中國自主研發(fā)的AI框架中，華為的昇思（MindSpore）展現(xiàn)出最高的活躍度。各類AI芯片對比中國AI服務(wù)器市場規(guī)模，2023-2027E單位：億美元指標(biāo)定制化程度功耗CPU通用型中GPU通用型高NPU定制化低FPGA半定制化低+10.2%13412211110091成本高高低中算力低中高高20232024E2025E2026E2027E?

NPU是為加速AI推理任務(wù)而特別設(shè)計(jì)的處理器，通過優(yōu)化的架構(gòu)實(shí)現(xiàn)低功耗運(yùn)行。由于AI工作負(fù)載主要涉及神經(jīng)網(wǎng)絡(luò)層的計(jì)算，包括標(biāo)量運(yùn)算、向量運(yùn)算和張量運(yùn)算，以及非線性激活函數(shù)的處理，因此未來NPU將在端側(cè)AI領(lǐng)域廣泛應(yīng)用。NPU針對網(wǎng)絡(luò)運(yùn)算優(yōu)化，可通過編程實(shí)現(xiàn)特定網(wǎng)絡(luò)功能，提供比CPU和GPU更高效、低能耗的神經(jīng)網(wǎng)絡(luò)處理能力，且相比FPGA成本更優(yōu)。?

隨著AIGC、云計(jì)算技術(shù)的發(fā)展，超級計(jì)算市場有望迎來新的增長。高端服務(wù)器市場和GPU服務(wù)器市場將持續(xù)擴(kuò)張，推動(dòng)AI服務(wù)器市場的進(jìn)一步發(fā)展。2023年，中國AI服務(wù)器市場規(guī)模達(dá)91億美元，預(yù)計(jì)2027年，中國AI服務(wù)器市場規(guī)模將達(dá)134億美元，年均復(fù)合增長率為10.2%。目前，中國長城和百度攜手合作，并成功完成一項(xiàng)重要的技術(shù)突破。該合作內(nèi)容針對擎天EF860雙路服務(wù)器和昆侖AI加速卡的適配測試，并標(biāo)志著繼AI-TF2000飛槳一體機(jī)之后，雙方在中國AI服務(wù)器領(lǐng)域的再次顯著進(jìn)展。來源：中國通信院，中國知網(wǎng)，頭豹研究院400-072-558812?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)產(chǎn)業(yè)鏈分析——中游產(chǎn)業(yè)鏈分析2023年中國端側(cè)大模型市場規(guī)模達(dá)8億元，預(yù)計(jì)2028年其市場規(guī)模將達(dá)79億元，年均復(fù)合增長率為58%，端側(cè)AI企業(yè)商業(yè)模式可分為5種，且主要參與者可分為4類中國端側(cè)AI中游產(chǎn)業(yè)鏈分析中國端側(cè)大模型市場規(guī)模單位：億元CAGR58%7961473121820232024E2025E2026E2027E2028E?

端側(cè)大模型是端側(cè)AI中游廠商實(shí)現(xiàn)落地應(yīng)用的關(guān)鍵因素之一，眾多端側(cè)AI中游廠商選擇自研端側(cè)大模型。隨著端側(cè)AI應(yīng)用需求的蓬勃涌現(xiàn)，2023年中國端側(cè)大模型市場規(guī)模達(dá)8億元，預(yù)計(jì)2028年其市場規(guī)模將達(dá)79億元，年均復(fù)合增長率為58%。端側(cè)AI企業(yè)商業(yè)模式中國端側(cè)AI行業(yè)主要參與者分類分類企業(yè)特征0102030405B2B和B2C：硬件設(shè)備集成銷售咨詢服務(wù)：行業(yè)定制化解決方案招投標(biāo)項(xiàng)目：與政府合作互聯(lián)網(wǎng)型企業(yè)阿里云商湯科技華為云榮耀擁有全面的行業(yè)解決方案，出色的軟件服務(wù)以及全局?jǐn)?shù)據(jù)平臺(tái)ToB、ToC人工智能企業(yè)具備較強(qiáng)的硬件集成能力，以及提供實(shí)時(shí)或近實(shí)時(shí)的處理能力端側(cè)AI終端場景企業(yè)技術(shù)授權(quán)：收取許可費(fèi)vivo國家電網(wǎng)具備龐大的規(guī)模和強(qiáng)大的抗風(fēng)險(xiǎn)能力，以及整合上下游產(chǎn)業(yè)鏈資源的能力訂閱服務(wù)：訂閱軟件及增值服務(wù)央企國家能源集團(tuán)?

端側(cè)AI企業(yè)的商業(yè)模式選擇取決于其技術(shù)優(yōu)勢、市場定位、目標(biāo)客戶群體以及行業(yè)特點(diǎn)，模式包括銷售硬件設(shè)備集成、提供行業(yè)定制化解決方案、參與政府項(xiàng)目、收取許可費(fèi)以及訂閱和增值費(fèi)用。?

端側(cè)AI企業(yè)可分為互聯(lián)網(wǎng)型企業(yè)、ToB、ToC人工智能企業(yè)、端側(cè)AI終端場景企業(yè)以及央企。其中互聯(lián)網(wǎng)型企業(yè)的優(yōu)勢在于擁有強(qiáng)大的在線服務(wù)和用戶基礎(chǔ)，而端側(cè)AI終端場景企業(yè)需與硬件設(shè)備緊密結(jié)合，提供端到端的解決方案。來源：專家訪談，頭豹研究院400-072-558813?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)產(chǎn)業(yè)鏈分析——下游產(chǎn)業(yè)鏈分析端側(cè)AI的應(yīng)用領(lǐng)域廣泛滲透到城市管理、交通、醫(yī)療、教育、制造業(yè)、零售、農(nóng)業(yè)、金融、數(shù)字社區(qū)以及文旅服務(wù)等多個(gè)行業(yè)，其中智慧安防和智慧車載領(lǐng)域的規(guī)模已達(dá)1,226億元和119億元中國端側(cè)AI行業(yè)下游應(yīng)用領(lǐng)域分析主要行業(yè)端側(cè)AI應(yīng)用場景分布端側(cè)AI智慧賦能城市交通醫(yī)療教育制造零售農(nóng)業(yè)金融數(shù)字社區(qū)文旅服務(wù)氣象預(yù)報(bào)警務(wù)系統(tǒng)無人駕駛車載終端信控系統(tǒng)超載治理影像分析臨床決策電子病歷自動(dòng)手術(shù)智能批改輔助教學(xué)拍照識(shí)題課堂檢測自動(dòng)分揀供應(yīng)管理維護(hù)檢測質(zhì)量管理商品識(shí)別自動(dòng)收銀智能貨柜會(huì)員識(shí)別識(shí)別蟲害智能投顧無人監(jiān)控土壤提取精準(zhǔn)種植風(fēng)險(xiǎn)評估詐騙分析身份識(shí)別?

端側(cè)AI的應(yīng)用領(lǐng)域廣泛滲透到城市管理、交通、醫(yī)療、教育、制造業(yè)、零售、農(nóng)業(yè)、金融、數(shù)字社區(qū)以及文旅服務(wù)等多個(gè)行業(yè)。端側(cè)AI通過在設(shè)備端完成數(shù)據(jù)處理，提供高速、低功耗、高隱私保護(hù)的解決方案，涉及應(yīng)用如AR體驗(yàn)、游戲交互、美顏及虛擬試妝、智能內(nèi)容推薦、用戶狀態(tài)感知與智能推送等，以及在汽車領(lǐng)域?qū)崿F(xiàn)個(gè)性化與安全駕駛輔助。此外，端側(cè)AI還在持續(xù)推動(dòng)著工作與生活的變革，例如提升筆記本電腦的智能化水平至可與行業(yè)領(lǐng)先品牌競爭的程度，以及在MWC等展覽會(huì)上展示的最新AI賦能的用戶體驗(yàn)創(chuàng)新。端側(cè)AI的應(yīng)用預(yù)示著一個(gè)更加智能、便捷且安全的數(shù)字化生活時(shí)代的到來。中國智能安防市場規(guī)模，2023-2028E中國智能車載市場規(guī)模，

2023-2028E單位：億元單位：億元5,5986404,425518+35.5%+40%4183,4982,7653241,8402161,22620231192024E2025E2026E2027E2028E20232024E2025E2026E2027E2028E?

2023年中國智慧安防市場規(guī)模達(dá)1,226億元，預(yù)計(jì)2028年其市場規(guī)模將達(dá)5,598億元，年均復(fù)合增長率為35.5%。端側(cè)AI是智慧安防系統(tǒng)的核心組成部分，通過在本地執(zhí)行高級分析和處理任務(wù)，不僅提高安防系統(tǒng)的智能化水平，還增強(qiáng)系統(tǒng)的效率和安全性。?

2023年中國智能車載市場規(guī)模達(dá)119億元，預(yù)計(jì)2028年其市場規(guī)模將達(dá)640億元，年均復(fù)合增長率為40%。智能車載系統(tǒng)通過端側(cè)AI的應(yīng)用，不僅提升車輛的智能化水平，還增強(qiáng)車輛的自主性和互動(dòng)性，同時(shí)推動(dòng)智能交通系統(tǒng)和自動(dòng)駕駛技術(shù)的發(fā)展。隨著AI技術(shù)的不斷進(jìn)步，預(yù)計(jì)未來智能車載系統(tǒng)將更加依賴于端側(cè)AI，以實(shí)現(xiàn)更高級別的自動(dòng)化和智能化。來源：深圳新聞網(wǎng)，中國知網(wǎng)，數(shù)字信息安防產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)盟，頭豹研究院400-072-558814?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI（接上頁——下游產(chǎn)業(yè)鏈分析）未來AIPC和AI手機(jī)將作為端側(cè)AI領(lǐng)域的重要載體，預(yù)計(jì)2027年，中國AIPC占個(gè)人電腦的市場比重將達(dá)84.6%，AI手機(jī)將占51.9%的手機(jī)市場份額，同時(shí)80%以上的終端設(shè)備將具備AI處理能力中國端側(cè)AI行業(yè)下游產(chǎn)品與軟件服務(wù)分析中國AIPC市場規(guī)模占比，2023-2027E全球已布局AIPC企業(yè)AIPC產(chǎn)品單位：%企業(yè)蘋果榮耀發(fā)布日期2024.3.42024.3.18所應(yīng)用AI技術(shù)84.6%80.3%74.6%MacBookAir（M3）16核神經(jīng)網(wǎng)絡(luò)引擎AI硬件、AI助理、54.7%MagicBookPro16AI互聯(lián)8.1%微軟華為2024.3.222024.4.11SurfacePro10AI專屬芯片NPUMateBookXPro盤古大模型20232024E2025E2026E2027E?

AIPC集成混合AI算力單元，可本地運(yùn)行個(gè)人大模型，同時(shí)創(chuàng)建個(gè)性化知識(shí)庫，進(jìn)而實(shí)現(xiàn)自然語言交互。AIPC不僅是生產(chǎn)力工具，也是個(gè)人AI助理，不僅可提高效率，還能簡化工作流程，同時(shí)保護(hù)隱私數(shù)據(jù)安全。?

2023年，中國AIPC占個(gè)人電腦的市場比重為8.1%，預(yù)計(jì)2027年其占比將達(dá)84.6%。值得一提的是，預(yù)計(jì)到2027年，AI平板電腦在平板電腦市場的占比將達(dá)到75%。?

未來，惠普、戴爾、聯(lián)想、華碩等電腦制造商計(jì)劃與英特爾和AMD的新一代CPU產(chǎn)品發(fā)布計(jì)劃保持同步，并推出搭載新處理器的AIPC。在AIPC的引領(lǐng)下，PC產(chǎn)業(yè)將從應(yīng)用中心轉(zhuǎn)向用戶中心，從應(yīng)用驅(qū)動(dòng)轉(zhuǎn)變?yōu)樾枨篁?qū)動(dòng)。中國AI手機(jī)銷量及占比，2023-2027E單位：億臺(tái)，%全球布局AI手機(jī)企業(yè)是否1.5企業(yè)是否自研應(yīng)用于AI手機(jī)的大模型落地1.3vivoOPPO榮耀華為小米蘋果三星是是藍(lán)心大模型AndesGPT大模型魔法大模型盤古大模型XiaomiAISPChatGPT+196.8%0.8與聯(lián)發(fā)科技合作是51.9%45.3%是是0.429.6%是是13.2%0.15.5%是與OpenAI合作是是20232024E銷量2025E2026E2027E否市場份額占比是三星高斯?

AI手機(jī)搭載支持生成式AI的智能終端硬件平臺(tái)，并內(nèi)嵌專屬智能體。AI技術(shù)不僅推動(dòng)攝影技術(shù)的發(fā)展，生成式AI在手機(jī)端側(cè)得到應(yīng)用，涵蓋智能助手和操作系統(tǒng)優(yōu)化等領(lǐng)域。?

2023年，中國AI手機(jī)的出貨量為0.1億臺(tái)，同時(shí)超過30家手機(jī)廠商宣布將AI大模型引入手機(jī)中。值得關(guān)注的是，預(yù)計(jì)2027年，中國AI手機(jī)的出貨量將達(dá)1.5億臺(tái)，并占中國51.9%的手機(jī)市場份額，年均復(fù)合增長率為196.8%。?

預(yù)計(jì)2024年，中國終端設(shè)備市場中超過50%的設(shè)備將內(nèi)置具備AI處理能力的硬件基礎(chǔ)。預(yù)計(jì)2027年，該比例將上升至80%，并進(jìn)入穩(wěn)定增長的階段。來源：中國知網(wǎng)，白皮書，頭豹研究院400-072-558815?2024LeadLeoChapter3中國端側(cè)AI行業(yè)分析?

相關(guān)政策?

驅(qū)動(dòng)因素?

限制因素?

發(fā)展趨勢?

競爭格局研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)分析——相關(guān)政策中國一系列跨領(lǐng)域的政策，為端側(cè)AI行業(yè)提供戰(zhàn)略支持、算力基礎(chǔ)、標(biāo)準(zhǔn)化指導(dǎo)、服務(wù)管理規(guī)范和應(yīng)用場景創(chuàng)新的全方位推動(dòng)力中國端側(cè)AI行業(yè)相關(guān)政策政策名稱《深入實(shí)施“東數(shù)西算”工程加快構(gòu)建全國一體化算力網(wǎng)的實(shí)施意見》2023

發(fā)布主體發(fā)改委，工信部等5部門發(fā)布時(shí)間該政策指出，以算力高質(zhì)量發(fā)展賦能經(jīng)濟(jì)高質(zhì)量發(fā)展為主線，充分發(fā)揮全國一體化算力網(wǎng)絡(luò)國家樞紐節(jié)點(diǎn)，協(xié)同推進(jìn)“東數(shù)西算”工程主要內(nèi)容政策名稱《數(shù)字中國建設(shè)整體布局規(guī)劃》發(fā)布時(shí)間2023發(fā)布主體中共中央，國務(wù)院該政策指出，推進(jìn)數(shù)字社會(huì)治理精準(zhǔn)化，深入實(shí)施數(shù)字鄉(xiāng)村發(fā)展行動(dòng)，以數(shù)字化賦能鄉(xiāng)村產(chǎn)業(yè)發(fā)展、鄉(xiāng)村建設(shè)和鄉(xiāng)村治理。同時(shí)普及數(shù)字生活智能化，打造智慧便民生活圈、新型數(shù)字消費(fèi)業(yè)態(tài)、面向未來的智能化沉浸式服務(wù)體驗(yàn)主要內(nèi)容政策名稱《新產(chǎn)業(yè)標(biāo)準(zhǔn)化領(lǐng)航工程實(shí)施方案（2023—2035年）》發(fā)布時(shí)間2023發(fā)布主體工信部，科技部等4部門該政策指出，研制人形機(jī)器人術(shù)語、通用本體、整機(jī)結(jié)構(gòu)、社會(huì)倫理等基礎(chǔ)標(biāo)準(zhǔn)。同時(shí)研制人形機(jī)器人感知系統(tǒng)、定位導(dǎo)航、人機(jī)交互、自主決策、集群控制等智能感知決策和控制標(biāo)準(zhǔn)主要內(nèi)容政策名稱《生成式人工智能服務(wù)管理暫行辦法》發(fā)布時(shí)間2023發(fā)布主體發(fā)改委，工信部，教育部等7部門該政策指出，鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，同時(shí)完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引，從而倡導(dǎo)人形機(jī)器人標(biāo)準(zhǔn)化主要內(nèi)容政策名稱《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》發(fā)布時(shí)間2022發(fā)布主體工信部，教育部，科技部等6部門該政策指出，在城市管理領(lǐng)域，探索城市大腦、城市物聯(lián)感知、政務(wù)數(shù)據(jù)可用不可見、數(shù)字采購等場景。在交通治理領(lǐng)域，探索交通大腦、智慧道路、智慧停車、自動(dòng)駕駛出行、智慧港口、智慧航道等場景主要內(nèi)容?

中國一系列跨領(lǐng)域的政策，為端側(cè)AI行業(yè)提供戰(zhàn)略支持、算力基礎(chǔ)、標(biāo)準(zhǔn)化指導(dǎo)、服務(wù)管理規(guī)范和應(yīng)用場景創(chuàng)新的全方位推動(dòng)力。這意味著端側(cè)AI將在國家層面得到更加明確的發(fā)展路徑、更加強(qiáng)大的技術(shù)支撐和更加廣闊的應(yīng)用前景，從而加速AI技術(shù)的創(chuàng)新應(yīng)用和產(chǎn)業(yè)生態(tài)的構(gòu)建。通過推動(dòng)端側(cè)AI向更深層次、更廣領(lǐng)域發(fā)展，經(jīng)濟(jì)社會(huì)的數(shù)字化轉(zhuǎn)型和高質(zhì)量發(fā)展將獲得新動(dòng)能。來源：各政府部門，頭豹研究院400-072-558817?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)分析——驅(qū)動(dòng)因素技術(shù)進(jìn)步和邊緣計(jì)算的出現(xiàn)是端側(cè)AI行業(yè)發(fā)展的驅(qū)動(dòng)因素，主要在于移動(dòng)通信技術(shù)的迭代、異構(gòu)結(jié)構(gòu)提高處理性能以及云計(jì)算與終端設(shè)備之間的空白被填補(bǔ)中國端側(cè)AI行業(yè)發(fā)展驅(qū)動(dòng)因素技術(shù)進(jìn)步移動(dòng)通信技術(shù)的迭代，異構(gòu)結(jié)構(gòu)提高處理性能異構(gòu)結(jié)構(gòu)中不同處理器使用目的各類終端產(chǎn)品應(yīng)用端側(cè)AI對通信技術(shù)需求程度??????智能空調(diào)無人機(jī)???電腦、平板手機(jī)CPUGPUNPU??智慧醫(yī)療機(jī)器臂智慧交通燈智能手表XR頭顯智慧終端購物助手體征檢測器具備良好的靈活具備多流處理器、低功耗實(shí)現(xiàn)持性和單線程性能??智慧保姆機(jī)器人高帶寬內(nèi)存系統(tǒng)續(xù)穩(wěn)定高性能車載終端自動(dòng)駕駛汽車時(shí)延敏感型小模型LLMLVM圖像處理不相關(guān)中度相關(guān)高度相關(guān)?

移動(dòng)通信技術(shù)主要通過提升數(shù)據(jù)傳輸速度、降低延遲和增強(qiáng)連接性，為端側(cè)AI提供更廣闊的施展空間和實(shí)時(shí)交互能力。值得關(guān)注的是，手機(jī)、電腦、自動(dòng)駕駛汽車等終端產(chǎn)品需配置6G網(wǎng)絡(luò)，以完全實(shí)現(xiàn)應(yīng)用需求。主要原因在于，涉及高清視頻處理、實(shí)時(shí)數(shù)據(jù)分析和復(fù)雜模型推理的應(yīng)用，需極高的數(shù)據(jù)傳輸帶寬，同時(shí)6G網(wǎng)絡(luò)將提供更低的延遲，進(jìn)而提高應(yīng)用的實(shí)時(shí)性和可靠性。此外，6G網(wǎng)絡(luò)將采用更加先進(jìn)的網(wǎng)絡(luò)架構(gòu)，包括去中心化和智能化的網(wǎng)絡(luò)管理，將有助于提高端側(cè)AI產(chǎn)品的運(yùn)行效率和靈活性。?

終端異構(gòu)混合計(jì)算資源（CPU、NPU和GPU）是推動(dòng)AI技術(shù)在各個(gè)領(lǐng)域廣泛應(yīng)用的關(guān)鍵。異構(gòu)混合架構(gòu)通過結(jié)合不同指令集和體系結(jié)構(gòu)的計(jì)算單元，構(gòu)建一個(gè)本地計(jì)算系統(tǒng)。該架構(gòu)能利用CPU、NPU和GPU等計(jì)算設(shè)備的優(yōu)勢，針對不同的AI任務(wù)提供高效靈活的處理方案。邊緣計(jì)算填補(bǔ)云計(jì)算與終端設(shè)備之間的空白應(yīng)用邊緣管理器邊緣節(jié)點(diǎn)接口設(shè)備模型驅(qū)動(dòng)服務(wù)框架圖云服務(wù)云側(cè)邊緣側(cè)端側(cè)?

邊緣計(jì)算代表分布式系統(tǒng)架構(gòu)的演進(jìn)，其主要概念是將數(shù)據(jù)處理和業(yè)務(wù)邏輯推向網(wǎng)絡(luò)的邊緣，即靠近數(shù)據(jù)生成的位置。邊緣計(jì)算旨在減輕云端服務(wù)器的計(jì)算壓力，并加快物聯(lián)網(wǎng)設(shè)備對數(shù)據(jù)處理需求的響應(yīng)時(shí)間?？梢?，邊緣計(jì)算通過提供低延遲、高隱私、低成本、高可靠性的計(jì)算平臺(tái)，不僅解決端側(cè)AI應(yīng)用的核心問題，還促進(jìn)AI技術(shù)在更多領(lǐng)域的創(chuàng)新應(yīng)用和商業(yè)化落地。預(yù)計(jì)2025年，中國邊緣計(jì)算算力將占總算力市場比重的10%，預(yù)計(jì)2030年，其占比將達(dá)70%。來源：全球移動(dòng)通信系統(tǒng)協(xié)會(huì)，專家訪談，頭豹研究院400-072-558818?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI（接上頁——驅(qū)動(dòng)因素）AIAgent的特點(diǎn)在于其自主性，能不依賴持續(xù)的人為指令，并依據(jù)任務(wù)需求自我調(diào)整策略，未來AIAgent將在端側(cè)設(shè)備上獨(dú)立運(yùn)行，成為智能設(shè)備的核心組件中國端側(cè)AI行業(yè)發(fā)展驅(qū)動(dòng)因素AIAgent興起自主決策執(zhí)行，成為端側(cè)AI的核心組件?

AIAgent是一種技術(shù)實(shí)體，能自主感知周遭環(huán)境，通過內(nèi)在的智能處理進(jìn)行決策，并執(zhí)行相應(yīng)行動(dòng)以達(dá)成特定目的。AIAgent的特點(diǎn)在于其自主性，能不依賴持續(xù)的人為指令，并依據(jù)任務(wù)需求自我調(diào)整策略。AIAgent的設(shè)計(jì)較為高級，一旦接收到一個(gè)目標(biāo)指令，即可啟動(dòng)一系列復(fù)雜邏輯，包括但不限于自我學(xué)習(xí)、工具利用等，來獨(dú)立推進(jìn)行動(dòng)計(jì)劃直至任務(wù)成功完成。人與AIAgent合作模式圖AIAgent生態(tài)框架圖底層框架

LLM人AI????規(guī)劃記憶決策及內(nèi)容生成實(shí)用工具采取行動(dòng)?AI完全代理???設(shè)定目標(biāo)分配資源監(jiān)管成果?分解任務(wù)選擇工具監(jiān)控進(jìn)度??軟件、硬件提供商AgentStoreAIAgent?AI自助結(jié)束云側(cè)、端側(cè)?

AIAgent將在端側(cè)設(shè)備上獨(dú)立運(yùn)行，成為端側(cè)AI的核心組件。以聯(lián)想的“智能終端AIOS”為例，該系統(tǒng)通過將AI技術(shù)集成到個(gè)人Agent中，并嵌入智能終端，打造新一代的AI驅(qū)動(dòng)操作系統(tǒng)。該集成方式不僅增強(qiáng)端側(cè)設(shè)備的智能功能，還支持跨應(yīng)用操作、主動(dòng)服務(wù)和自我進(jìn)化的能力。同時(shí)，端側(cè)AI模型的運(yùn)行效率顯著提高，能在短時(shí)間內(nèi)處理大量數(shù)據(jù)，實(shí)現(xiàn)快速響應(yīng)和低延遲。隨著AI技術(shù)的不斷進(jìn)步，AIAgent將在端側(cè)AI領(lǐng)域扮演愈發(fā)重要的角色。來源：頭豹研究院400-072-558819?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)分析——限制因素端側(cè)AI行業(yè)發(fā)展的核心限制因素是端側(cè)大模型參數(shù)量小，主要原因在于設(shè)備芯片功耗高、設(shè)備存儲(chǔ)不足以及設(shè)備硬件算力不足中國端側(cè)AI行業(yè)發(fā)展限制因素端側(cè)大模型參數(shù)量小設(shè)備芯片功耗高設(shè)備存儲(chǔ)不足設(shè)備硬件算力不足模型運(yùn)行需要充足電量，并產(chǎn)生大量熱量。由于長時(shí)間運(yùn)行大模型會(huì)導(dǎo)致設(shè)備發(fā)熱，不僅影響用戶體驗(yàn)，還損害硬件。同時(shí)，移動(dòng)設(shè)備依賴電池供電，而目前移動(dòng)設(shè)備的電池容量難以支撐大模型進(jìn)行長時(shí)間或復(fù)雜運(yùn)算。模型加載需要大量內(nèi)存。例如，百億參數(shù)的模型需要數(shù)十GB的存儲(chǔ)空間，而普通智能手機(jī)的內(nèi)存容量有限。大部分手機(jī)內(nèi)容為64GB、128GB、256GB，而達(dá)到TB級別容量的手機(jī)售價(jià)昂貴，消費(fèi)者購買意愿低。模型算力需求高于設(shè)備硬件算力能力。多數(shù)端側(cè)設(shè)備的算力普遍低于16TOPS。盡管在自動(dòng)駕駛領(lǐng)域，車載設(shè)備的算力高于移動(dòng)設(shè)備算力，達(dá)約47TOPS。但總體而言，端側(cè)設(shè)備的主流算力普遍在6TOPS-8TOPS以下。?

端側(cè)AI行業(yè)發(fā)展的核心限制因素是端側(cè)大模型參數(shù)量小，主要原因在于設(shè)備芯片功耗高、設(shè)備存儲(chǔ)不足以及設(shè)備硬件算力不足。云端大模型參數(shù)量級通常達(dá)到上百億至數(shù)千億，而端側(cè)大模型參數(shù)量較小，主流端側(cè)大模型參數(shù)量約為20億。此外，端側(cè)大模型需適應(yīng)不同性能的設(shè)備，在模型設(shè)計(jì)時(shí)需考慮到廣泛的硬件兼容性，因此加大研發(fā)難度。云側(cè)端側(cè)文本生成圖像生成視頻生成編程科學(xué)計(jì)算多模態(tài)生成0.11101001,000模型規(guī)模（十億參數(shù)）來源：白皮書，專家訪談，頭豹研究院400-072-558820?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)分析——發(fā)展趨勢未來端側(cè)AI將與云側(cè)AI結(jié)合為混合式AI一同使用，采用混合式AI，可在全球范圍內(nèi)實(shí)現(xiàn)成本效益、能效、性能提升、隱私保護(hù)、安全性增強(qiáng)和個(gè)性化服務(wù)中國端側(cè)AI行業(yè)發(fā)展趨勢中心云、邊緣云及端側(cè)關(guān)系圖網(wǎng)絡(luò)中心云邊緣云端側(cè)混合式AI?

混合式AI是指，終端設(shè)備和云端服務(wù)器相互協(xié)作，根據(jù)具體場景和時(shí)間，合理分配AI計(jì)算任務(wù)，以提供更優(yōu)的用戶體驗(yàn)，并高效利用計(jì)算資源。在特定應(yīng)用場景中，計(jì)算任務(wù)主要在終端設(shè)備上執(zhí)行，僅在需要時(shí)才將部分任務(wù)遷移到云端處理。而在以云端為核心的場景中，終端設(shè)備會(huì)根據(jù)自己的計(jì)算能力，在條件允許的情況下分擔(dān)部分AI計(jì)算任務(wù)。?

混合式AI技術(shù)將允許開發(fā)者和提供商利用邊緣設(shè)備上的計(jì)算資源，從而降低成本。同時(shí)，混合式AI能在全球范圍內(nèi)提供高性能、個(gè)性化服務(wù)、隱私保護(hù)和安全保障等優(yōu)勢。低成本：生成式AI搜索的成本是傳統(tǒng)搜索方法的10倍。通過將處理010305混合式AI的優(yōu)勢任務(wù)從云端轉(zhuǎn)向邊緣設(shè)備，可降低云壓力和成本。強(qiáng)可靠性、性能和時(shí)延：在混合式AI的架構(gòu)下，終端側(cè)AI處理穩(wěn)定高效，即使云服務(wù)擁堵也能保持性能，同時(shí)可避免云端高峰時(shí)的排隊(duì)、延遲和拒服問題。低能耗：邊緣設(shè)備支持高效AI處理，且能效優(yōu)于云端。結(jié)合處理和數(shù)據(jù)傳輸，邊緣設(shè)備以低能耗運(yùn)行生成式AI模型。0204高隱私性和安全性：端側(cè)AI的設(shè)計(jì)有助于保護(hù)用戶隱私，通過本地處理查詢和個(gè)人信息，避免數(shù)據(jù)泄露，對于企業(yè)或工作環(huán)境中保護(hù)敏感信息具有重要意義。強(qiáng)個(gè)性化：混合AI實(shí)現(xiàn)個(gè)性化體驗(yàn)，數(shù)字助手可定制化服務(wù)，同時(shí)確保隱私安全。此外，個(gè)性化應(yīng)用不僅限于消費(fèi)者，企業(yè)也可利用混合AI標(biāo)準(zhǔn)化代碼編寫等。來源：白皮書，頭豹研究院400-072-558821?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI中國端側(cè)AI行業(yè)分析——競爭格局中國端側(cè)AI行業(yè)的競爭格局梯隊(duì)主要根據(jù)市場力進(jìn)行劃分，其中包括端側(cè)AI行業(yè)解決方案、硬件產(chǎn)品以及軟件服務(wù)，其中第一梯隊(duì)包括華為云、阿里云以及商湯科技中國端側(cè)AI行業(yè)競爭格局分析企業(yè)名稱華為云是否上市主要產(chǎn)品與服務(wù)市場競爭力HiAI3.0平臺(tái)是一個(gè)具備端側(cè)分布式AI開放能力的平臺(tái)，將SoC中加入指向AI算力的NPU，完成AI手機(jī)的研發(fā)否第一梯隊(duì)開源了推理引擎MNN，用于支持端側(cè)AI應(yīng)用，端側(cè)AI技術(shù)緊貼用戶在AR特效、搜索推薦等方面有諸多創(chuàng)新應(yīng)用阿里云否是第一梯隊(duì)第一梯隊(duì)發(fā)布行業(yè)首個(gè)“云、端、邊”全棧大模型產(chǎn)品矩陣，其中包括應(yīng)用于終端設(shè)備的“商湯端側(cè)大模型”，以及“日日新SenseNova5.0”大模型體系商湯科技提供包括AI手機(jī)、AIPC等端側(cè)品類的整體解決方案，發(fā)布AI魔方大模型和滴水OS整車操作系統(tǒng)，以及AI開發(fā)套件RubikLiteDK中科創(chuàng)達(dá)云從科技漢王科技寒武紀(jì)瀾舟科技榮耀是是是是否否否第二梯隊(duì)第二梯隊(duì)第二梯隊(duì)第三梯隊(duì)第三梯隊(duì)第三梯隊(duì)第三梯隊(duì)在人臉識(shí)別、圖像識(shí)別等領(lǐng)域深耕，其技術(shù)廣泛應(yīng)用于金融、安防、交通等多個(gè)行業(yè)計(jì)劃于2025年推出人形機(jī)器人，該人形機(jī)器人融合先進(jìn)的機(jī)器人傳感技術(shù)、智能汽車技術(shù)以及采用鯤鵬鴻蒙系統(tǒng)的集成芯片設(shè)計(jì)專長在于加速AI計(jì)算，為端側(cè)設(shè)備提供強(qiáng)大的本地處理能力，支持快速響應(yīng)的AI功能和服務(wù)利用“孟子大模型”為核心技術(shù)，直接部署在用戶的移動(dòng)設(shè)備或嵌入式系統(tǒng)中，開發(fā)面向消費(fèi)者的創(chuàng)意輔助工具自研平臺(tái)級端側(cè)AI大模型“魔法大模型”，榮耀AI手機(jī)搭載諸如AI助手、場景識(shí)別等功能，強(qiáng)調(diào)個(gè)性化體驗(yàn)和高效能運(yùn)算發(fā)布自研藍(lán)心大模型，在近年來的旗艦機(jī)型中積極整合端側(cè)AI技術(shù)，比如AI相機(jī)增強(qiáng)、游戲優(yōu)化、智能電源管理等vivo中國端側(cè)AI領(lǐng)域競爭格局，2023年中科創(chuàng)達(dá)創(chuàng)寒武紀(jì)新潛力vivo華為云阿里云商湯科技云從科技榮耀漢王科技瀾舟科技第三梯隊(duì)第二梯隊(duì)市場力第一梯隊(duì)來源：頭豹研究院400-072-558822?2024LeadLeo研究報(bào)告|2024/05中國端側(cè)AI（接上頁——競爭格局）中國端側(cè)AI行業(yè)競爭格局的第一梯隊(duì)為互聯(lián)網(wǎng)頭部企業(yè)和ToB龍頭企業(yè)，第二梯隊(duì)為大部份AI先行企業(yè)，第三梯隊(duì)為端側(cè)場景應(yīng)用企業(yè)，其中包括車企、手機(jī)廠商等中國端側(cè)AI行業(yè)競爭格局分析?

中國端側(cè)AI行業(yè)的競爭格局梯隊(duì)主要根據(jù)市場力進(jìn)行劃分，其中包括端側(cè)AI行業(yè)解決方案、硬件產(chǎn)品以及軟件服務(wù)。第一梯隊(duì)包括華為云、阿里云以及商湯科技等，主要特點(diǎn)是以上企業(yè)不僅擁有全面的行業(yè)解決方案，還具備優(yōu)秀的硬件和軟件；第二梯隊(duì)包括中科創(chuàng)達(dá)、云從科技以及漢王科技等，主要特點(diǎn)是以上企業(yè)硬件和軟件方面比較突出；第三梯隊(duì)包括寒武紀(jì)、瀾舟科技、榮耀、vivo等，主要特點(diǎn)是以上企業(yè)的端側(cè)AI產(chǎn)品聚焦在少數(shù)特定領(lǐng)域，以及進(jìn)入端側(cè)AI領(lǐng)域時(shí)間較晚。?

中國端側(cè)AI行業(yè)競爭格局的第一梯隊(duì)為互聯(lián)網(wǎng)頭部企業(yè)和ToB龍頭企業(yè)，第二梯隊(duì)為大部分AI先行企業(yè)，第三梯隊(duì)為端側(cè)場景應(yīng)用企業(yè)，其中包括車企、手機(jī)廠商等。來源：專家訪談，頭豹研究院23400-072-5588?2024LeadLeoChapter4中國端側(cè)AI代表性企業(yè)?

華為?

商湯科技?

中科創(chuàng)達(dá)研究報(bào)告

|2024/05中國端側(cè)AI中國端側(cè)AI代表性企業(yè)——華為華為的競爭亮點(diǎn)有領(lǐng)先的5G通信技術(shù)、全棧云服務(wù)以及“云+端”協(xié)同框架，同時(shí)擁有廣泛的設(shè)備覆蓋和快速增長的市場份額，以及昇騰AI處理器和Atlas方案支持云端到端側(cè)AI應(yīng)用華為企業(yè)介紹??企業(yè)名稱：華為技術(shù)有限公司??總部地址：深圳成立時(shí)間：1987年行業(yè)領(lǐng)域：計(jì)算機(jī)、通信和其他電子設(shè)備制造業(yè)、人工智能智慧金融行業(yè)解決方案智慧制造智慧礦業(yè)智慧政務(wù)智慧能源智慧教育智慧零售智慧醫(yī)療智慧建筑智慧交通智慧地產(chǎn)智慧電力企業(yè)網(wǎng)絡(luò)企業(yè)光網(wǎng)絡(luò)數(shù)據(jù)存儲(chǔ)計(jì)算智能協(xié)作產(chǎn)品服務(wù)企業(yè)無線企業(yè)服務(wù)與軟件管理系統(tǒng)智能邊緣華為云華為坤靈系列昇騰系列產(chǎn)品AI模塊AI加速卡AI服務(wù)器AI集群華為從2017年推出麒麟970開始，就在其高端智能手機(jī)中集成了專用的神經(jīng)網(wǎng)絡(luò)處理單元（NPU），作為華為端側(cè)AI技術(shù)的基礎(chǔ)。后續(xù)的麒麟芯片持續(xù)迭代，提升AI運(yùn)算能力，使得設(shè)備能更高效地運(yùn)行復(fù)雜的AI算法。此外，華為通過提供開放平臺(tái)如HiKey開發(fā)板以及相關(guān)的SDK和工具，鼓勵(lì)開發(fā)者創(chuàng)建更多基于端側(cè)AI的應(yīng)用和服務(wù)。?

競爭亮點(diǎn)01領(lǐng)先5G通信技術(shù)提供高速、低延遲的網(wǎng)絡(luò)解決方案?

華為擁有廣泛的設(shè)備覆蓋和快速增長的市場份額目前，鴻蒙操作系統(tǒng)的生態(tài)已經(jīng)擴(kuò)展到超過8億臺(tái)設(shè)備，已有180款設(shè)備已經(jīng)升級到HarmonyOS4.2版本，其中包括智能手機(jī)、平板電腦、耳機(jī)以及智能顯示屏等多種類型。2024年第一季度，中國智能手機(jī)市場出貨量達(dá)6,926萬臺(tái)，同比增長6.5%。在眾多廠商中，華為以17%的市場份額排在中國市場出貨量的第二位，同比增長幅度達(dá)110%，與排名第一的榮耀市場份額的差距僅為0.1%。而在2023年第四季度，華為的市場份額為13.9%，在市場中排名第四。02全棧云服務(wù)提供從IaaS到PaaS的全棧云服務(wù)，涵蓋計(jì)算、存儲(chǔ)、數(shù)據(jù)庫、AI、IoT等多種服務(wù)?華為昇騰AI處理器和Atlas方案支持云端到端側(cè)AI應(yīng)用03華為利用華為昇騰系列AI處理器及配套的基礎(chǔ)軟件平臺(tái)，Atlas人工智能計(jì)算解決方案得以構(gòu)建，該方案涵蓋廣泛的硬件形態(tài)，如Atlas模塊、板卡、邊緣計(jì)算設(shè)備、服務(wù)器群組等，旨在滿足“端側(cè)、邊緣、云端”全方位的AI計(jì)算需求。其中，AI模塊在邊緣設(shè)備上執(zhí)行目標(biāo)識(shí)別和圖像分類任務(wù)，廣泛應(yīng)用于智能攝像頭、機(jī)器人和無人機(jī)等端側(cè)AI應(yīng)用場景。“云+端”

協(xié)同架構(gòu)提供基于人工智能芯片及模塊的軟硬件集成解決方案來源：中國知網(wǎng)，企業(yè)官網(wǎng)，頭豹研究院400-072-558825研究報(bào)告

|2024/05中國端側(cè)AI中國端側(cè)AI代表性企業(yè)——商湯科技商湯科技成立至今10年，于2023年推出商湯大模型體系“日日新”，同時(shí)完成“云端邊”全棧布局，依靠超大算力支撐，再結(jié)合大模型與行業(yè)實(shí)現(xiàn)深度融合商湯科技企業(yè)介紹?

商湯科技的AI視覺技術(shù)在汽車行業(yè)特別是整車制造業(yè)中備受推崇，其憑借全球頂尖的車內(nèi)（In-Cabin）視覺解決方案及卓越的融合創(chuàng)新能力，使商湯絕影在全球最大的汽車市場中，車內(nèi)視覺軟件領(lǐng)域占據(jù)了領(lǐng)導(dǎo)地位。????企業(yè)名稱：商湯集團(tuán)有限公司成立時(shí)間：2014年總部地址：上海?

商湯科技的“感知決策一體化自動(dòng)駕駛通用大模型框架”提高多目標(biāo)追蹤的精度20%，增強(qiáng)車道線識(shí)別的準(zhǔn)確度30%，減少對目標(biāo)運(yùn)動(dòng)軌跡預(yù)測的誤差大幅38%，同時(shí)降低在駕駛規(guī)劃上的誤差28%。行業(yè)領(lǐng)域：人工智能商湯科技發(fā)展歷程商湯科技競爭優(yōu)勢???商湯科技成立，專注于全棧式人工智能能力和感知智能獲得數(shù)千萬美元融資2014年完成“云端邊”全棧布局：為應(yīng)對金融、編程、醫(yī)療、政府等領(lǐng)域邊緣計(jì)算中AI應(yīng)用需求的增長，商湯推出企業(yè)級大模型一體機(jī)，支持千億級模型加速與知識(shí)檢索硬件加速的本地部署。該一體機(jī)的優(yōu)勢在于即購即用，且相較同類產(chǎn)品節(jié)省推理成本80%，檢索速度顯著提升，減輕CPU負(fù)擔(dān)50%。開始研發(fā)深度學(xué)習(xí)培訓(xùn)框架SenseParrots?2015年2016年?推出智慧生活平臺(tái)SenseMARS??獲得4.1億美元新一輪融資為vivo等手機(jī)品牌提供人臉識(shí)別解鎖技術(shù)與本田合作，共同研發(fā)適用乘用車的L4級別自動(dòng)駕駛方案行業(yè)深度融合：商湯科技運(yùn)用其“商湯日日新SenseNova”大模型體系推動(dòng)產(chǎn)業(yè)革新。在金融服務(wù)中，商湯可運(yùn)用數(shù)字人技術(shù)優(yōu)化客服和營銷，并借力大語言模型新增投資分析、報(bào)告生成等功能。在醫(yī)療方面，商湯依據(jù)大量醫(yī)學(xué)資料創(chuàng)立的“大醫(yī)”醫(yī)療語言模型，能進(jìn)行導(dǎo)診、健康咨詢等。2017年2018年??成為繼阿里云、百度、騰訊、科大訊飛后的第五個(gè)人工智能開放創(chuàng)新平臺(tái)?推出家庭消費(fèi)級AI產(chǎn)品，“元蘿卜SenseRobot”AI下棋機(jī)器人具有超大算力支撐：商湯臨港人工智能超算中心的3,740P

超大算力池是由商湯科技（SenseTime）開發(fā)和運(yùn)營的一個(gè)高性能計(jì)算基礎(chǔ)設(shè)施。該超算中心不僅能供應(yīng)龐大的計(jì)算資源，還憑借其尖端網(wǎng)絡(luò)技術(shù)和高性能存儲(chǔ)方案，無縫支撐包括自動(dòng)駕駛、元宇宙等在內(nèi)的高密集型AI應(yīng)用場景，確保復(fù)雜運(yùn)算需求的高效滿足。2022年2023年2024年??推出商湯大模型體系“日日新”發(fā)布日日新·商量大語言模型-通用版本（SenseChat

V4）來源：中國知網(wǎng)，企業(yè)年報(bào)，企業(yè)官網(wǎng)，頭豹研究院400-072-558826研究報(bào)告

|2024/05中國端側(cè)AI中國端側(cè)AI代表性企業(yè)——中科創(chuàng)達(dá)中科創(chuàng)達(dá)與芯片廠商的深度合作，擁有全棧式產(chǎn)品線與AI端側(cè)落地經(jīng)驗(yàn)，推出的RubikAvatar數(shù)字