2024 全球6G技術(shù)大會(huì) -10.0E 邊緣內(nèi)生智能白皮書

摘要邊緣計(jì)算作為下一代無(wú)線網(wǎng)絡(luò)的關(guān)鍵技術(shù)，推動(dòng)了 4 41.2邊緣計(jì)算與邊緣內(nèi)生智能發(fā)展概述 41.3邊緣內(nèi)生智能的重要性 52.6G邊緣智能網(wǎng)絡(luò)和基礎(chǔ)設(shè)施 72.1面向6G的邊緣內(nèi)生智能架構(gòu) 72.1.1架構(gòu)整體概述 72.1.2內(nèi)生智能面的設(shè)計(jì)與實(shí)現(xiàn) 82.2邊緣智能算力基礎(chǔ)設(shè)施 112.2.1邊緣智能硬件 112.2.2邊緣智能云平臺(tái) 192.3邊緣智能網(wǎng)絡(luò)基礎(chǔ)設(shè)施 282.3.1邊緣智能接入網(wǎng) 282.3.2邊緣智能核心網(wǎng) 363.邊緣內(nèi)生智能的關(guān)鍵技術(shù) 433.1模型輕量化 433.1.1剪枝 443.1.2知識(shí)蒸餾 453.1.3量化 473.1.4NAS 483.2邊云協(xié)同智能 493.2.1聯(lián)邦學(xué)習(xí) 493.2.2分割學(xué)習(xí) 513.2.3模型分割 523.3無(wú)線聯(lián)邦學(xué)習(xí)中的邊緣智能 543.3.1無(wú)線聯(lián)邦學(xué)習(xí) 543.3.2聯(lián)邦學(xué)習(xí)中的模型稀疏化 573.3.3聯(lián)邦學(xué)習(xí)的模型量化 603.4邊緣智能化部署 633.4.1無(wú)線側(cè)智能化驅(qū)動(dòng)力 633.4.2智能化部署 633.4.3算力部署 663.5深度邊緣節(jié)點(diǎn) 673.5.1深度邊緣節(jié)點(diǎn)的無(wú)線網(wǎng)絡(luò)可編程 693.5.2深度邊緣節(jié)點(diǎn)的網(wǎng)元融合 693.5.3深度邊緣節(jié)點(diǎn)的跨域AI設(shè)計(jì) 724.邊緣內(nèi)生智能應(yīng)用 754.1智慧交通 754.1.1智慧交通邊緣計(jì)算系統(tǒng)概述 754.1.2智慧交通邊緣計(jì)算類型 764.1.3智慧交通邊緣計(jì)算應(yīng)用 784.2智能制造 804.2.1智能制造邊緣計(jì)算系統(tǒng)概述 804.2.2智能制造邊緣計(jì)算類型 824.2.3智能制造邊緣計(jì)算應(yīng)用 834.3智能節(jié)能 864.3.1場(chǎng)景概述 864.3.2對(duì)邊緣智能的潛在需求與應(yīng)用 865.邊緣內(nèi)生智能的發(fā)展與挑戰(zhàn) 876.致謝 90因此，作為下一代通信技術(shù)，6G必須具備更高的性能和更強(qiáng)大的智能化能力，至云端的形式無(wú)法滿足用戶低時(shí)延的需求。因此，邊緣計(jì)算隨著物聯(lián)網(wǎng)（IoT）邊緣內(nèi)生智能能夠在原生網(wǎng)絡(luò)中實(shí)現(xiàn)各個(gè)單元之間的自我動(dòng)態(tài)感知以及自提高系統(tǒng)整體網(wǎng)絡(luò)效能，并實(shí)現(xiàn)網(wǎng)絡(luò)架構(gòu)中整體生命周期的自主感知以及自我1.2邊緣計(jì)算與邊緣內(nèi)生智能發(fā)展概述是一種將計(jì)算過(guò)程從中心服務(wù)器遷移到設(shè)備邊緣的技術(shù)。它的核心思想是將網(wǎng)法實(shí)現(xiàn)復(fù)雜的人工智能算法和模型的運(yùn)行[5]。隨著技術(shù)的不斷發(fā)展，邊緣設(shè)備1.3邊緣內(nèi)生智能的重要性量激增，設(shè)備端將產(chǎn)生大量的數(shù)據(jù)（例如音頻、圖片和視頻）。此時(shí)AI算（2）邊緣內(nèi)生智能以更豐富的數(shù)據(jù)和應(yīng)用場(chǎng)景擴(kuò)展智能算法部署范圍：傳性能[8]。然而，隨著萬(wàn)物互聯(lián)時(shí)代的快速發(fā)展，傳統(tǒng)的云計(jì)算模式逐漸向邊緣傳至云端進(jìn)行AI算法處理，那么將會(huì)占據(jù)大量的帶寬資源并為云計(jì)算數(shù)據(jù)中心AI也是創(chuàng)新前沿的關(guān)鍵驅(qū)動(dòng)力，如自動(dòng)駕駛、智能金融。因此，AI應(yīng)添加或現(xiàn)有應(yīng)用的升級(jí)，邊緣設(shè)備可以輕松擴(kuò)展或（4）邊緣內(nèi)生智能增強(qiáng)了人工智能應(yīng)用的可用性和可訪問(wèn)性：由于邊緣設(shè)ConnectivityintheEraofDistributedIntelligence,”IEEECommunications[2]M.ElsayedandM.Erol-Kantarci,“AI-EnabledFIntelligence:TheConfluenceofEdgeComputingandArtificialIntelligence,”IEEEInternetofThingsJournal,vol.7,no.8,pp.7457-7469,Aug.2020.ArtificialIntelligenceandIndustrialAutomationbasedonEdgeComputing2021InternationalConferenceonNetworkingandNetworkApplications(NaNA),Dec.2020..[7]M.Mukherjee,R.Matam,C.X.Mavromoustakis,H.Guo,“IntelligentEdgeCompuCommunicationsMagazine,vol.58,ninTelligenceforSmartandGreen6GNetworks,”ILearningforMobileEdgeComputing:LearningfromCommunicationsMagazine,vol.57,no.3,p5GRadioAccessNetworks,”IEEECommunicationsMagazine,vol.57,no.3,pp.2.6G邊緣智能網(wǎng)絡(luò)和基礎(chǔ)設(shè)施2.1面向6G的邊緣內(nèi)生智能架構(gòu)作為下一代無(wú)線網(wǎng)絡(luò)的關(guān)鍵使能技術(shù)，多接入邊緣計(jì)算（Multi-accessEdge并將其作為MEC系統(tǒng)的組成部分，以此來(lái)提高M(jìn)EC的靈活性和開(kāi)放性，2.1.1架構(gòu)整體概述礎(chǔ)設(shè)施層、虛擬化層、功能層和應(yīng)用層；“三面”包含控制面、AI面和管理編排圖2.1邊緣內(nèi)生智能架構(gòu)等；計(jì)算資源包括中央處理器（CentralProcessingUnit，CPU）、圖形處理能使用。當(dāng)業(yè)務(wù)需求到來(lái)時(shí)，虛擬化層可創(chuàng)建Docker容器并使其在資源池源進(jìn)行協(xié)調(diào)和管理。MANO面包含虛擬基礎(chǔ)設(shè)施管理器（Virtualized），和網(wǎng)絡(luò)的行為和需求，實(shí)現(xiàn)網(wǎng)絡(luò)的自運(yùn)營(yíng)。其虛擬化層為AI應(yīng)用提供運(yùn)行其虛擬化層包含被解耦的AI功能和一條服務(wù)總線；其應(yīng)用層包含一個(gè)模板選擇器和一個(gè)智能算法模型庫(kù)，用于實(shí)現(xiàn)邊緣在邊緣內(nèi)生智能架構(gòu)中，基于微服務(wù)的AI面被解耦為獨(dú)立的AI功能，AI功能可被按需激活和調(diào)用；在應(yīng)用請(qǐng)求到來(lái)時(shí)，被解耦的AI功能可以如圖2.1所示，在內(nèi)生智能面中，AI服務(wù)被解耦為數(shù)據(jù)采集功能（DataFunction,MVF）以及數(shù)據(jù)存儲(chǔ)功能（DataS），降維等操作將原始數(shù)據(jù)中的無(wú)效或偏移內(nèi)容移除，將其轉(zhuǎn)化為AI模型訓(xùn)練過(guò)服務(wù)總線與控制功能進(jìn)行信息傳遞，并根邊緣內(nèi)生智能重構(gòu)借鑒了模板與實(shí)例化思想，依據(jù)業(yè)務(wù)類型進(jìn)行AI功能激中。模板標(biāo)識(shí)符用于區(qū)分不同AI應(yīng)用對(duì)應(yīng)模板的標(biāo)識(shí)，存儲(chǔ)在模板選擇器中。在模板使用前，需對(duì)模板進(jìn)行預(yù)定義操作，即根據(jù)特定AI應(yīng)用需求定1）MANO對(duì)應(yīng)用層持續(xù)監(jiān)測(cè)，在接收到應(yīng)用請(qǐng)求時(shí)向模板選擇器發(fā)送模模型庫(kù)來(lái)請(qǐng)求Tinf4）模板選擇器將收到的Tinf發(fā)送至MANO面圖2.2邊緣內(nèi)生智能實(shí)例化流程2.2邊緣智能算力基礎(chǔ)設(shè)施2.2.1邊緣智能硬件邊緣智能硬件對(duì)環(huán)境惡劣的工廠生產(chǎn)線上的各種數(shù)據(jù)進(jìn)行實(shí)時(shí)采集、處理和分的相關(guān)性，如數(shù)據(jù)聚合/轉(zhuǎn)換、協(xié)議解析、工業(yè)控制、AI推理等，硬NearEdgeFarEdge模擬數(shù)字轉(zhuǎn)換（傳感器）、發(fā)送控制數(shù)散性控制器）等（1）邊緣部署領(lǐng)域的多樣性需要不同的基礎(chǔ)設(shè)施組合。邊緣部署跨越許多（2）邊緣計(jì)算在電信、公用事業(yè)、制造業(yè)和金融業(yè)等行業(yè)增長(zhǎng)迅速。電信施部署將增長(zhǎng)。而AI應(yīng)用的多樣性也使得邊緣計(jì)算硬件、軟件、服務(wù)和解決方2.長(zhǎng)生命周期產(chǎn)品訴求：（1）在以交通、醫(yī)療、能源、工業(yè)為代表的眾多行業(yè)的邊緣計(jì)算應(yīng)用中，如軌道交通控制系統(tǒng)、中大型醫(yī)療設(shè)備、變電站/配電站采集控制單元、工業(yè)控（2）長(zhǎng)生命周期面向的是整個(gè)業(yè)務(wù)系統(tǒng)，不僅包括邊緣計(jì)算硬件設(shè)備，也（3）同時(shí)，長(zhǎng)生命周期也不僅僅包含運(yùn)行時(shí)間，也包括了硬件設(shè)備的后續(xù)3.嚴(yán)苛的工作環(huán)境：求會(huì)略高一些，在人機(jī)共處的情況下，還對(duì)邊緣非結(jié)構(gòu)化數(shù)據(jù)位置信息視頻傳感器AR/VR圖片……數(shù)字孿生……非結(jié)構(gòu)化數(shù)據(jù)位置信息視頻傳感器AR/VR圖片……數(shù)字孿生……精益化的需求日益明顯。同時(shí)，邊緣智能、物聯(lián)管控、軟件定義邊緣和5G/6G同時(shí)還需要考慮到后續(xù)在邊緣側(cè)的進(jìn)一步擴(kuò)展。對(duì)于高度參與物聯(lián)網(wǎng)的企業(yè)來(lái)要盡可能多地自動(dòng)化操作的地方，因?yàn)檫@樣就模式識(shí)別僅憑CPU難以高效處理，CPU+智能算力（碎片化客戶應(yīng)用場(chǎng)文本文本音頻音頻工業(yè)實(shí)時(shí)控制工業(yè)實(shí)時(shí)控制多媒體處理多媒體處理自動(dòng)駕駛自動(dòng)駕駛AIoTAIoT中國(guó)信通院預(yù)測(cè)，到2023年智能算力（GPU/FPGA/ASIC等）占總算力規(guī)模的70%圖2.3應(yīng)用場(chǎng)景多樣性推動(dòng)邊緣異構(gòu)加速計(jì)算發(fā)展3.原生邊緣智能：于邊緣計(jì)算場(chǎng)景的通用服務(wù)器（general-purpose）和專為邊緣場(chǎng)景設(shè)計(jì)的邊緣優(yōu)其中用于邊緣計(jì)算場(chǎng)景的通用服務(wù)器（general-purpose）與用于數(shù)據(jù)中心場(chǎng)景的通用服務(wù)器在硬件上幾乎沒(méi)有差別，往邊緣優(yōu)化型服務(wù)器（edge-optimized）與通用服務(wù)器相比，在外觀、功能、種安裝方法、安全性和OT集成等。從產(chǎn)品形態(tài)來(lái)看，邊緣優(yōu)化型服務(wù)器（edge-optimized）又可以細(xì)分為定制型邊緣服務(wù)器（purpose-built）和邊緣微服定制型邊緣服務(wù)器（purpose-built）是針對(duì)特定功能進(jìn)行設(shè)計(jì)和構(gòu)建，部署邊緣優(yōu)化型服務(wù)器（edge-optimized）特性設(shè)計(jì)具有更寬的溫度范圍、防潮、防塵、耐腐蝕、抗震、電磁兼容性等特點(diǎn)。機(jī)箱比通用服務(wù)器更小機(jī)箱深度，以適應(yīng)現(xiàn)有基站站點(diǎn)、邊緣數(shù)據(jù)中心或特定的工業(yè)現(xiàn)場(chǎng)位置。操作與維護(hù)自動(dòng)操作和維護(hù)以及遠(yuǎn)程控制，最大限度地減少手動(dòng)操作和維護(hù)。提供統(tǒng)一的運(yùn)維管理界面。安全在復(fù)雜的部署環(huán)境下，需要防止?jié)撛诘木W(wǎng)絡(luò)攻擊，以確保數(shù)據(jù)的安全性、高可用性和一致性，并在硬件層面防止惡意破壞。I/O前端I/O設(shè)計(jì)，提供更方便的操作和部署。安裝方式多種安裝方式，如壁掛式安裝。安裝和拆卸簡(jiǎn)單。功耗低能耗，可限制直流、交流、布線等。高可靠性、低延遲、無(wú)線支持等。診斷和可維護(hù)性，其MTTR（MeanTimetoRepair）一般為5min，MTTF10的變化給予快速響應(yīng)，及時(shí)進(jìn)行采集和輸出調(diào)節(jié)（看門狗功能這是普通PC），功能，最多可擴(kuò)充20個(gè)板卡，能與工業(yè)現(xiàn)場(chǎng)的各種外設(shè)、板卡如與道控制上架式工控機(jī)塔式工控機(jī)嵌入式工控機(jī)工業(yè)一體機(jī)/工業(yè)顯示圖2.4工業(yè)計(jì)算機(jī)示意圖行業(yè)APP行業(yè)APP行業(yè)APP行業(yè)APP容器管理IP化PLC/RF/RS485/DI…圖2.5邊緣計(jì)算物聯(lián)網(wǎng)架構(gòu)示意圖圖2.6邊緣一體化機(jī)柜示意圖2.2.2邊緣智能云平臺(tái)圖2.7邊緣智能內(nèi)生云平臺(tái)總體架構(gòu)如圖2.7給出了一種邊緣智能云平臺(tái)實(shí)現(xiàn)，它與關(guān)上下文信息（身份、威脅/可信評(píng)估、角色、位置/時(shí)間、設(shè)備配置等）加物理機(jī)和虛擬機(jī)，具有輕量級(jí)、部署簡(jiǎn)單、支持多環(huán)NPU、VPU等異構(gòu)器件。邊緣節(jié)點(diǎn)與中心云之間的網(wǎng)絡(luò)環(huán)境復(fù)雜，邊緣節(jié)點(diǎn)可能因?yàn)槟承┰蚺c中心云斷聯(lián)。由于邊緣節(jié)點(diǎn)數(shù)量眾多，環(huán)境復(fù)雜，IT運(yùn)維人圖2.8用于MEC的邊側(cè)內(nèi)生智能平臺(tái)圖2.8展示的邊側(cè)內(nèi)生智能平臺(tái)是用于MEC(Mul的一種實(shí)現(xiàn)。它基于K3s以及軟硬一體化的輕量級(jí)虛擬化，以輕量級(jí)虛擬化為絡(luò)基礎(chǔ)管道能力，提供實(shí)時(shí)智能的應(yīng)用服務(wù)，能夠在基于5G的M式下承載多種應(yīng)用場(chǎng)景。該平臺(tái)足夠精簡(jiǎn)，可以運(yùn)行于單臺(tái)服務(wù)器或由多臺(tái)服件資源的限制和成本的限制。“構(gòu)建一次，推送到任意地點(diǎn)”的邊緣DevOps在邊緣使用云技術(shù)，將邊緣節(jié)點(diǎn)視為CI/CD流程的構(gòu)建目標(biāo)，將云端倉(cāng)庫(kù)視為在這流量、CPU利用率、進(jìn)程、內(nèi)存等方面的狀態(tài)進(jìn)行采集，并實(shí)時(shí)為運(yùn)維人員提圖2.9云側(cè)運(yùn)維管理平臺(tái)功能示例圖2.9展示了一款云側(cè)運(yùn)維管理平臺(tái)叫做集中管理平臺(tái)CMO（CentralManagementandOrchest），圖2.10云邊協(xié)同的能力與內(nèi)涵（ECC邊緣計(jì)算參考架構(gòu)3.0）減少延遲、提高可擴(kuò)展性、增強(qiáng)對(duì)信息的訪問(wèn)量，并使邊緣計(jì)算節(jié)點(diǎn)主要負(fù)責(zé)現(xiàn)場(chǎng)/終端數(shù)據(jù)的采集、處理和分析，并將處理結(jié)果以及業(yè)務(wù)管理協(xié)同是指邊緣計(jì)算節(jié)點(diǎn)主要提供模塊化、微服務(wù)化的應(yīng)用/數(shù)字孿服務(wù)協(xié)同是指EC-SaaS(邊緣計(jì)算SaaS)與云端SaaS在用戶應(yīng)用層面的服務(wù)跨邊云協(xié)同訓(xùn)練和協(xié)同推理能力。它支持現(xiàn)有AI類應(yīng)用無(wú)縫下沉到邊緣，快速實(shí)現(xiàn)跨邊云的增量學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、協(xié)同推理等能力，最終達(dá)到降低邊緣AI服圖2.11Sedna架構(gòu)圖圖2.12EdgeMesh架構(gòu)圖EdgeMesh是KubeEdge在邊緣場(chǎng)景下實(shí)現(xiàn)邊緣節(jié)點(diǎn)互通的一個(gè)解決方案。點(diǎn)間的通信分為局域網(wǎng)內(nèi)和跨局域網(wǎng)。局域網(wǎng)內(nèi)的通信采用節(jié)點(diǎn)間直接通信，跨局域網(wǎng)的通信在打洞成功時(shí)Agent之間建立直連隧道，否則通過(guò)中無(wú)需訪問(wèn)云端apiserver；EdgeM2.3邊緣智能網(wǎng)絡(luò)基礎(chǔ)設(shè)施2.3.1邊緣智能接入網(wǎng)關(guān)鍵需求。運(yùn)營(yíng)商是邊緣計(jì)算網(wǎng)絡(luò)基礎(chǔ)設(shè)施主要提供者，在邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟圖2.13邊緣計(jì)算網(wǎng)絡(luò)基礎(chǔ)設(shè)施示意圖（運(yùn)營(yíng)商邊緣計(jì)算網(wǎng)絡(luò)技術(shù)白皮書）網(wǎng)絡(luò)技術(shù)有L2/L3局域網(wǎng)、WIFI、TSN（時(shí)間敏感網(wǎng)絡(luò)）、現(xiàn)場(chǎng)總線等。接入網(wǎng)需支持移動(dòng)用戶和固定用戶同時(shí)接入，在移動(dòng)網(wǎng)絡(luò)中，需要提供如2G/3G/4G/5G等接入方式。在固定網(wǎng)絡(luò)中，需要提供光接入網(wǎng)絡(luò)PON、以及各（1）云網(wǎng)融合：針對(duì)業(yè)務(wù)現(xiàn)場(chǎng)人、機(jī)、物等不同設(shè)備的接入需求，運(yùn)營(yíng)商會(huì)根據(jù)邊緣業(yè)務(wù)應(yīng)用的區(qū)域位置不同而建設(shè)多張接入網(wǎng)絡(luò)，增加CAPEX投資。（3）智能內(nèi)生：不同的業(yè)務(wù)訴求對(duì)于智能化的要求不同，越來(lái)越多的業(yè)務(wù)務(wù)提供不同的QOS服務(wù)能力，同時(shí)將對(duì)時(shí)延不敏感的業(yè)務(wù)調(diào)度到其它空閑節(jié)點(diǎn)（1）第一個(gè)階段為網(wǎng)絡(luò)云化，在固定網(wǎng)絡(luò)和移動(dòng)通信網(wǎng)絡(luò)中存在大量傳統(tǒng)設(shè)備，例如防火墻、交換機(jī)、NAT等，在移動(dòng)通信網(wǎng)絡(luò)中有無(wú)線基站、核心網(wǎng)NFV技術(shù)，從傳統(tǒng)煙囪式架構(gòu)演變?yōu)檐浻布怦?、開(kāi)放、云化的架構(gòu)。最底層也會(huì)通過(guò)加速硬件來(lái)輔助。在硬件之上，通過(guò)虛擬化技術(shù)，以及Linux/KVM、QEMU、OpenStack等開(kāi)源代碼被vRANv5GvBRASvCPE…云操作系統(tǒng)通用硬件加速硬件超融合一體機(jī)圖2.14軟硬解耦、開(kāi)放的云化網(wǎng)絡(luò)（2）第二階段云網(wǎng)真正形成一體，網(wǎng)絡(luò)功能從設(shè)計(jì)到交付均采用云原生的理念，包括微服務(wù)化、容器化、DevOps、持續(xù)交付。另外，邊緣云、企業(yè)私有移動(dòng)網(wǎng)絡(luò)中，5G核心網(wǎng)數(shù)據(jù)面下沉到邊緣云，云桌面、云游戲這些場(chǎng)景又代表包括云桌面、云NAS等，云網(wǎng)關(guān)負(fù)責(zé)按需轉(zhuǎn)發(fā)邊緣應(yīng)用，提供用戶與邊緣應(yīng)用（3）第三個(gè)階段為行業(yè)融合，智能開(kāi)放，本階段具有兩方面特點(diǎn)：一方面云網(wǎng)基礎(chǔ)設(shè)施與AI、大數(shù)據(jù)、區(qū)塊鏈等新技術(shù)進(jìn)一步結(jié)合，創(chuàng)造出更加智能化首先在無(wú)線網(wǎng)絡(luò)，從基站到核心網(wǎng)，全球運(yùn)營(yíng)商都在推動(dòng)云化。核心網(wǎng)從EPC開(kāi)始做NFV虛擬化、云化，到現(xiàn)在5G核心網(wǎng)已經(jīng)基本完全云化。無(wú)線基站云Off-The-Shelf商用現(xiàn)成品或技術(shù)）的通用硬件，而通信網(wǎng)元在性能、實(shí)時(shí)性、（1）CPU指令集是面向眾多應(yīng)用需求而設(shè)計(jì)，SIMD指令早期的引入的向量指令集來(lái)優(yōu)化性能，但是，CPU向量計(jì)算單元的數(shù)量、能夠支持的向量的多級(jí)cache、內(nèi)存預(yù)取等機(jī)制都是為了優(yōu)化內(nèi)存訪問(wèn)的性能，但是一旦發(fā)生了性能的不確定性。CPU微架構(gòu)中有大量的設(shè)計(jì)都會(huì)有這樣的特點(diǎn)，例如分支預(yù)測(cè)、指令調(diào)度等都存在很多預(yù)測(cè)算法，預(yù)測(cè)準(zhǔn)確時(shí)，CPU性能得到優(yōu)化，但（3）通用CPU是為多任務(wù)共享CPU而設(shè)計(jì)，線程的調(diào)度以3GPP規(guī)定的5G控制信道編碼方式Polar編碼為例，在信道編碼鏈中，polar編碼是重要一環(huán)，polar碼在編碼過(guò)程中需要進(jìn)行復(fù)雜的羅內(nèi)克積矩陣運(yùn)算，導(dǎo)致polar碼的運(yùn)算過(guò)程復(fù)雜，對(duì)算力要求高。同樣5G在FFT和IFFT中需要完成4096階級(jí)數(shù)計(jì)算，需要極高計(jì)算性能。因此5G物理層的性能和實(shí)時(shí)性需求這三種方案，在性能、功耗、成本等方面逐步優(yōu)圖2.15異構(gòu)計(jì)算硬件形態(tài)CPU和加速硬件之間有兩種調(diào)用模式：Lookaside模式和inline模式。在Lookaside模式下，加速硬件的調(diào)用類似軟件系統(tǒng)的函數(shù)調(diào)用，當(dāng)應(yīng)用程序執(zhí)行CPU繼續(xù)執(zhí)行程序的后續(xù)部分。Lookaside模式比較適合加速硬件的部分功能，例如LDPC編解碼等。在Inline模式下，加速器支持物理層LowPHY、HighPHY或者整個(gè)物理層，當(dāng)上行數(shù)據(jù)進(jìn)入基站后，異構(gòu)計(jì)算對(duì)軟件也帶來(lái)很多新的需求。從云資源池的角度，在調(diào)度虛擬機(jī)或容器的具體運(yùn)行服務(wù)器節(jié)點(diǎn)時(shí)，云平臺(tái)調(diào)度器需要能夠感知每個(gè)服務(wù)器節(jié)點(diǎn)的硬件能力，哪些節(jié)點(diǎn)具有什么類型的加速硬件，同時(shí)也需要感知虛機(jī)或容器承載的應(yīng)用有哪些硬件需求，從而在調(diào)度或遷移的時(shí)候能夠匹配相應(yīng)的硬件。從軟硬件解耦的角度，5G基站軟件期望有統(tǒng)一標(biāo)準(zhǔn)化的API，適配不同的加速硬件，從而降低基站軟件開(kāi)發(fā)的復(fù)雜度，提高可移植性。開(kāi)放式無(wú)線電接入網(wǎng)絡(luò)聯(lián)盟定義AAL（AccelerationAbstractionLayer）為加速硬件抽象層，使應(yīng)用程序更容易使用和控制硬件加速器，完成對(duì)硬件加速器的調(diào)度和管理，以充分利用硬件資源，這項(xiàng)工作目前還在進(jìn)行中。圖2.16開(kāi)放式無(wú)線電接入網(wǎng)絡(luò)聯(lián)盟AAL標(biāo)準(zhǔn)化邊緣計(jì)算將計(jì)算從集中式數(shù)據(jù)中心下沉到通信網(wǎng)絡(luò)接入網(wǎng)的邊緣位置，通過(guò)在物理位置上將網(wǎng)絡(luò)與計(jì)算融合，以分布式方式在更接近用戶的網(wǎng)絡(luò)邊緣提供低時(shí)延的計(jì)算服務(wù)，滿足低延遲高帶寬的場(chǎng)景，如視頻加速雖然邊緣計(jì)算物理位置上部署在邊緣網(wǎng)絡(luò)內(nèi)，但在邏輯上，計(jì)算和網(wǎng)絡(luò)的編排與調(diào)度系統(tǒng)仍然是相互獨(dú)立的，缺乏靈活的動(dòng)態(tài)性，導(dǎo)致無(wú)法實(shí)現(xiàn)網(wǎng)絡(luò)和計(jì)算在控制面的統(tǒng)一，難以及時(shí)響應(yīng)實(shí)時(shí)和移動(dòng)業(yè)務(wù)的需求。在網(wǎng)元級(jí)算力內(nèi)生一體化方案中，通信行業(yè)的主要廠商實(shí)現(xiàn)方案主要分為兩類：（1）通過(guò)在網(wǎng)絡(luò)設(shè)備上增加獨(dú)立的算力板卡或?qū)Ｓ盟懔Ψ?wù)器來(lái)實(shí)現(xiàn)算力和網(wǎng)絡(luò)的硬件融合。例如，在5G基帶單元（BBU）上增加額外的算力板卡，以提供額外的計(jì)算能力。（2）算力內(nèi)生網(wǎng)絡(luò)（ComputingNativeNetwork，CNN）。這種方案不需要增加額外的硬件設(shè)備，而是通過(guò)解耦大量5G基帶單元的閑置算力與通信業(yè)務(wù)，為計(jì)算應(yīng)用提供靈活、實(shí)時(shí)且低成本的算力支持。算力內(nèi)生網(wǎng)絡(luò)將算力與通信網(wǎng)絡(luò)緊密結(jié)合，以滿足各種計(jì)算需求。這兩種方案的提出推動(dòng)通信領(lǐng)域的算力與網(wǎng)絡(luò)的融合，以提供更強(qiáng)大的計(jì)算能力和靈活性。算力內(nèi)生網(wǎng)絡(luò)基于5G、云原生和人工智能等ICT技術(shù)，為全行業(yè)提供連接、算力和應(yīng)用服務(wù)。該網(wǎng)絡(luò)構(gòu)建在3GPP5G網(wǎng)絡(luò)協(xié)議之上，通過(guò)虛擬化技術(shù)實(shí)現(xiàn)了通信業(yè)務(wù)與物理CPU核的解耦。算力以“vCPU核”為基本單位進(jìn)行量化，通過(guò)虛擬機(jī)和hypervisor多核CPU虛擬化技術(shù)將空閑算力與通信服務(wù)算力隔離，在基站內(nèi)利用網(wǎng)元空閑算力承載計(jì)算任務(wù)。這種解耦方式確保了通信業(yè)務(wù)的QoS優(yōu)先保障，并實(shí)現(xiàn)了嚴(yán)格的內(nèi)生算力邊界隔離。同時(shí)，通過(guò)設(shè)置計(jì)算資源和通信資源之間的安全邊界以保護(hù)通信服務(wù)的穩(wěn)定性，并實(shí)時(shí)智能調(diào)整安全邊界，確保通信服務(wù)的優(yōu)先性和服務(wù)質(zhì)量的穩(wěn)定。目前，算力內(nèi)生技術(shù)已經(jīng)成功應(yīng)用于某電力專網(wǎng)項(xiàng)目的XR遠(yuǎn)程專家輔助維修。某電站每年都要進(jìn)行長(zhǎng)達(dá)一個(gè)月的設(shè)備停運(yùn)檢修，這期間只有經(jīng)過(guò)嚴(yán)格訓(xùn)練的工作人員穿戴特制防護(hù)服才能進(jìn)入電廠進(jìn)行檢修。當(dāng)檢修遇到困難時(shí)，工作人員無(wú)法離開(kāi)電廠求助，導(dǎo)致整個(gè)維修流程嚴(yán)重延誤，造成嚴(yán)重的經(jīng)濟(jì)損失。通過(guò)算力內(nèi)生網(wǎng)絡(luò)，維修工程師、遠(yuǎn)程專家和檢修業(yè)務(wù)之間建立了更緊密的聯(lián)系。通過(guò)隨維修人員移動(dòng)的5GAR眼鏡終端，通過(guò)無(wú)線接入到5G網(wǎng)絡(luò)，提供復(fù)雜維修過(guò)程的可視化和實(shí)時(shí)交互。遠(yuǎn)程專家可以通過(guò)AR進(jìn)行遠(yuǎn)程指導(dǎo)維修任務(wù)。算力內(nèi)生網(wǎng)絡(luò)不僅為AR遠(yuǎn)程專家輔助提供了5G高帶寬、低延遲的高清互動(dòng)視頻數(shù)據(jù)傳輸，還能支持場(chǎng)景渲染和圖像分發(fā)的計(jì)算服務(wù)調(diào)度，使維修人員可以隨時(shí)與遠(yuǎn)程專家分享所見(jiàn)影像，以獲得專家的實(shí)時(shí)分析和指導(dǎo)，降低維修成本和提升維修效率?；谒懔?nèi)生網(wǎng)絡(luò)，移動(dòng)網(wǎng)絡(luò)基礎(chǔ)設(shè)施從單純的提供連接服務(wù)演進(jìn)為提供連接服務(wù)+計(jì)算服務(wù)的新型通算一體基礎(chǔ)設(shè)施，可以滿足AI所需的連接和分布式計(jì)算服務(wù)，從而更好地支持面向6G的通感算智一體化演進(jìn)。技術(shù)，這些技術(shù)目前正在進(jìn)行和落地開(kāi)展中。面向未來(lái)6G網(wǎng)絡(luò)架構(gòu)，2023年體方向。未來(lái)邊緣智能接入網(wǎng)將是通信技術(shù)、算力網(wǎng)絡(luò)、AI技術(shù)等深度融合的2.3.2邊緣智能核心網(wǎng)對(duì)SLA（ServiceLevelAgreement，服務(wù)級(jí)別協(xié)議）的差異化需求，帶來(lái)了網(wǎng)絡(luò)運(yùn)營(yíng)的復(fù)雜性。把智能融入網(wǎng)絡(luò)業(yè)務(wù)、體驗(yàn)、運(yùn)維和綠色等方面，是5G/6G新上述網(wǎng)絡(luò)的發(fā)展演進(jìn)意味著核心網(wǎng)要管理的數(shù)據(jù)量更大、更復(fù)雜。目前的核心網(wǎng)仍缺乏足夠的智能來(lái)提供按需服務(wù)和更高的網(wǎng)絡(luò)資源利用效率。因此，需要通過(guò)分布式智能節(jié)點(diǎn)的協(xié)同提供全局AI能力，實(shí)現(xiàn)智能內(nèi)生。這要求網(wǎng)絡(luò)通過(guò)原生支持AI將AI能力作為網(wǎng)絡(luò)的基本服務(wù),實(shí)現(xiàn)AI即服務(wù)(AlaaS),使網(wǎng)絡(luò)能夠自學(xué)習(xí)、自演進(jìn),并賦能行業(yè)AI,構(gòu)筑全行業(yè)的泛在智能生態(tài)系統(tǒng)即“智能內(nèi)生”。智能內(nèi)生從字面意思來(lái)看可以分成“智能”和“內(nèi)生”兩個(gè)部分。首先,“智能”表示以AI/ML作為核心技術(shù),用于網(wǎng)絡(luò)自身的感知、分析、最優(yōu)決策,AI技術(shù)因其具有強(qiáng)大的學(xué)習(xí)、分析和決策能力,以及分布式的網(wǎng)絡(luò)AI能力,與終端AI、云AI相互協(xié)作,實(shí)現(xiàn)全行業(yè)的智能泛在,體現(xiàn)無(wú)處不在的AI理念。其次,“內(nèi)生”意味著“與生俱來(lái)”,即在開(kāi)始設(shè)計(jì)6G網(wǎng)絡(luò)時(shí)就要支持AI應(yīng)用在網(wǎng)絡(luò)中的無(wú)縫運(yùn)行,這些AI應(yīng)用包括網(wǎng)絡(luò)自身的AI應(yīng)用以及行業(yè)AI應(yīng)基于服務(wù)化架構(gòu)（ServiceBaseArchitecture）的核心網(wǎng)可以支持輕量化的NFV部署，提供了按需設(shè)計(jì)的網(wǎng)絡(luò)功能滿足不同場(chǎng)景的移動(dòng)性，QoS相關(guān)的需求;基于新的架構(gòu)和新的功能可以根據(jù)行業(yè)場(chǎng)景靈活部署。.UPF下沉混合組網(wǎng)，UPF、MEC下沉至企業(yè)的工廠、園區(qū)，此方式可提供數(shù)據(jù)隔離、按需定制的5G專網(wǎng)服務(wù)，按需疊加行業(yè)應(yīng)用所需的5G本地網(wǎng)應(yīng)用，5G融合定位，低時(shí)延、高可靠等專網(wǎng)差異化增值業(yè)務(wù)。但與公網(wǎng)共用5GC控制面，信令數(shù)據(jù)、網(wǎng)絡(luò)功能等仍依賴公共網(wǎng)絡(luò)實(shí)現(xiàn)，網(wǎng)絡(luò)質(zhì)量受公網(wǎng)實(shí)時(shí)狀況影響。.輕量化5GC獨(dú)立組網(wǎng)，在企業(yè)的工廠、園區(qū)下沉AMF、SMF、UDM、PCF網(wǎng)元，對(duì)于控制面完全下沉，輕量化核心網(wǎng)本地獨(dú)立新建；構(gòu)建一張?jiān)鰪?qiáng)帶寬、低時(shí)延、物理封閉的基礎(chǔ)連接網(wǎng)絡(luò)，實(shí)現(xiàn)用戶數(shù)據(jù)與公眾網(wǎng)絡(luò)數(shù)據(jù)完全隔離，且不受公眾網(wǎng)絡(luò)變化影響。UPF行業(yè)用戶專用獨(dú)享；數(shù)據(jù)面、信令面均與公眾網(wǎng)絡(luò)嚴(yán)格隔離；核心網(wǎng)內(nèi)的能力可更大限度地開(kāi)放給行業(yè)；可滿足行業(yè)更多的定制化需求；（NetworkDataAnalyticsFunction）,作為核心網(wǎng)絡(luò)AI+大數(shù)據(jù)引擎，它是核心網(wǎng)中的一個(gè)重要組成部分。其在核心網(wǎng)中對(duì)NF、AF、OAM收集原始數(shù)據(jù)，并對(duì)原始數(shù)據(jù)進(jìn)行智能分析，輸出分析數(shù)據(jù)給NF、AF、OAM等，用于優(yōu)化網(wǎng)絡(luò)和業(yè)務(wù)。NWDAF旨在網(wǎng)絡(luò)中簡(jiǎn)化核心網(wǎng)數(shù)據(jù)的生成和使用方式，以及生成洞察并根據(jù)這些洞察采取行動(dòng)，他負(fù)責(zé)數(shù)據(jù)分析和智能決策，以優(yōu)化網(wǎng)絡(luò)性能和增強(qiáng)最終用戶體驗(yàn)。圖2.17NWDAF智能框架示意圖在Rel-18中繼續(xù)研究涉及AI在網(wǎng)絡(luò)中NWDAF的增強(qiáng)：通過(guò)聯(lián)邦學(xué)習(xí)與移動(dòng)通信技術(shù)結(jié)合，構(gòu)建面向商用的數(shù)據(jù)隱私保護(hù)方案，從而充分利用電信網(wǎng)的海量數(shù)據(jù)；在模型訓(xùn)練及推理階段，通過(guò)考慮執(zhí)行結(jié)果作為模型的輸入數(shù)據(jù)，使模型可以基于結(jié)果進(jìn)行優(yōu)化來(lái)提升模型分析準(zhǔn)確性；與網(wǎng)管域智能化分析網(wǎng)元MDAF聯(lián)動(dòng)，利用網(wǎng)管側(cè)的智能化分析結(jié)果，增加網(wǎng)絡(luò)側(cè)分析輸入信息，從而提高分析準(zhǔn)確性。1.NWDAF網(wǎng)絡(luò)服務(wù)特點(diǎn)：邊緣計(jì)算的核心思想是將計(jì)算任務(wù)叢云端移到離用戶更近的網(wǎng)絡(luò)邊緣,減少了數(shù)據(jù)傳輸?shù)难舆t和帶寬消耗。NWDAF具有數(shù)據(jù)采集、生成模型、智能分析等功能，它將網(wǎng)絡(luò)數(shù)據(jù)分析功能部署在網(wǎng)絡(luò)邊緣節(jié)點(diǎn)上,可以實(shí)時(shí)捕獲和分析網(wǎng)絡(luò)數(shù)據(jù),提供實(shí)時(shí)的網(wǎng)絡(luò)監(jiān)控和安全防護(hù)。它還可以從上下行帶寬、時(shí)延、抖動(dòng)等多維指標(biāo)，智能判斷用戶業(yè)務(wù)體驗(yàn)狀態(tài)，并觸發(fā)網(wǎng)絡(luò)側(cè)進(jìn)行保障。這有效減少了數(shù)據(jù)傳輸?shù)难舆t,提高了數(shù)據(jù)處理的效率。同時(shí)，在架構(gòu)上NWDAF和所有的核心網(wǎng)元進(jìn)行連接，基于標(biāo)準(zhǔn)化的服務(wù)接口，向PCF/OAM/AF提供按需、快速、精準(zhǔn)的智能分析服務(wù)，支持多場(chǎng)景靈活部署，滿足不同層級(jí)的應(yīng)用要求，使能網(wǎng)絡(luò)功能實(shí)體，實(shí)現(xiàn)運(yùn)營(yíng)商網(wǎng)絡(luò)低成本、高效率的智能閉環(huán)。在具體業(yè)務(wù)保障中，通過(guò)與UPF、PCF等多網(wǎng)元系統(tǒng)性協(xié)作，結(jié)合實(shí)時(shí)感知、智能識(shí)別、數(shù)據(jù)分析，構(gòu)建用戶體驗(yàn)基線，實(shí)現(xiàn)按需觸發(fā)的動(dòng)態(tài)保障機(jī)制，并為終端用戶提供有效的感知保障，實(shí)現(xiàn)數(shù)據(jù)業(yè)務(wù)體驗(yàn)保障的端到端閉環(huán)服務(wù)。NWDAF是一個(gè)數(shù)據(jù)感知分析網(wǎng)元，以網(wǎng)絡(luò)數(shù)據(jù)為基礎(chǔ)對(duì)網(wǎng)絡(luò)進(jìn)行自動(dòng)感知和分析，并參與到網(wǎng)絡(luò)規(guī)劃、建設(shè)、運(yùn)維、網(wǎng)優(yōu)、運(yùn)營(yíng)全生命周期中，使得網(wǎng)絡(luò)易于維護(hù)和控制，提高網(wǎng)絡(luò)資源使用效率，提升用戶業(yè)務(wù)體驗(yàn)。NWDAF適用于各種業(yè)務(wù)場(chǎng)景,特別是對(duì)于大規(guī)模的物聯(lián)網(wǎng)和移動(dòng)互聯(lián)網(wǎng)應(yīng)用來(lái)說(shuō),具有重要意義。首先,在物聯(lián)網(wǎng)應(yīng)用中,NWDAF可以實(shí)時(shí)監(jiān)控和分析物聯(lián)網(wǎng)設(shè)備數(shù)據(jù),提供實(shí)時(shí)數(shù)據(jù)分析和決策支持。其次,在移動(dòng)互聯(lián)網(wǎng)應(yīng)用中,NWDAF可提供實(shí)時(shí)的網(wǎng)絡(luò)監(jiān)控和安全防護(hù),保護(hù)用戶的隱私和數(shù)據(jù)安全。NWDAF還可以應(yīng)用于智能交通、智能制造、智慧城市等領(lǐng)域。以下列舉了部分應(yīng)用場(chǎng)景：.智能數(shù)據(jù)采集：最大限度減少了訪問(wèn)/聚合云到中心位置之間的數(shù)據(jù)移.高效集成和測(cè)試：內(nèi)置/預(yù)先測(cè)試的NWDAF交付和不同代(2G/3G/4G/5G)之間的開(kāi)箱即用互聯(lián)功能。.更簡(jiǎn)單的編排：內(nèi)置NWDAF是云原生網(wǎng)絡(luò)功能的一部分,可以部署在同一編排流程中。站的網(wǎng)絡(luò)性能（例如QoS信息、業(yè)務(wù)負(fù)荷）預(yù)測(cè)對(duì)提高車聯(lián)網(wǎng)的服務(wù)質(zhì)量有著站的網(wǎng)絡(luò)性能（例如QoS信息、業(yè)務(wù)負(fù)荷）預(yù)測(cè)對(duì)提高車聯(lián)網(wǎng)的服務(wù)質(zhì)量有著的應(yīng)用效果缺乏有效的驗(yàn)證和保障手段等,這些因素讓NWDAF難以采集有效且生智能的統(tǒng)一網(wǎng)絡(luò)架構(gòu)設(shè)計(jì),即在架構(gòu)層面將網(wǎng)絡(luò)連接與人工智能三要素中的算力、算法及數(shù)據(jù)完成深度融合,將安全、AI等核心技術(shù)能力內(nèi)置在6G架構(gòu)中,并滲透到各領(lǐng)域、各網(wǎng)絡(luò)、各單元的全生命周期中,通過(guò)內(nèi)生設(shè)計(jì)實(shí)現(xiàn)安全、AI等核心技術(shù)能力與通信網(wǎng)絡(luò)最深程度的融合。構(gòu)建網(wǎng)絡(luò)內(nèi)完整的智能體系,從而算和通信的協(xié)同管控與承載，滿足AI所需的連接和分布式計(jì)算服務(wù)、以及基于AI的連接和計(jì)算融合控制需求，在編排管理、控制面、用戶面三個(gè)維素間的交互和集成,提供本地自動(dòng)化集成AI運(yùn)行環(huán)境,實(shí)現(xiàn)AI工作流的高效的多節(jié)點(diǎn)間智能業(yè)務(wù)協(xié)作，實(shí)現(xiàn)從單節(jié)點(diǎn)智能到分布式多節(jié)點(diǎn)智能的演進(jìn),解決從單領(lǐng)域問(wèn)題到解決復(fù)雜系統(tǒng)問(wèn)題的升級(jí)。減少傳統(tǒng)集中式AI計(jì)算模邊緣智能核心網(wǎng)對(duì)傳統(tǒng)網(wǎng)絡(luò)架構(gòu)進(jìn)行了重構(gòu)，以網(wǎng)絡(luò)功能（NF）的方式重用，即將一個(gè)NF進(jìn)一步拆分成若干個(gè)自包含、自管理、可重用的NF服務(wù)。務(wù)互通的能力，并且可通過(guò)編排工具根據(jù)不同的在實(shí)際部署時(shí)，UPF可以按照不同業(yè)務(wù)場(chǎng)景對(duì)時(shí)延、帶寬、可靠性等差異網(wǎng)數(shù)據(jù)安全隔離，確保生產(chǎn)的安全可靠，可根據(jù)企業(yè)需求開(kāi)放專享UPF的數(shù)據(jù)圖2.185GUPF下沉邊緣部署架構(gòu)屬切片標(biāo)識(shí)和DNN，企業(yè)終端接入網(wǎng)絡(luò)時(shí)，基站會(huì)根據(jù)切片標(biāo)識(shí)將信令發(fā)企業(yè)專享信令面網(wǎng)元，信令面網(wǎng)元會(huì)根據(jù)簽約的切片標(biāo)識(shí)和DNN，將數(shù)據(jù)載建立在企業(yè)獨(dú)享UPF上。終端發(fā)送的數(shù)據(jù)包轉(zhuǎn)發(fā)方式與混合專網(wǎng)一致，采取圖2.195G輕量化核心網(wǎng)全下沉部署架構(gòu)3.邊緣內(nèi)生智能的關(guān)鍵技術(shù)3.1模型輕量化近年來(lái)，隨著人工智能技術(shù)的快速發(fā)展，深度神經(jīng)網(wǎng)絡(luò)（DNN）獲得了越來(lái)越多的關(guān)注。DNN已被廣泛地應(yīng)用于各個(gè)領(lǐng)域并取得了優(yōu)異的效果，如目標(biāo)DNN的參數(shù)量日益增加，模型結(jié)構(gòu)也變得愈加復(fù)雜，這帶來(lái)了極大的存儲(chǔ)與計(jì)算資源需求。此外，隨著移動(dòng)設(shè)備的普及和邊緣計(jì)算的興起，DNN模型在邊緣將預(yù)先訓(xùn)練好的深度神經(jīng)網(wǎng)絡(luò)修剪為更小的網(wǎng)絡(luò)。如圖3.1，在DNN中，由于圖3.1剪枝示意圖準(zhǔn)則對(duì)模型中的通道進(jìn)行重要性分析；3）根據(jù)設(shè)定的剪枝率對(duì)模型的冗余通道進(jìn)行刪減；4）對(duì)刪減后的模型進(jìn)行微調(diào)，彌補(bǔ)因剪枝引入的性能損失。剪枝中如權(quán)重大小、梯度和Hessian等統(tǒng)計(jì)數(shù)據(jù)。由于非結(jié)構(gòu)化剪枝是在權(quán)重粒度上對(duì)得到加速，克服非結(jié)構(gòu)化剪枝硬件加速難的問(wèn)題。移位剪枝[14]（ShiftPruning,圖3.2SP算法3x3卷積分解的示意圖知識(shí)蒸餾作為模型壓縮中的一項(xiàng)重要技術(shù)，最早在2015年由Hint圖3.3知識(shí)蒸餾中的師生框架教師模型和學(xué)生模型的容量差異，出現(xiàn)了很多學(xué)生模型結(jié)構(gòu)，如：1）簡(jiǎn)單的淺層模型；2）教師模型的簡(jiǎn)易量化版本；3）具有高效操作的小型模型；4）具有優(yōu)化的全局網(wǎng)絡(luò)結(jié)構(gòu)的小型模型；5）和教師圖3.4用于在線知識(shí)蒸餾的多尺度特征提取和融合（MFEF）示意圖從n位降低到m位，其中n>m，減少了模型的存儲(chǔ)開(kāi)銷和運(yùn)行功耗，加快了計(jì)算速度，如圖3.5所示。量化用途廣泛，可以運(yùn)用于大多數(shù)的模型和硬件，PTQ）。QAT涉及對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行量化，然后重新訓(xùn)練它，可以使它能根當(dāng)訓(xùn)練數(shù)據(jù)不可用時(shí)，則采用訓(xùn)練后量化方法。PTQ利用校準(zhǔn)數(shù)據(jù)對(duì)預(yù)訓(xùn)圖3.5量化感知訓(xùn)練（QAT）和訓(xùn)練后量化（PTQ）的流程圖神經(jīng)架構(gòu)搜索（NeuralArchitectureSearch,NAS）是一種模型壓縮技術(shù)，旨在自動(dòng)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)和優(yōu)化過(guò)程，如圖3.6所示。NAS的目標(biāo)是通過(guò)到更高的效率和性能。NAS的三個(gè)重要方面為搜索空間、搜索策略和性能評(píng)估方不等。搜索空間的大小和復(fù)雜性會(huì)NAS的搜索效率和結(jié)果人們可以利用先驗(yàn)知識(shí)來(lái)減少搜索空間的大小和簡(jiǎn)化搜索，如具有ResNet和知識(shí)的構(gòu)建塊，則NAS算法可以更快地找出高性能結(jié)構(gòu)；如果搜索空間大并且含有原始的構(gòu)建塊，則NAS算法可以找出最佳結(jié)構(gòu)，但算法級(jí)網(wǎng)絡(luò)的一次性訓(xùn)練來(lái)隱式訓(xùn)練搜索空間中性能評(píng)估指標(biāo)是幫助NAS在搜索空間找到性能更優(yōu)的結(jié)構(gòu)。正常模型訓(xùn)練圖3.6神經(jīng)架構(gòu)搜索框架圖FilterPruningforCNNComputersandCommunications(ISCC),G[12]Pruning-and-distillation:One-stagejointcomNeuralNetworks,”2023IEEEInternationalConferenceonMultimediaandExpo[15]Multi-scaleFeatureExtractionandFusionforOnli3.2邊云協(xié)同智能聯(lián)邦學(xué)習(xí)(FederatedLearning,FL)是一種機(jī)器學(xué)習(xí)的分布式學(xué)習(xí)方法，其主（2）本地訓(xùn)練：每個(gè)本地設(shè)備使用本地?cái)?shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練。這個(gè)階段的（4）同步聚合：設(shè)備將模型更新發(fā)送到中央服務(wù)器，中央服務(wù)器執(zhí)行模型迭代上述步驟在多個(gè)迭代中重復(fù)進(jìn)行，直到圖3.7聯(lián)邦學(xué)習(xí)訓(xùn)練框架低通信成本，但它也面臨一些挑戰(zhàn)。以下是（1）數(shù)據(jù)異構(gòu)性：在聯(lián)邦學(xué)習(xí)框架中，為了協(xié)同達(dá)到目標(biāo)準(zhǔn)確度，客戶端不同（non-IID）時(shí)，這一問(wèn)題變得更為嚴(yán)重。實(shí)際上，由于有限的觀測(cè)能力，（2）隱私保護(hù)：聯(lián)邦學(xué)習(xí)的一個(gè)主要目標(biāo)是在不共享原始數(shù)據(jù)的情況下進(jìn)（3）通信開(kāi)銷：聯(lián)邦學(xué)習(xí)需要在本地設(shè)備和中央服務(wù)器之間進(jìn)行模型參數(shù)（4）激勵(lì)機(jī)制：由于聯(lián)邦學(xué)習(xí)的分散性質(zhì)，每個(gè)參與方都有自己的數(shù)據(jù)，圖3.8分割學(xué)習(xí)示意圖（1）用戶同時(shí)進(jìn)行前向傳播實(shí)現(xiàn)并行訓(xùn)練，通過(guò)對(duì)所有用戶進(jìn)行相同的模（2）為每個(gè)用戶配置邊緣服務(wù)器，在服務(wù)器端引入聯(lián)邦學(xué)習(xí)的模型聚合保（3）在客戶端和服務(wù)器端都引入了聯(lián)邦學(xué)習(xí)，結(jié)合了分割學(xué)習(xí)和聯(lián)邦學(xué)習(xí)（4）將參與訓(xùn)練的客戶端按照資源狀況聚類分簇，并在簇內(nèi)并行，簇間串由于深度神經(jīng)網(wǎng)絡(luò)(DeepNeuralNetwork,DNN)是計(jì)算密集且結(jié)構(gòu)復(fù)雜的，DNN模型直接部署在終端設(shè)備上將消耗大量的計(jì)算資源和內(nèi)存，傳統(tǒng)的方法是源短缺之間的矛盾，一種可行的方案是將DNN進(jìn)行模型分割和分區(qū)處理一部分部署在終端設(shè)備，另一部分傳輸至附近的具有較強(qiáng)計(jì)算能力的邊緣服務(wù)退和分割的DNN推理框架結(jié)構(gòu)，如圖3.9所示，當(dāng)退出點(diǎn)向后移動(dòng)時(shí)，每個(gè)分DNN可以選擇一個(gè)可容忍的精度損失的早期退出點(diǎn)，并將DNN任務(wù)的適圖3.9具有不同推理精度的多分支早退網(wǎng)絡(luò)結(jié)構(gòu)的，如圖3.10(a)所示，基于工作負(fù)載分割的方案將輸入數(shù)據(jù)進(jìn)行按行分割并部最終生成一個(gè)二維特征圖。如圖3.10(b)所示，由于神經(jīng)網(wǎng)絡(luò)中卷積計(jì)算的協(xié)作設(shè)備將各自推理運(yùn)算得到的相應(yīng)輸出特征圖通過(guò)多播的方式發(fā)送給其他協(xié)作設(shè)備進(jìn)行數(shù)據(jù)聚合，以保證在下一次卷積之前每個(gè)設(shè)備擁有完整的輸入數(shù)據(jù)/特征圖。由于每個(gè)協(xié)作節(jié)點(diǎn)只生成部分特征圖信息，KPM保證了敏感數(shù)據(jù)的隱圖3.10工作負(fù)載分割方案和卷積核分割方案FederatedLearningoverWirelessNetworks,”ICC2023-IEEEInternationalNetworkingConference(WCNC),Austin,TXNetworkTasksThroughEdge-DeviceAdaptiveInference,”2023IEEE34thAnnualInternationalSymposiumonPersonal,IndoorandMobileRadio3.3無(wú)線聯(lián)邦學(xué)習(xí)中的邊緣智能3.3.1無(wú)線聯(lián)邦學(xué)習(xí)Intelligence,AI）技術(shù)正在快速發(fā)展，但將其應(yīng)用于實(shí)際生產(chǎn)環(huán)節(jié)卻還面臨諸多在2020年3月份便對(duì)規(guī)范進(jìn)行更新和加強(qiáng)[20]。因此，即便企業(yè)主觀上有數(shù)據(jù)為了解決智能和隱私之間的矛盾，聯(lián)邦學(xué)習(xí)（FederatedLearning,FL）的概FL突破了傳統(tǒng)ML訓(xùn)練的思路，不再?gòu)挠脩籼幨占瘮?shù)據(jù)，而是將模型發(fā)送到用圖3.11聯(lián)邦學(xué)習(xí)的基本流程根據(jù)數(shù)據(jù)分布特征的不同，可將FL細(xì)分為橫向聯(lián)邦學(xué)習(xí)（HorizontalFL,數(shù)據(jù)卻是相似的，也具備相似的特征空間；VFL指的是用戶本身重疊較多，但不同節(jié)點(diǎn)的數(shù)據(jù)類型（特征）卻有明顯區(qū)別的情況，例如相同地區(qū)的兩家企業(yè)，共樣本進(jìn)行協(xié)同訓(xùn)練。最開(kāi)始提出的FL框架實(shí)際上屬于HFL，相應(yīng)地HFL目這種聯(lián)合在未來(lái)“萬(wàn)物智聯(lián)”時(shí)代將會(huì)下沉到規(guī)模更大、分布更廣的用戶終端級(jí)部署的聯(lián)邦學(xué)習(xí)，便可稱為無(wú)線聯(lián)邦學(xué)習(xí)（WirelessFL,），邊緣智能（EdgeIntelligence,EI）的核心訴求是將智能化下沉到邊緣，也即在這種需求背景下，邊緣設(shè)備的智能協(xié)同訓(xùn)練就成了實(shí)現(xiàn)EI和利用；另一方面，F(xiàn)L訓(xùn)練過(guò)程需要消耗大量的資源，如何合理地安排用戶接3.3.2聯(lián)邦學(xué)習(xí)中的模型稀疏化圖3.12模型稀疏化的基本流程假設(shè)前述環(huán)節(jié)中確定的傳輸預(yù)算為k，則本環(huán)節(jié)的主要任務(wù)是型收斂的影響，然而排序的過(guò)程復(fù)雜度較高，尤其是模型參數(shù)較多時(shí)；Rand稀疏無(wú)需對(duì)參數(shù)進(jìn)行排序，計(jì)算開(kāi)銷較小，且在理論分但由于不考慮參數(shù)重要性的差異，通常會(huì)導(dǎo)致收信息，將參數(shù)數(shù)值用于更新對(duì)應(yīng)位置上的參數(shù)。對(duì)發(fā)兩端使用相同的隨機(jī)種子和生成器，則可以不需都可以和沒(méi)有引入模型稀疏的Dense-SGD效果保持接近。該實(shí)驗(yàn)中TopK-SGD方案只選擇性地傳輸了1/1000的參數(shù)，通信開(kāi)銷大幅降低；同時(shí)可以看到，基于Rand稀疏的RandK-SGD的收斂效果較差一些。因此，在實(shí)際應(yīng)用中通常采圖3.13模型稀疏化的實(shí)驗(yàn)效果3.3.3聯(lián)邦學(xué)習(xí)的模型量化傳輸是一種有效的模型壓縮手段，這構(gòu)成了模型量化圖3.14模型量化的基本流程果，還可根據(jù)模型參數(shù)的動(dòng)態(tài)范圍、當(dāng)前訓(xùn)），(a)CNN@MNIST（IID）圖3.15模型稀疏化的實(shí)驗(yàn)效果監(jiān)督管理總局;國(guó)家標(biāo)準(zhǔn)化管理委員會(huì).北京:中國(guó)質(zhì)檢出版社,2020:1–36[2020-03-06].networksformobilevisionapplications[J].distributeddeeplearning[J].arXivpreprintarX[24]ZhengS,ShenC,communicationsforfederatedlearCommunications,2020,39(7):3.4邊緣智能化部署3.4.1無(wú)線側(cè)智能化驅(qū)動(dòng)力移動(dòng)通信產(chǎn)業(yè)是構(gòu)建國(guó)家信息基礎(chǔ)設(shè)施、全面支撐經(jīng)濟(jì)社會(huì)發(fā)展的戰(zhàn)略性、5G基礎(chǔ)上全面支持各行業(yè)的數(shù)智化轉(zhuǎn)型，將無(wú)線側(cè)引入智能化的驅(qū)動(dòng)力一方面來(lái)自于無(wú)線網(wǎng)絡(luò)自優(yōu)的智能化服務(wù)能力，通過(guò)網(wǎng)絡(luò)與AI技術(shù)的多層級(jí)深度融合，實(shí)現(xiàn)在沒(méi)有人工圖3.16無(wú)線側(cè)智能化部署架構(gòu)量，需要綜合考慮智能服務(wù)對(duì)通信、計(jì)算、數(shù)據(jù)模型推理功能，根據(jù)AI所處位置不同，以及所擁或定制化AI加速芯片的異構(gòu)資源，支持6G將是一個(gè)多元化的網(wǎng)絡(luò)：網(wǎng)絡(luò)層面，組網(wǎng)更統(tǒng)計(jì)意義上的小區(qū)級(jí)KPI為目標(biāo)；承載在相同2C業(yè)務(wù)場(chǎng)景，證明了用戶智能編排方案能夠?qū)崿F(xiàn)多種業(yè)務(wù)的精準(zhǔn)圖3.17分級(jí)智能化部署示意圖數(shù)需要快速調(diào)整、計(jì)算時(shí)間速度快的特點(diǎn)，例如物理等專用芯片加速，實(shí)時(shí)性要求低的計(jì)算可通過(guò)圖3.18分布式算力部署示意圖3.5深度邊緣節(jié)點(diǎn)6G新場(chǎng)景和新業(yè)務(wù)的提出，對(duì)網(wǎng)絡(luò)提出了按需深度邊緣節(jié)點(diǎn)的“深度”包含了兩方面的含義，第一圖3.19深度邊緣節(jié)點(diǎn)架構(gòu)化等方式抽象出來(lái)，形成能被網(wǎng)元或者用戶直接使用實(shí)現(xiàn)AI算法針對(duì)網(wǎng)絡(luò)自由化和網(wǎng)絡(luò)場(chǎng)景的支持，3.5.1深度邊緣節(jié)點(diǎn)的無(wú)線網(wǎng)絡(luò)可編程根據(jù)具體場(chǎng)景的需求嵌入對(duì)應(yīng)的算法，亦可將AI模塊化的網(wǎng)絡(luò)要素及標(biāo)準(zhǔn)化應(yīng)用程序編程接API設(shè)3.5.2深度邊緣節(jié)點(diǎn)的網(wǎng)元融合制信令不出園區(qū)、輕量級(jí)網(wǎng)絡(luò)部署等，核心網(wǎng)（CN的交互，當(dāng)前的架構(gòu)形態(tài)和交互模式無(wú)法充分利用網(wǎng)絡(luò)虛擬化和云化的優(yōu)管理、可達(dá)性管理、尋呼、狀態(tài)管理等。這些類似功能需要RAN和CN頻2.用例場(chǎng)景分析：3.潛在融合功能分析：如若RRC狀態(tài)為Idle態(tài)，即UE與RAN的連接未建立，則無(wú)法進(jìn)入CM-Connected），狀態(tài)管理的復(fù)雜度、開(kāi)銷較大。因此RAN和CN狀態(tài)管），3.5.3深度邊緣節(jié)點(diǎn)的跨域AI設(shè)計(jì)不同網(wǎng)域間AI缺乏協(xié)同，僅能支持特定的智引入跨域人工智能控制器來(lái)實(shí)現(xiàn)，該控制器與RAN非實(shí)時(shí)智能控制器、圖3.20深度邊緣節(jié)點(diǎn)的跨域AI協(xié)同架構(gòu)及路徑2.跨域智能管理域編排：為了實(shí)現(xiàn)不同網(wǎng)絡(luò)域之間的AI協(xié)同能力，需要.管理系統(tǒng)需要支持跨域的分布式學(xué)習(xí)，例如管理垂直聯(lián)邦學(xué)習(xí)的訓(xùn)練和推4.邊緣內(nèi)生智能應(yīng)用4.1智慧交通4.1.1智慧交通邊緣計(jì)算系統(tǒng)概述地處理數(shù)據(jù)和實(shí)時(shí)響應(yīng)，從而提供更低的時(shí)在本地進(jìn)行數(shù)據(jù)處理、分析和決策（如信號(hào)燈、4.1.2智慧交通邊緣計(jì)算類型感知數(shù)據(jù)進(jìn)行AI分析處理后，將結(jié)構(gòu)化數(shù)據(jù)服務(wù)器搭載大服務(wù)器搭載大工控機(jī)搭載NvidiaJetsonXeonXeon展（65℃~80℃降頻（60℃~70℃降頻功能模塊詳細(xì)功能設(shè)備運(yùn)維管理數(shù)據(jù)接入.攝像頭接入：實(shí)現(xiàn)攝像頭實(shí)時(shí)視頻數(shù)據(jù)的接收與解析.毫米波雷達(dá)接入：實(shí)現(xiàn)毫米波雷達(dá)實(shí)時(shí)數(shù)據(jù)的接收與解析.激光雷達(dá)接入：實(shí)現(xiàn)激光雷達(dá)實(shí)時(shí)結(jié)構(gòu)化數(shù)據(jù)的接收與解析.信號(hào)燈控制機(jī)接入：實(shí)現(xiàn)信號(hào)等狀態(tài)、配時(shí)信息的實(shí)時(shí)解析.云端數(shù)據(jù)接入：采集云控平臺(tái)發(fā)送的V2X業(yè)務(wù)數(shù)據(jù)和運(yùn)維管理數(shù)據(jù)數(shù)據(jù)轉(zhuǎn)換與傳輸.向路側(cè)感知設(shè)備、路側(cè)單元RSU、云控平臺(tái)傳輸運(yùn)維管理.支持邊緣計(jì)算分析結(jié)果按V2X協(xié)議進(jìn)行轉(zhuǎn)換，并實(shí)現(xiàn)與V2X通信設(shè)備的數(shù)據(jù)傳輸.可根據(jù)場(chǎng)景需要，向可變情報(bào)板、可變限速標(biāo)志發(fā)送控制數(shù)據(jù)數(shù)據(jù)融合.支持?jǐn)z像頭、毫米波雷達(dá)、激光雷達(dá)等設(shè)備多元數(shù)據(jù)融合安全認(rèn)證.通信加密：根據(jù)實(shí)時(shí)密鑰信息對(duì)報(bào)文信息進(jìn)行加密與解密目標(biāo)識(shí)別與定位.支持機(jī)動(dòng)車識(shí)別，識(shí)別機(jī)動(dòng)車的位置、朝向、類別、速度、軌跡等信息，檢測(cè)內(nèi)容包括顏色、車輛品牌，支持識(shí)別類型包括汽車、卡車、公交車、緊急車輛等.支持非機(jī)動(dòng)車識(shí)別，識(shí)別非機(jī)動(dòng)車的位置、朝向、類別、速度、軌跡等信息，支持識(shí)別類型包括自行車、摩托車、三輪車等.支持行人進(jìn)行檢測(cè)識(shí)別與定位，包括行人位置，行走速度.其它交通參與者進(jìn)行檢測(cè)識(shí)別與定位，如錐桶、三角警示架目標(biāo)連續(xù)追蹤.支持不連續(xù)感知區(qū)域目標(biāo)連續(xù)追蹤，感知盲區(qū)軌跡復(fù)原可視化.支持車輛、行人、信號(hào)燈、路側(cè)事件、地圖、路況等可視化交通事件檢測(cè)4.1.3智慧交通邊緣計(jì)算應(yīng)用邊緣計(jì)算通過(guò)對(duì)攝像頭等感知設(shè)備進(jìn)行AI分緣云協(xié)同調(diào)度及非實(shí)時(shí)數(shù)據(jù)處理，邊緣計(jì)算主要實(shí)圖4.1智慧交通云邊協(xié)同