網絡邊緣是全新的嵌入式應用

網絡邊緣是全新的嵌入式應用貿澤電子MarkPatrick云計算具有許多優(yōu)勢，例如可以靈活地工作，包括在家中進行高效率且富有成果的工作（在新冠大流行期間這些非常重要），并且使更多人可以使用人工智能（AI）和大數據等應用的強大且先進功能。作為物聯網的中心，云計算需要收集來自環(huán)境傳感器，工業(yè)執(zhí)行器，自動駕駛汽車等數十億個物聯網端點的數據，因而云計算是使個人和企業(yè)享受智能世界優(yōu)勢的重要動力。但是云計算也有缺點。要維持互聯網連接非常耗能，對于小型設備而言，在技術上可能很難實現，或者非常昂貴。如果每一比特數據都需要傳回云端，那么網絡可能會因M2M流量而堵塞。此外，過多依賴云計算會導致延遲，需要提交的服務因此也會延遲，不能使IoT設備實時確定地運行。此外，通過網絡傳輸數據并與其它云計算應用共享數據也會帶來隱私和安全性問題。處理能力需求追蹤處理數據并根據結果做出決策，這種過程所需的計算能力正在從云端遷移到網絡邊緣。從企業(yè)計算或運營商的角度來看，邊緣計算與核心網絡外圍的網關設備相關聯，這可以進一步細分為近端基礎設施，通常負責通用服務，而處在在更接近最終用戶的遠端應用則變得更加具體化。隨著計算能力提高，邊緣正在成為智能邊緣。但是為什么要就此止步？將強大的計算功能進一步向外擴展以涵蓋傳感器和執(zhí)行器、數據聚合器和網關等物聯網端點，將創(chuàng)建嵌入式邊緣。這樣，新的解決方案應運而生，可幫助克服嵌入式設計人員面臨的傳統(tǒng)限制，包括功耗、計算性能、內存占用空間和物理尺寸等。邊緣處理能帶來什么？處理器技術的發(fā)展使之可以完成更復雜的任務，并提供更高的性能，同時消耗更少的電能，利用連續(xù)幾代處理器所帶來的進步，嵌入式邊緣計算作為物聯網處理的支柱將繼續(xù)變得越來越重要。尤其像工業(yè)4.0和自動駕駛這樣影響巨大的產業(yè)趨勢正在催生一些新應用，它們要求低延遲和網絡獨立性，而邊緣處理則可以提供。這些示例包括機器視覺（見圖1）和車輛導航等，通過在嵌入式系統(tǒng)上融入機器學習推理，可以進一步加速和改善這些應用。當今機器學習的性能可以勝過傳統(tǒng)的機器視覺應用，此外還支持其他功能。自動導航車輛（AGV）不僅可以簡單地檢測行駛路徑中的物體，而且可以識別和分類它們。隨著工廠操作空間變得越來越擁擠，需要容納越來越多的員工和移動或靜態(tài)機器人，這已成為越來越重要的功能。同樣，機器學習技術可以提高工業(yè)狀態(tài)監(jiān)視系統(tǒng)中模式識別的效率，從而提高診斷準確性。其他一些可以從本地機器學習功能中受益的應用包括智能農業(yè)，能夠通過圖像識別訓練以自動識別農作物病害，而無需Internet連接。使用TinyML進行機器學習為了在嵌入式設備中實現這些功能，微型機器學習（TinyML）的概念正在興起。TinyML包含了針對資源受限嵌入式系統(tǒng)而量身定制的機器學習框架，開發(fā)人員需要工具來構建和訓練機器學習模型，然后對其進行優(yōu)化以部署在諸如微控制器、小型處理器或FPGA之類的邊緣設備上。TinyML的工作原理體現在一些面向邊緣的機器學習框架中，例如TensorFlowLite（見圖2）。這個非常流行且廣泛使用的框架擁有一些工具，其中包括用于優(yōu)化標準TensorFlow模型以在嵌入式Linux等目標設備上運行的轉換器（converter），以及用于運行優(yōu)化模型的編譯器（interpreter）。

圖2：TensorflowLite針對嵌入式部署優(yōu)化的機器學習模型。此外，針對微控制器的TensorFlowLite是專門為內存極為有限的設備上運行機器學習而創(chuàng)建，內核運行時僅占用幾KB內存，并且已在基于Arm?Cortex?-M內核的許多微控制器上進行了測試。TensorFlowLite工具可提供多種方法來減小在嵌入式設備或微控制器上運行的TensorFlow模型大小。邊緣推理解決方案領先的微控制器供應商目前正在為部署AI推理和機器學習提供有效的生態(tài)系統(tǒng)和流程，您可以獲得這樣的嵌入式微控制器，其架構設計允許部署神經網絡以運行機器學習算法。新一代專為機器學習推斷而設計的微控制器正在不斷出現。TISitara?處理器系列中的AM5729即是一例。AM5729除了具備兩個ArmCortex-A15內核和一個Cortex-M4嵌入式內核外，還包含四個嵌入式視覺引擎（EVE），能夠支持深度學習網絡以確保較高的推理性能。TI深度學習（TIDL）軟件框架和TIDL接口可幫助開發(fā)人員在嵌入式處理器上構建、訓練和部署神經網絡。意法半導體（STMicroelectronics）用于神經網絡的工具箱包括STM32Cube.AI轉換工具，用于轉換使用各種流行框架創(chuàng)建且經過訓練的神經網絡，該工具會自動生成針對STM32ArmCortex-M微控制器優(yōu)化的程序庫。AI生態(tài)系統(tǒng)還提供軟件功能包，其中包含必要的低級別驅動程序和中間件庫，以部署經過訓練的神經網絡。還有用于音頻場景分類和人員活動檢測的示例應用，可幫助用戶快速學習如何使用嵌入式AI。ST工具箱還提供專用的移動應用程序，以及ST的SensorTile參考硬件，用于運行推理或數據收集。SensorTile是包含環(huán)境和周邊傳感器的交鑰匙板，是一種預先集成的即插即用模塊。Microchip可為其微處理器、FPGA和諸如SAMD21系列之類的32位微控制器提供機器學習支持。該公司的工具可幫助開發(fā)人員使用TensorFlow、Keras和Caff以及TinyML框架（例如TensorFlowLite）等流行的機器學習框架。在使用MPLAB?系列工具應對微控制器或微處理器時，開發(fā)人員可以利用ML插件和MPLABDataVisualizer等工具來捕獲數據，以利用Microchip合作伙伴的工具來訓練神經網絡，其中包括可以自動搜索AI模型，幫助分析傳感器數據并生成程序庫的CartesiamNanoEdgeAIStudio，以及具有EdgeImpulseInferencingSDKC++庫的EdgeImpulseStudio，可將TensorFlowLite用于微控制器。用戶可以使用MicrochipMPLABXIDE將項目部署在所選MCU上。瑞薩電子（Renesas）的嵌入式人工智能（e-AI）平臺包含多個概念，可幫助在端點設備中實現AI。RenesasRZ/A2M微處理器采用動態(tài)可重配置處理器（DRP）技術，能夠將硬件加速器的性能與CPU的靈活性相結合，以實現高速、低功耗的機器視覺應用。該平臺還提供了包括e-AI轉換器在內的工具，可以將經過訓練的神經網絡模型推理處理轉換，并導入到可以在e2studioIDEC/C++項目中使用的源代碼文件?？梢允褂肨ensorFlow之類的開源深度學習框架來訓練神經網絡。此外，創(chuàng)客（makers）、年輕工程師和專業(yè)人士現在都可以使用GoogleAIY自己動手制作AI套件和GoogleCoral本地AI平臺來嘗試構建智能設備。AIY套件具有一個智能相機，該其中包括RaspberryPi板和攝像頭、一個Vision閥蓋（bonnet）、必要的電纜和按鈕，以及一個簡單的板式外殼，可讓用戶快速了解圖像識別。類似的智能揚聲器套件可幫助開發(fā)語音識別技術。GoogleCoral能夠提供多種硬件選擇，包括開發(fā)板、迷你開發(fā)板和USB加速器，可以為用戶提供將AI“嵌入”現有產品的協(xié)處理器。該工具包支持TensorFlowLite，所有板均包含Google的EdgeTPU，這是與GoogleCloudTPU相關的張量（tensor）處理單元，該處理單元經專門設計，占位面積小，功耗低。結論：邊緣計算的未來在于嵌入式智能提高網絡邊緣設備的計算能力有助于確?？煽俊⒏咝阅芎捅Ｗo隱私的物聯網應用