國內外MCU廠商在邊緣AI市場尋找機會！MCU如何運行AI算法？

電子發燒友網報道（文/李彎彎）MCU即微控制單元，是把CPU的頻率與規格做適當縮減，并將內存、USB等周邊接口，甚至LCD驅動電路都整合在單一芯片上，形成芯片級的計算機。隨著MCU算力進一步提升，高頻MCU的主頻已經提升到GHz級別，可以滿足邊緣端低算力人工智能需求。將人工智能集成在MCU上，只用一顆芯片實現端側部署，正在成為新潮流。

MCU如何運行AI算法

這種集成了AI的MCU組成結構大概包括幾個部分：中央處理器，負責讀取、解碼和執行指令，進行算術、邏輯和數據傳輸操作；AI處理單元：它負責執行AI算法和機器學習任務，AI處理單元通常包括神經網絡處理器、加速器和其他專用硬件，用于高效地執行深度學習、卷積神經網絡等計算密集型任務。

存儲單元：包括程序存儲器和數據存儲器。程序存儲器用于存儲AI算法和程序代碼，而數據存儲器則用于存儲臨時數據和結果。輸入/輸出（I/O）端口：用于與外部傳感器、執行器和其他設備進行通信，這些端口可以是數字、模擬或串行端口。

其他組件：如定時器/計數器、串行通信接口（如SPI、UART等）、內存接口等，這些組件支持AI MCU與外部設備和系統進行通信和控制。此外，結構和組成可能會因不同的應用和需求而有所差異，一些高級的AI MCU可能還包含其他高級功能，如浮點運算單元（FPU）、硬件乘法器、數字信號處理器（DSP）等。

那么，MCU是如何運行AI算法的呢？從步驟上來看，首先需要模型轉換，即需要將訓練好的AI模型轉換為MCU可以理解的格式，這通常涉及到使用特定的工具和框架，如TensorFlow Lite或Caffe 2，將模型轉換為低功耗、可移植的格式。

其次是模型優化，在模型轉換后，為了提高在MCU上的運行效率，還需要對模型進行優化。這包括壓縮模型大小、降低計算復雜度、減少內存占用等。接著是模型部署，優化后的AI模型可以部署到MCU上，這通常涉及到將模型下載到MCU的存儲器中，并使用MCU的處理器進行推理。

然后是數據預處理，在模型推理之前，需要對輸入數據進行預處理，這包括數據清洗、歸一化、特征提取等步驟，以確保輸入數據的質量和有效性。最后便是推理執行，即MCU根據預處理后的輸入數據執行推理任務，推理結果可以用于控制MCU所連接的設備或系統，如智能家居設備、工業控制系統等。

MCU運行AI有它的優缺點，優點包括：1、MCU通常具有較低的功耗，適用于電池供電或功耗敏感的應用場景；2、MCU可以實時處理和響應數據，適用于需要快速響應的應用；3、MCU可以根據具體應用需求進行定制，靈活性較高；4、MCU通常成本較低，適合大規模生產；5、MCU具有較高的可靠性和穩定性，適用于對安全性和可靠性要求較高的應用。

缺點則有：1、MCU的存儲器、處理器速度等資源有限，可能無法處理大規模的AI算法和數據；2、MCU的計算能力相對較弱，可能無法與高性能的GPU和服務器相媲美；3、MCU在數據傳輸方面可能存在限制，例如有限的I/O端口和通信接口；4、由于MCU資源限制和計算能力有限，開發人員可能需要針對MCU進行特定的優化和裁剪工作，開發難度較大；5、由于MCU通常暴露在外部環境中，可能存在安全風險，需要進行安全保護和認證。

國內外廠商在邊緣AI市場尋找機會

目前國內外不少廠商都在探索通過MCU來實現AI在邊緣端的部署，歐美廠商包括ADI、ST、瑞薩電子、恩智浦、英飛凌等，國內廠商中穎電子、國民技術、納思達、兆易創新等。

歐美廠商在這方面布局較早，如ADI，該公司從2020年開始，在傳統MCU的基礎上開拓了邊緣AI MCU產品線，能夠幫助電池供電設備更輕松地實現人工智能及物聯網應用。

ADI的邊緣AI解決方案MAX7800X系列，由兩個微控制器內核（ARM Cortex M4F和RISC-V）與一個卷積神經網絡（CNN）加速器構成，該架構針對邊緣進行了高度優化，數據的加載和啟動由微控制器內核負責，而AI推理由卷積神經網絡加速器專門負責?；趦蓚€硬件的分工合作，MAX7800X系列既不需聯網，也支持電池供電，大大滿足了邊緣AI的要求。

如ST，該公司認為對于未來的MCU而言，最為重要的應用趨勢是來自AI在邊緣端的部署。于是它在2017年開始探索AI和MCU的結合。2023年ST發布的一款集成NPU的MCU——STM32N6，是布局邊緣AI的一個重要的產品方向。STM32N6采用了Arm Cortex-M55內核，內部集成了ISP和NPU，可以提供卓越的機器視覺處理能力和AI算法部署。

同時，ST認為，對于將MCU和AI的結合，軟件端的價值更大，于是他們開發了Cube.MX，它能夠打通AI算法和MCU應用之間的屏障，讓實際的AI邊緣端應用更加豐富。通過Cube.AI，開發者可以根據自己的需求來進行模型的搭建，將標準AI工具創建的深度神經網絡模型，優化到適合MCU資源級別的C代碼，使開發者的邊緣AI算法可以最終得以執行和落地。

在國內，多家廠商會有相關的研究計劃，國民技術此前在某平臺上透露，Cortex-M7內核MCU可支持高算力的機器學習方面的AI應用，未來將根據市場需求、研發計劃和技術情況合理布局。納思達稱，目前擁有面向深度學習應用的專用計算自研平臺，針對MCU芯片，負責輕量級深度學習模型推理加速。

中穎電子去年9月在接受調研時表示，公司現在所有產品在細分領域都在做進口替代。公司不會投入在AI的核心算力部件，但對AI邊緣計算的MCU會投入研發。恒爍股份稱，公司正在開展基于MCU的AI應用部署，推動超輕量AI算法模型在MCU芯片上運行，在離線終端設備上實現低功耗、低成本、實時的AI推理解決方案，盡快實現批量出貨。

寫在最后

未來，邊緣/終端設備的智能化滲透率將會不斷提升，而MCU作為各種電子產品重要的部件，在其中集成AI將會是非常適合的方式。從目前的情況來看，歐美不少廠商已經早早布局，如ADI、ST、瑞薩等，中國臺灣廠商也在積極尋找機會，中國大陸的一些廠商也透露出了研究計劃。不過，雖然MCU運行AI有它的優勢，同時它也面臨一些缺點和挑戰，MCU廠商想要入局也并不是一件容易的事。