邊緣AI進入蓬勃發展期，ADI如何解決AI芯片落地難題？

電子發燒友網報道（文/李彎彎）隨著物聯網設備爆發式增長，海量數據將在邊緣側積累，邊緣AI進入蓬勃發展期。Gartner預測，到2023年，將有50%以上的大型企業將至少部署6個用于物聯網或沉浸式體驗的邊緣計算應用，并且到2025年，75%的數據將產生在邊緣。

AI芯片作為實現邊緣AI的核心，是承載AI的硬件基礎。近年來，全球領先的高性能模擬技術公司ADI一直致力于將人工智能推向邊緣端，為ML/DL真正融入邊緣智能而努力。在產品方面，ADI推出了集成神經網絡加速器的低功耗微控制器——MAX78000，成為高能效AI處理與超低功耗微控制器相結合的AI MCU重要典范。

MAX78000的性能優勢和應用

MAX78000是一款超低功耗神經網絡微控制器，內置硬件CNN加速器、雙微核、存儲器、SIMO和多通信接口，ADI公司資深業務經理李勇在接受電子發燒友采訪的時候表示，該款產品在算力、功耗、延遲和集成度等方面實現了關鍵性能的平衡。

具體來看，MAX78000擁有專門的CNN加速器（搭載64個CNN處理器），支持最多64的卷積層數和1024通道數，權重存儲空間為442KB（最大可支持350萬個權重位）。支持AI網絡實時更新，支持PyTorch和TensorFlow常規工具集訓練。

MAX78000搭載了Arm Cortex-M4F和32位RISC-V兩個MCU核心用于系統控制。其中Arm Cortex-M4F處理器以100MHz運行，客戶可編寫任何系統管理代碼；RISC-V處理器的獨特功能是支持以低功耗將數據快速加載到神經網絡加速器，用戶可使用任何一種微控制器內核將數據輸入到卷積神經網絡的引擎中。

MAX78000還具有低功耗、低延遲、低成本、高集成度優勢。在低功耗方面，將硬件CNN加速器與超低功耗雙微控制器相結合，相較于MCU+DSP解決方案，邊緣AI定制的硬件加速器可將功耗降低99%以上。與運行在低功耗微控制器上的軟件解決方案相比，在配置并加載了數據后，MAX78000運行AI推理的速度快了100倍，功耗卻不到其1%。

在低延遲方面，相較于純MCU方案，邊緣AI定制的硬件加速器具備更高數據吞吐量，可將速度提高100倍以上。在成本方面，MAX78000遠低于FPGA等方案，略高于常規MCU，但可以處理更復雜的細節。在高度集成方面，集成的神經網絡加速器與低功耗微控制器使得在電池供電的IoT設備中實現復雜、實時的AI功能成為可能。

據李勇介紹，MAX78000的應用領域主要聚焦在視覺識別、聲音識別、監測識別等三方面。視覺識別主要包括VGA圖像分析、物體偵測、面部識別；聲音識別主要包括語音喚醒、語音身份驗證、聲音降噪；監測識別主要包括心率監測、腦電波監測、工業預防。

他進一步解釋，AI技術是一種強大的模式識別技術，需要進行大量的矩陣運算，以及大量的存儲空間和系統功耗。邊緣AI作為在設備本地執行的AI，通常需要使用電池進行供電，因此要在系統功耗、計算速度和設備成本之間取得平衡。

ADI的MAX78000 AI MCU通過獨特的架構設計實現了上述要求，能夠為機器視覺、面部識別、目標檢測和分類、時序數據處理和音頻處理等應用提供理想選擇。目前，MAX78000已在森林防火監測、地質災害監測以及智能家居等領域獲得廣泛應用。

在李勇看來，未來，諸如MAX78000這類AI MCU的應用，還將會向新興的AIoT、運動健康、遠程醫療、自動駕駛、機器人與自動化、工業制造、智慧樓宇/園區/城市，以及各行業的安全監測等場景拓展，如各類圖像識別，頭盔攝像頭、助聽器的語音控制，以及風力發電設備安全監測的預測性維護等。

MAX78000如何解決邊緣AI的落地難題

從芯片層面來看，邊緣AI的落地難題，主要與算力、算法、功耗、延遲、集成度和成本等因素有較大關系。具體來看，在算力方面，相較于云端服務器，邊緣節點的AI算力資源配置往往有限，無法滿足邊緣側AI的應用。李勇表示，ADI的MAX78000 AI MCU配備了專門的神經網絡加速器，從硬件層面可以大幅提升邊緣算力。

在算法方面，由于軟硬件異構、接口限制等因素，算法適配往往很難。MAX78000針對語音與人臉識別等應用從產品方案、接口配置到工具優化，以及生態上均提供了豐富支持，比如，智能識別數據的收集和數學模型的建立跟訓練很重要，為此ADI提供了聲音識別和face ID識別demo程序供客戶下載和學習，客戶僅需在其基礎上進行修改。此外，ADI擁有非常有經驗的第三方生態伙伴，能夠提供數學模型的訓練與數據的收集。

在功耗方面，大量邊緣AI應用常常導致設備功耗高企。而MAX78000基于CNN加速器和雙核處理器架構，數據無需消耗高功耗上傳，即可完成智能決策，同時還支持高效的片內電源管理，集成單電感多輸出（SIMO）開關模式電源，能夠有效降低器件功耗，延長電池供電IoT設備的續航時間。

在延遲方面，邊緣端設備監測的各種數據通過網絡傳輸到云端，一旦帶寬受限，就可能出現無法容忍的延遲問題。但與常規軟件解決方案相比，MAX78000在配置并加載了數據后，運行AI推理的速度能夠提升100倍。

在集成度方面，邊緣AI應用如可穿戴設備需要產品集成度高、體積小，但基于MCU或GPU或FPGA的方案往往較大，不符合應用的尺寸需要。另外，這些方案通常要配備片外存儲器、PMIC，方案無論成本、尺寸還是功耗都具有很大挑戰性。MAX78000則能兼顧小而全和小而優。

在成本方面，基于云計算的邊緣智能可能只適合一些大企業的應用，例如幾萬個、幾十萬個客戶來支持一個服務器，這樣才能夠支撐云端的成本。但很顯然，這對于邊緣AI設備來說不現實，而MAX78000卻能實現很多基本的控制應用，讓邊緣端的自主智能更具成本效應。

具體來看幾個案例，比如，森林火災，公路、鐵路或大壩塌方等災害現場往往地處偏僻，通信網絡帶寬受限，但快速決策和預警非常關鍵，因此必須進行邊緣端快速判定。對于此類應用時間敏感性非常高，傳統的云端監測，可能需要發送一組圖片到云端，對網絡流量要求比較高。而更靠近數據源的邊緣計算不僅能提供低時延、高可靠服務，還能夠保障數據處理的實時性。

MAX78000因為擁有雙核處理器架構，并搭載獨立的CNN加速器，大幅提升邊緣AI算力。通過監測端自主智能識別，一旦有突發情況出現，MAX78000能夠快速分析決策并告警，避免更嚴重的災害損失發生。

再比如，當前市場通用的MCU或FPGA的智能解決方案，在電池供電的低功耗邊緣端智能應用中仍面臨巨大挑戰，比如任何一次更換電池的運維成本可能比設備本身更貴。由此，低功耗正成為目前眾多邊緣智能應用場景的關鍵要求。

市場急需像MAX78000這樣的具超低功耗特性的新一代邊緣AI解決方案：首先，MAX78000的邊緣智能決策能力，避免了頻繁的數據傳輸、數據采集導致的高功耗；其次，MAX78000提供高效的片內電源管理，集成單電感多輸出（SIMO）開關模式電源，可最大限度地延長電池供電物聯網設備的續航時間和降低成本。

邊緣AI芯片的未來趨勢

從目前的情況來看，邊緣AI正在快速崛起，2022年或將成為其爆發元年。知名市場研究公司Forrester預測，在2022年，智能基礎設施的投資將增加40% 。

在ADI看來，終端設備爆發疊加產業數智化轉型契機，越來越多的邊緣設備將需要具備一定的“學習”能力，能夠根據收集到的新數據在本地分析、訓練、優化和更新模型。當然，這也會對邊緣設備以及整個AI實現系統提出一系列新要求。一方面，邊緣AI芯片作為人工智能的底層硬件支撐，需要與其他元器件一起協同工作，才能將AI效率推向極致；另一方面，除了硬件，軟件也是實現AI的核心。因此，未來AI芯片必須具備一個重要特性，那就是能夠實時動態改變功能，滿足軟件不斷變化的計算需求，即“軟件定義芯片”。