邊緣AI所面臨的挑戰 邊緣計算的顯著優勢分析

AI芯片獨角獸地平線發布了自詡最強邊緣 AI 芯片地平線「旭日3」，一時間引起轟動。相比第二代芯片，「旭日3」的AI性能上得到很大提升，只需在 2.5W 的功耗下，能夠達到等效 5TOPS 的標準算力。尤其是對應高端市場的旭日3M，有更強大的編解碼能力，強大的ISP效果令其極具競爭力。

這些年來，地平線的主要精力都放在旭日及征程等系列，產品線主要聚焦在邊緣AI芯片這一領域，這也讓地平線成為全球估值最高的人工智能芯片獨角獸。眾所周知，AI芯片分為云端和邊緣端，云端芯片要求高性能，邊緣端芯片由于應用場景眾多，對于環境和能耗等也有更多要求。事實上，當前邊緣AI芯片已不再是個小眾領域，除地平線以外，包括谷歌、英偉達、英特爾、高通、華為、寒武紀均于近兩年推出邊緣AI芯片，AI芯片的戰火已經由云端蔓延到了邊緣。

根據全球技術市場咨詢公司 ABI Research 的數據顯示：預計到2025年，邊緣 AI 芯片組市場的收入將達到122億美元，云AI芯片組市場的收入將達到119億美元。邊緣 AI 芯片組市場將超過云AI芯片組市場。首席分析師Lian Jye Su 表示：隨著行業的發展，企業越來越多的需要解決有關數據隱私、電源效率、低延遲和強大的設備上計算性能等問題，邊緣AI將是解決方案。預期在未來五年，AI訓練與推論會在網關或是各種邊緣裝置進行，甚至往下到傳感器節點。那么，邊緣AI到底是什么，靠什么能解決這些行業痛點呢？

一、邊緣計算與邊緣AI

近年來，物聯網設備連接數呈現出線性增長趨勢。據Gartner預測，到2020年，全球物聯網設備的數量將超過200億臺。與此同時，設備本身也變得越來越智能化。人工智能與物聯網在實際應用中的落地與融合，將推動人類社會進入“萬物智能互聯”時代，而隨之產生的數據也將呈井噴式爆發。

在過去的十年里，云計算成功地緩解了日益增長的數據所帶來的存儲、管理等問題，但是目前網絡帶寬的增長速度遠遠趕不上數據的增長速度，網絡帶寬成本的下降速度要比CPU、內存這些硬件資源成本的下降速度慢很多，同時復雜的網絡環境讓網絡延遲很難有突破性提升。所以，傳統的云計算不能滿足對響應時間和安全性的高要求。以無人駕駛汽車為例，高速行駛的汽車需要在毫秒級的時間內響應，一旦由于數據傳輸、網絡等問題導致系統響應時間增加，將會造成嚴重的后果。

除此之外，云計算還面臨帶寬不足的問題。如果將邊緣設備產生的大量數據全部傳輸至云計算中心，會給網絡帶寬造成極大的壓力。例如，飛機波音787每秒產生的數據超過5GB，但飛機與衛星之間的帶寬不足以支持數據的實時傳輸?？傊?，單純依靠云計算這種集中式的計算處理方式，不足以支持以物聯網感知為背景的應用程序運行和海量數據處理。在這種應用背景下，邊緣計算應運而生。它與現有的云計算集中式處理模型相結合，能有效解決云中心和網絡邊緣的大數據處理問題。

邊緣計算是云計算的一種補充和優化。如果說云計算是集中式、在“云端”進行的大數據處理，那么，邊緣計算則可以理解為邊緣側、靠近終端（例如手機、智能語音交互設備等）的大數據處理。在很多情況下，邊緣計算和云計算是共生關系。有個形象的解釋，把云計算和邊緣計算比喻成章魚的各器官，似乎更容易理解。作為自然界中智商最高的無脊椎動物，章魚擁有“概念思維”能力，與兩個強大的記憶系統分不開。一個是大腦記憶系統，大腦具有5億個神經元，另一個是八個爪子上的吸盤。也就是說，章魚的八條腿可以思考并解決問題。云計算就好比章魚的大腦，邊緣計算就類似于八爪魚的那些小爪子，一個爪子就是一個小型的機房，靠近具體的實物。邊緣計算更靠近設備端，更靠近用戶。

具體而言，邊緣計算有幾個明顯的優點：

帶寬：邊緣設備處理了部分產生的臨時數據，不再需要將全部數據上傳至云端，只需要傳輸有價值的數據，這極大地減輕了網絡帶寬的壓力，且減少了對計算存儲資源的需求；

延遲：在靠近數據源端進行數據處理，能夠大大地減少系統時延，提高服務的響應時間；

經濟性：某個應用如果使用云端，即使能從技術上解決帶寬和延遲問題，但在邊緣執行計算可能更劃算；

可靠性：某個應用如果使用云端，即使能從技術上解決帶寬和延遲問題，但到云端的網絡連接并非一直可靠，而應用可能需要一直運作。在這種情況下，就要使用邊緣計算了。例如人臉辨識門鎖，如果網絡連接斷開，你希望門鎖仍然正常工作；

隱私：某個應用如果使用云端，即使能從技術上解決帶寬、延遲、可靠性和經濟性等問題，可能仍有許多應用出于隱私考慮而需要進行本地處理。邊緣計算為關鍵性隱私數據的存儲與使用提供了基礎設施，提升數據的安全性。

邊緣計算因為其突出的優點，滿足未來萬物聯網的需求，從2016年開始迅速升溫，引起全球的密切關注。當然，邊緣計算是一個持續迭代更新的概念，不同技術的融合，使得邊緣計算的內核不斷創新，例如人工智能和神經網絡的應用，也正在賦能“邊緣AI”的落地。得益于云端服務器廣泛的數據計算能力，人工智能和機器學習領域取得了巨大進步，發展出更加綜合性的人工神經網絡，以解決富于挑戰性的任務。隨著機器學習、神經網絡訓練等網絡架構和工具不斷適配、兼容到嵌入式系統上，越來越多的AI應用也可以直接在邊緣設備運行，于是“邊緣AI”成為了當下討論的熱點。

邊緣AI是指在硬件設備上本地處理的AI算法，可以在沒有網絡連接的情況下處理數據。這意味著可以在無需流式傳輸或在云端數據存儲的情況下進行數據創建等操作。為了實現這些目標，邊緣計算可以在云上靠深度學習生成數據，而在數據原點——即設備本身（邊緣）執行模型的推斷和預測。

目前，國際上尚未建立邊緣人工智能的標準架構和統一算法，但各大廠商已經開始在相關領域進行探索。谷歌、亞馬遜和微軟等傳統云服務提供商推出了邊緣人工智能服務平臺，通過在終端設備本地運行預先訓練好的模型進行機器學習推斷，將智能服務推向邊緣。此外，市場上已經出現多種邊緣人工智能芯片，如文章開篇提到的地平線旭日3、谷歌edge TPU、英特爾Nervana NNP、華為Ascend 910和Ascend 310等。

二、邊緣計算與5G

邊緣計算與5G可以說是互為犄角的關系。

國際標準化組織3GPP定義了5G的三大場景。其中，eMBB指3D/超高清視頻等大流量移動寬帶業務，mMTC指大規模物聯網業務，URLLC指如無人駕駛、工業自動化等需要低時延、高可靠連接的業務。5G通信網絡更加去中心化，需要在網絡邊緣部署小規?；蛘弑銛y式數據中心，進行終端請求的本地化處理，以滿足URLLC和mMTC的超低延時需求，因此邊緣計是5G核心技術之一。

邊緣計算恰好可以解決5G三大場景面臨的問題。首先，邊緣計算設備將為新的和現有的邊緣設備提供連接和保護；其次，盡管5G將為基于云的應用程序提供更好的連接性和更低的延遲，但仍然存在處理和存儲數據的成本?；旌线吘売嬎?5G解決方案將降低這些成本；最后，邊緣計算可以讓更多應用程序在邊緣運行，減短了由數據傳輸速度和帶寬限制所帶來的延時，并可對本地數據做初步分析，為云分擔一部分工作。

另一方面，5G與邊緣計算一定程度上是相輔相成的。一方面，得益于5G自身發展，將對邊緣計算的發展起到直接促進作用；另一方面，由于5G對物聯網有促進作用，也將間接促進邊緣計算發展。

三、邊緣AI的使用場景

邊緣AI因其流量占有少、時延低、隱私性強等特征，在各行各業具有廣泛的應用前景。

智能手機

這或許是我們最熟悉的邊緣AI設備。Siri和谷歌助手是智能手機上邊緣AI的最好例證，因為該技術驅動了它們的語音UI。手機上的AI使得數據處理發生在設備（邊緣）側，這意味著不需要將設備數據交付到云端。這有助于保護隱私和減少流量。

智慧家居

隨著物聯網的普及，家庭生活將引入越來越多的智能應用，如智能照明控制、智能電視、智能空調等，這些應用需要在家庭部署大量的傳感器和控制器。為了保護家庭數據隱私，數據處理必須依賴邊緣計算，使大部分計算資源被限制在家庭內部網關，敏感的數據被禁止外流。通過邊緣人工智能優化室內定位和家庭入侵檢測，從而獲得比云計算更高的準確性和更低延遲。例如Amazon Echo、谷歌Home等智能音箱被廣泛應用，它們接收用戶指令，并通過與第三方（服務或家用電器）的交互做出響應。然而智能音箱依賴云端進行語音識別、語言語義的理解和處理，會造成家庭數據隱私泄露，而應用邊緣人工智能則能夠有效解決這些問題。家庭娛樂也將從邊緣人工智能受益，無需將用戶偏好上傳到云端，系統可自行推薦個性化服務，讓用戶擁有更好的娛樂體驗。

無人機

無人機可以飛到人跡罕至的危險區域進行探險，并以特有方式拍攝鳥瞰圖像。無人機的應用正在擴大，其中一方面包括農業中的應用，而另一方面是在采礦業中應用。然而，這些設備必須能夠“電告總部（phone home）”才能響應它們所收集的數據。邊緣計算使無人機能夠檢查數據并實時響應數據。例如，百度智能云與麥飛科技一起將BIE-AI-Board（內置檢測模型和作業模型）部署在無人機上，利用高光譜及可見光攝像頭采集作物信息數據，將之上傳至BIE-AI-Board，由BIE-AI-Board加載檢測模型對作物病蟲害位置、等級進行判斷，并根據檢測結果調用作業模型控制植保機執行植保作業，現該方案已在國內多塊農田里開始實施。

智慧農業

農業也將同樣受益于邊緣AI。除了無人機的應用，還有利用基于邊緣計算的農業物聯網實現精準農業的應用等。例如，一家總部位于澳大利亞的農業技術公司The Yield，它使用傳感器、數據和人工智能幫助農民做出有關天氣、土壤和植物條件的明智決策。

公共安全

人臉識別系統是監控攝像頭的發展方向，它可以通過學習人臉識別人類個體。2019年11月，WDS有限公司發布了AI攝像頭模塊Eeye，通過邊緣AI實時分析面部特征。對于邊緣計算的使用，即強化攝像頭終端的運算處理能，可讓其所搭載的人臉識別功能不再依賴云端服務器，避免耗費時間上傳圖像，節省了大量帶寬資源。而且通過在本地設備上直接完成臉部辨識，進而讓識別過程縮短至1.5秒內。

實時視頻分析也是邊緣AI最重要的應用場景之一。此前，視頻分析一般在云端進行，面臨著高流量消耗、延遲大等問題。隨著邊緣計算的發展，可以將部分視頻分析工作轉移到邊緣節點進行。在末端，視頻采集設備負責視頻采集、壓縮和圖像/視頻預處理。在邊緣層，多個分布式邊緣節點相互協作。在云端，由于邊緣節點的分布式模型訓練可能因其本地知識有限而未能經過良好訓練，當邊緣無法提供服務時，云利用全局知識進行進一步處理，并幫助邊緣節點更新訓練模型。

Tractica的一份報告估計：到 2025 年，人工智能邊緣設備出貨量將從2018年的1.614億臺增加到全球每年26億臺。就單位數量而言，頂級的人工智能邊緣設備將包括手機、智能揚聲器、個人電腦 /平板電腦、頭戴式顯示器、汽車傳感器、無人機、消費者和企業機器人以及安全攝像頭?？纱┐魇浇】祩鞲衅?、建筑物或設施傳感器還將有更多人工智能。

車聯網

車聯網通過將車輛互聯，提高安全性和效率，減少交通事故和避免擁塞。前期，蜂窩網絡、邊緣計算、AI都曾作為獨立的技術為車聯網服務。邊緣計算能夠為車聯網提供高速數據傳輸、低時延等服務，使得自動駕駛成為可能。AI更是被廣泛應用于智慧交通的各個領域。兩者結合將有利于進一步優化車聯網的性能，通過邊緣人工智能實現車輛的精準定位、目標跟蹤、智能感知和決策。

醫療健康

健康醫療已經進入數據時代。健康意識的普及使得醫療器械和終端越來越多樣化，邊緣人工智能將在智慧醫療領域有多個應用場景。首先是院前急救，在急診病人到達醫院或者兩個醫院轉移期間，目前的緊急醫療服務大多部署在云端，容易受移動環境和極端天氣的影響和限制。邊緣人工智能可以在救護車和醫院之間建立雙向實時通信信道，實現實時自然語言和圖像處理，提高及時性和效率。其次是智能可穿戴設備，目前的智能可穿戴設備受計算能力影響，只起到數據采集的作用。邊緣人工智能在智能穿戴領域的研究正在進行，例如瓦倫西亞政治大學研究員賈米·安德列斯·林肯在可穿戴設備上部署邊緣AI監測人類情緒等。未來，將有更多輕量級智能算法在終端上進行，實時監測、分析和預測健康數據，幫助人類更好地了解自己身體狀況。

智慧城市

隨著城市規模的不斷擴大，數據呈現地理分布的特性，需要邊緣人工智能模式提供對時延敏感設備的監控和智能控制。通過邊緣計算支撐智慧城市大規?；A設施的計算和服務，可以實現終端設備的低時延應用，將時延要求高的任務部署在邊緣節點執行。通過AI來協同和調度城市基礎設施，應用到公共安全、健康醫療、城市管理、交通出行、智慧社區和其他領域，實現整個城市的資源最佳利用。

例如，關于交通擁堵問題，新加坡通過聯網運輸解決方案應對了巨大的交通挑戰。其智能交通系統（ITS）已經形成了電子道路收費的先鋒系統，隨著交通量激增公路收費也隨之增加。ITS 還允許通過具有GPS功能的出租車提供實時交通信息，并整合公共交通結構，同時也能夠使公交車更加準時。城市衛生條件也可以通過智能技術改善，如使用互聯網連接的垃圾桶或物聯網支持的車隊管理系統進行廢物收集和垃圾處理，或者是將傳感器技術應用于智能廢物容器，（它會自動感知什么時候垃圾到達容器的頂部，從而及時通知城市環衛部門收集垃圾）。

制造業

在工業制造領域，AI和邊緣應用有望在智能工廠的發展中發揮越來越重要的作用。在工業4.0模式的推動下，下一代智能工廠將先進的機器人技術、機器學習技術應用于軟件服務和工業物聯網中，以提高產能和最大化生產效率。邊緣計算和人工智能使用本地傳感器控制和管理輸出，能夠顯著地提高效率，減少誤差。邊緣系統可以在毫秒內響應輸入，要么進行調整以修復問題，要么關閉生產線以防止出現嚴重問題。

四、邊緣AI所面臨的挑戰

近兩年，邊緣智能產業生態逐漸構建，不過在形勢大好的背后，邊緣智能仍然面臨著各種各樣的難題。

其一，由于云計算服務的下沉，有些流量直接通過本地邊緣智能平臺流出。在傳統核心網中，計算、控制、安全等均在核心網內部完成，如何對邊緣智能平臺的流量進行計費和控制，需要進行研究；同時邊緣智能在實際的網絡架構上有多種不同的部署規劃，比如部署在無線接入云、邊緣云及匯聚云，而不同的架構所面臨的問題也略有不同。

其二，邊緣智能所服務的對象以及場景較為多樣化，如何使一套邊緣智能平臺適應多樣化的第三方應用，也是目前面臨的一個問題。

其三，因為業務的碎片化，邊緣智能可能針對單一場景或者兩三個場景進行部署，不僅需要在整個部署能力特性上進行明確定義，且需要考慮如何進行敏捷智能化的運維。

其四，如何更好地引入人工智能，發揮邊緣計算的整體優勢有待研究。

其五，協調如何將邊緣智能平臺內部基于OpenStack 的平臺管理子系統進一步輕量化，并考慮將一些微服務架構迅速地引入邊緣智能平臺，從而降低管理開銷。此外，邊緣智能的商業運營模式、部署位置、自愈和自動擴縮容等問題仍需要得到進一步的明確和解決。

當前，雖然邊緣智能仍處于發展初期，不過作為下一波計算浪潮，從通信行業、互聯網行業再到工業領域，普遍對邊緣智能將要發揮的重大作用寄予了厚望。邊緣智能作為使能 5G 三大典型應用場景的計算范式，把IT服務環境和云計算能力擴展到了移動網絡邊緣，必將與云端智能協同助力各行各業的數字化轉型。隨著5G的普及，相信不久將看到全球邊緣AI服務成本的下降和需求的上升。
編輯：hfy