電子發燒友網報道(文/李彎彎)過去幾年,隨著英偉達推出Jetson系列開始,搭載各種AI算力芯片的邊緣設備相繼問世。因為外觀形似盒子,具備算法推理能力,為區分一般傳統工控機,行業多稱之為邊緣盒子,AI Box,算法盒子等。
隨著算法的豐富和多樣,邊緣盒子已廣泛應用于連鎖門店,加油站、化工廠、工地、廠區、電力系統、電信機房、智能安防、智慧社區、校園、景區、園區等場景,快速實現對檢測、分類、分割和特征提取等視覺算法的支持。
AI邊緣計算盒子搭配哪些算力芯片
AI邊緣計算盒子通??梢源钆涠喾NAI算力芯片,具體取決于其設計目標、應用場景以及性能需求。如GPU,雖然GPU最初是為圖形渲染而設計的,但它們現在也被廣泛用于深度學習和其他AI任務。GPU具有大量的并行處理單元,可以高效地執行矩陣運算,這對于神經網絡訓練和推理非常有用。
如NPU,NPU專門設計用于執行神經網絡計算,特別是深度學習任務。它們通常具有高并行度、低功耗和優化的浮點運算能力,非常適合在邊緣計算設備上部署和運行復雜的AI模型。
還有ASIC、FPGA、CPU等,ASIC是為特定應用定制的芯片,對于某些特定的AI任務,ASIC可以提供極高的性能和能效比。FPGA是一種可編程的芯片,用戶可以根據需要配置其邏輯功能。CPU雖然不是專門為AI任務設計的,但它們仍然是邊緣計算設備中的關鍵組件?,F代的CPU通常包含一些用于加速AI任務的指令集和特性。
具體到某個AI邊緣計算盒子,它可能搭載上述的一種或多種芯片。例如,某些盒子可能采用高性能的NPU和GPU的組合,以提供強大的AI計算能力。
目前市面上眾多AI邊緣計算盒子采用英偉達Jetson系列。AI邊緣計算盒子搭配英偉達的Jetson系列是一個強大的組合,能夠將深度學習和計算機視覺的能力直接帶到邊緣設備,實現實時的數據處理和分析。
英偉達的Jetson系列包括多種模塊和平臺,如Jetson Xavier NX、Jetson Orin NX、Jetson AGX Orin等,它們都具有高性能的GPU和專用的AI加速核心,可以快速處理圖像和視頻數據,為邊緣計算提供強大的算力支持。
如,研智科技基于英偉達Jetson Xavier NX系統開發了邊緣智能AI-BOX產品WES-WNX00-3220系列。這款產品適合嵌入式和邊緣系統中的高性能計算和AI應用,是并行運行多個現代神經網絡、同時處理來自多個傳感器的高分辨率數據的首選平臺。
圖為科技提供基于Jetson AGX Orin的TW-T906智盒,AI算力高達200TOPS,專為低速自動駕駛而生,可廣泛應用于無人配送車、無人環衛車、智能駕駛商務車、無人清掃船等場景。
華頡科技推出的英偉達Jetson Orin邊緣計算AI盒子是基于NVIDIA? Jetson? Orin NX/Orin Nano核心模塊的產品。這款邊緣計算AI盒子面向工業應用領域,具有優異的計算性能、高效率被動散熱、工業標準設計等特點,可以在邊緣環境廣泛部署,適用于智慧電力等多個場景。
研華科技基于英偉達Jetson系列的AI邊緣計算盒子,可以為工業應用提供智能化的解決方案。深圳市智仕達智能技術有限公司基于英偉達Jetson系列的邊緣計算盒子,能有效滿足了智慧交通、AMR、智慧安防、智能制造等多個領域的智能邊緣端算力升級需求。
國產AI邊緣盒子算力芯片有哪些
目前也有不少廠商采用國產芯片,如圖為邊緣計算機T1206,則是基于瑞芯微RK3588處理器芯片設計。該產品內嵌的NPU支持INT4/INT8/INT16/FP16混合運算,完整的外設接口,具備超長MTBF穩定運行能力,可應用于機器人、無人配送車、低空防御、智能巡檢、智慧樓宇等自主化機器,是邊緣端部署AI算力進行深度學習的理想載體。
定昌電子基于瑞芯微RK3588研發的邊緣盒子,具備6TOPS AI算力,可用作商顯人臉識別主機,流媒體服務器,工控視覺運算,人形識別,物體識別,汽體識別,AI監控,視頻圖像過濾,智能物流貨品識別等多種AI算法應用場景。
該公司還研發了基于瑞芯微RK3568的邊緣計算盒子,內嵌NPU具有1TOPS算力,可做輕量級AI項目,適用智慧商顯廣告機,數據采集,視頻播放,邊緣AI計算,智能O2O零售終端機,工控主機等行業領域。
瑞芯微長期深耕AIoT領域,形成了各種算力、各種場景的AIoT SoC系列芯片平臺,并深入布局視覺、音頻、視頻等AI算法,同時高效支持主流模型架構,滿足小模型在邊緣側、端側部署的需求,賦能邊緣側、端側的各種AIoT智能硬件產品,為百行百業的智能化升級和數字化轉型提供了強力支持。
其RK3568/RK3588芯片可以用來做邊緣計算盒子開發,這兩款芯片NPU算力有所不同,RK3568具備1TOPS算力,RK3588具備6TOPS算力。因此,小型AI計算或視覺分析等項目,一般采用RK3568方案,中大型AI計算視覺分析等項目可以采用RK3588方案。
此外,2023年瑞芯微完成了新一代中高端AIoT處理器RK3576的研發設計工作并流片。RK3576 采用先進制程設計,搭載公司自研的6TOPs算力的最新一代NPU,支持Transformer 模型架構相關算子,人工智能計算效率顯著提升,可以支持各類 AI 算法高效運行。
據稱,百度最新發布的磐玉AI邊緣計算盒產品-磐玉-AIBOX-L01,就基于瑞芯微這款新的RK3576芯片打造。磐玉AI邊緣計算盒內置80余種跨行業真實場景的算法適配,能夠有效滿足客戶的本地模型計算需求。
也有廠商采用寒武紀的AI芯片,風潮互動官網有一款其合作品牌的C16邊緣計算盒,搭載的就是寒武紀純國產AI推理加速芯片MLU220,INT8等效算力高達16Tops。該產品具有超強計算性能、大容量存儲、配置靈活、體積小、支持溫度范圍寬、環境適應性強、易于維護管理等特點。集成風潮互動自主研發的N-PIPE+UNN視覺推導平臺,支持市面上常見視覺AI模型。該產品支持各類邊緣、智慧園區/安防/商業/交通等多領域多場景靈活部署。
華頡科技有一款邊緣計算盒子HE10C,也采用了寒武紀的MLU220芯片,不過同時它也采用了瑞芯微RK3568芯片。整機擁有32 TOPS INT8算力,支持TensorFlow、Caffe、PyTorch等主流深度學習框架,該設備面向工業應用領域,具有優異計算性能、高效率被動散熱、工業標準設計等特點,可以在邊緣環境廣泛部署,適用于智慧電力、智慧工廠、智慧園區、智慧安防、智慧工地等場景。
MLU220是寒武紀2019年推出的邊緣AI系列產品,這也是寒武紀首款面向邊緣智能計算領域的AI芯片。思元220芯片是一款專門用于深度學習的SOC邊緣加速芯片,采用TSMC 16nm工藝,它具有高算力,低功耗和豐富的I/O接口。它采用了寒武紀在處理器架構領域的一系列創新性技術,其架構為寒武紀最新一代智能處理器MLUv02,實現最大32TOPS(INT4)算力,而功耗僅10瓦。
此外,還有一些邊緣計算盒子采用算能的芯片,如華頡科技,其之前基于算能BM1684高性能芯片開發邊緣計算AI BOX,整機擁有17.6 TOPS INT8算力,支持TensorFlow、Caffe、PyTorch等主流深度學習框架,面向工業應用領域,具有優異計算性能、高效率被動散熱、工業標準設計等特點,可以在邊緣環境廣泛部署,適用于智慧電力、智慧工廠、智慧園區、智慧安防、智慧工地等場景。
此外,還有英碼科技,該公司基于算能第四代AI處理器BM1684X開發的邊緣計算盒子—IVP03X智能工作站,具有高算力、編解碼能力強、超低功耗等特點。相較上一代BM1684系列的邊緣計算盒子,整機性能有很大的提升。英碼IVP03X智能工作站可廣泛應用于智慧城市、智慧安防、智慧社區以及智慧交通等領域的AI智能視頻分析和輕量級的模型訓練。
寫在最后
就如人工智能的實現離不開算力、算法,AI邊緣計算盒子也是算力和算法的集合體。在算力層面,AI邊緣計算盒子離不開AI算力芯片的支持,如上述提到的英偉達的Jetson系列,瑞芯微的RK3568/RK3588芯片,寒武紀的MLU220,以及算能的BM1684/BM1684X等。當然除了這些企業之外,還有不少企業都能夠提供這樣的芯片支持,包括云天勵飛、鯤云科技等。
-
AI
+關注
關注
87文章
26524瀏覽量
264208 -
英偉達
+關注
關注
22文章
3343瀏覽量
87865 -
NPU
+關注
關注
2文章
212瀏覽量
18098 -
邊緣計算
+關注
關注
22文章
2808瀏覽量
46049 -
算力芯片
+關注
關注
0文章
39瀏覽量
4294 -
RK3588
+關注
關注
6文章
238瀏覽量
3493
發布評論請先 登錄
相關推薦
評論