邊端側AI規模應用落地難，領域專用架構（DSA）如何在通用性和專用性之間找到平衡！

電子發燒友網報道（文/李彎彎）相對于云端AI，邊端側AI在本地進行計算和決策，不需要將數據上傳至云端，具備更好的實時性、隱私性等特點，近些年，邊端側AI的應用越來越被看好。

然而邊端側AI因為應用場景豐富，碎片化明顯，在落地應用上也存在諸多難題，比如，需要針對不同應用場景定制算法，不少硬件方案只能針對單一應用等，因此具備一定通用性的方案會更被市場需要，比如時擎科技的領域專用架構（DSA）處理器。

領域專用架構（DSA）的核心優勢

時擎科技自2018年成立以來，一直致力于在萬物智聯的AIoT時代，從落地場景的需求出發，通過領域專用架構的處理器和定制化芯片設計，為端側設備提供支持語音、視覺、影像、顯示等多模態智能人機交互和數據處理的芯片產品及完整的系統級解決方案。

該公司基于RISC-V指令架構為端側智能交互和處理場景量身定制了TimesFormer領域專用架構智能處理器，作為處理和計算核心，推出了AT系列端側智能處理芯片，可以應用于智能家居、智慧家電、泛安防、智能硬件等各類端側設備中。

時擎科技也能針對客戶應用場景的需求，提供定制化芯片的設計和交付，以及系統級應用和軟件的開發，為客戶帶來差異化的產品和競爭力。

目前時擎科技在售的AT系列端側智能芯片，是一款高集成度、高能效比的智能處理芯片，可廣泛應用于離線語音控制、麥克風陣列、入門級智能影像應用等多種不同應用場景中。以其中已經量產出貨的AT1000為例–

在產品特點上，AT1000系列芯片搭載了自研的RISC-V主控TM500，主頻高達300MHz，支持DSP和浮點操作；提供100G高能效AI算力，配套的TimeFlow算法部署工具友好支持各種模型和算子；優化的存儲系統保證算法執行效率，內置MB級高速SRAM，大容量PSRAM和4MB XIP Flash；專用的高性能語音子系統，支持多達4+2模擬/數字麥克風輸入，以及立體聲/功放輸出，滿足各類基于麥克風陣列的語音處理需求。

在應用上，AT1000系列其中主要的應用場景是通話對講、語音降噪等。時擎科技創始人、總裁于欣在接受電子發燒友采訪的時候表示，通話對講場景按照通話距離大體可以分為兩類，一類是遠講，典型場景是會議，一般來說，會議室的噪聲條件相對較好，而如今居家辦公的情況比較多，噪聲條件較為復雜，但最近催生了一些在家中或交通工具上，這些場景對于設備降噪能力提出了更高的需求尤其。另一類是近講，則主要是以對講機作為代表。

在通話對講方面，雖然應用場景各不相同，不過其核心算法是類似的。時擎科技針對不同的應用場景針對性地推出了不同型號的芯片，在封裝、存儲上等方面會有所差異，用以適配對算法復雜度、外設接口的不同。

時擎科技TimesFormer智能處理器是一種基于RISC-V指令集的領域專用架構（DSA）處理器，專門針對端側智能計算和各類音視頻智能算法的需求而研發。具有高能效比、高性價比、易使用、靈活可擴展等特點，可以廣泛的應用于端側人工智能芯片中。

如何理解領域專用架構（DSA）呢？于欣解釋到，DSA的核心特點是，它針對的是一類場景，而不只是針對一個特定設備而設計，比如，用于邊端側的語音，也就是各種類型的通話對講都可以用。相比于很多專用的ASIC芯片而言，，DSA是在專用性和通用性上找到了一個平衡，針對某一類場景所需要的算法所設計，可以提供在性能、成本、功耗上滿足需求的優質方案，又具備一定的通用性保證了芯片足夠大的市場需求范圍。

成立四年多來，時擎科技已經基于領域專用架構（DSA），圍繞各類端側智能應用場景，打造了DSA處理器、部署開發工具、端側AI算法三位一體、緊密融合的全棧技術方案。團隊的研發能力和在售產品都獲得了市場的較好認可，公司2022全年銷售額也有望超過七千萬元。。

邊端側AI的優勢和落地難題

相對于云計算，邊端側有它的獨特優勢。具體來說，邊緣AI允許設備在本地進行AI計算和決策，不需要連接到互聯網才能實現數據處理。因此它具備實時性好、帶寬資源要求低、隱私性好等諸多特點，因此在很多場景中邊緣AI比云端AI更好的解決實際的問題。這也是為什么近些年邊端側AI越來越多的被看好。

實際上，邊端側AI是相對于云來說的，終端側比較好理解，邊緣側AI可以怎么理解呢？很多時候，邊和端是相對而言。舉一個典型場景的列子，在監控的時候，很多之前部署的攝像頭都不帶本地AI能力，那是不是就只能將采集的信息上傳至云端進行處理呢，答案是否定的。我們可以通過在這云端之間架設所謂的邊緣服務器，從而實現對這些視頻采集的信息更接近數據端的分析處理。

事實上很多場景都是如此，比如公司、小區內的視頻監控，都可以通過邊緣服務器對這個小區域里的視頻進行分析處理，相對于云端來說，它直接部署在本地，從拓撲結構上來看，這就是我們所說的邊緣側。一般而言，如果數據采集節點和傳輸至云端服務器中間的路徑上所進行數據加工、處理、分析，則都可以稱為邊緣側的處理。

雖然邊端側AI比較被看好，不過在實際落地應用中，還是有不少挑戰。在于欣看來，這是由于客觀條件決定的，很多邊緣側的需求，或者待分析的數據以及其背后的算法等，會存在較多的差異。

具體來看，無論是識別人、識別物體，還是工業應用中使用機器視覺做缺陷檢測，雖然都是識別、檢測，但實際在算法上的差異很大。從這個角度來看，就需要多種跟應用場景完全匹配的算法，沒有一個通用的算法存在。每個場景都需要有針對性的算法，并不是說做好一個場景的一套算法，就可以把它輕易復制到別的場景，這是算法層面可復制性方面的挑戰。

另外，不同場景應用的解決方案也不盡相同，如果是在云端，如GPU的通用計算方案是主流，而在邊端側，就不太一樣，可能會有八仙過海各顯神通的各種方案，比如時擎科技就是定制的領域專用架構DSA處理器從這個角度來看，無論是算法，還是硬件，很難存在一個特別通用的方案，而且邊端場景往往對成本、功耗等方面有更加苛刻的要求，這就決定了需要去做算法和芯片的匹配，這是成為了邊端側AI復制推廣的限制。

還有就是，一些AI的算法的訓練需要很多數據，這也是人工智能不可或缺的一個環節，這也會給形形色色的邊端側AI應用帶來更多困難。這些問題可以如何去解決呢？于欣認為，業界需要在算法、處理器、工具等上面形成整體的解決方案，針對一類應用場景提供解決方案，形成一定的復制性，而不是說每一個場景都要從零開始，某種可以解決邊端側AI應用場景過于碎片化的難題。

小結

從目前的發展勢頭來看，未來AI的應用將會無處不在，還有很大的發展空間和潛力。然而任何新興技術在發展初期階段，都會遇到各種各樣的問題，AI也不例外。作為企業來說，如果能夠不斷地進行技術創新，解決發展過程中存在的難題，必然能夠在特定的領域占據重要位置。對于時擎科技來說是如此，對于其他任何AI芯片企業來說，也是如此。