韓國政企組團研發NPU，大模型算力需求推動中國AI神經網絡處理芯片發展

電子發燒友網報道（文/李寧遠）近日，韓國政府擬與AI芯片、云計算企業聯合，組建團隊研發高算力、低能耗的神經網絡處理器NPU推理芯片。這一舉措的目的是與英偉達競爭并避開英偉達主導的圖形處理單元GPU市場。

自OpenAI旗下的智能聊天機器人程序ChatGPT去年年末發布后，全球掀起了一波人工智能熱潮，熱度持續至今。ChatGPT超出人們預期的智能化表現掀起了人工智能領域的技術革命。這一場生成式人工智能熱潮催生了海量的數據，處理海量的數據離不開背后龐大的基礎算力作為支撐。

CPU、GPU和DPU作為人們熟知的人工智能場景中重要的算力芯片，能夠為高帶寬、低延遲、數據密集的計算場景提供計算引擎，是未來處理超算流量和安全網絡存儲的核心硬件。而神經網絡處理器NPU作為一種專門用于進行深度學習計算的芯片，在大算力應用場景的應用優勢也正被業界廣泛看好。

NPU，為深度學習計算而生

早在2011年，Google就已經提出了利用大規模神經網絡進行圖像識別的技術，由于深度學習計算需要大量的計算資源和算力支持，此時傳統的CPU和GPU并不能完全滿足這種需求，因此NPU應運而生。

設計NPU的目的就是為了進行深度學習計算，其特點是具有極高的計算效率和能耗效率，能夠運行多個并行線程在短時間內完成大規模的神經網絡計算任務。NPU的計算單元通常采用矩陣計算、向量計算等方式以保證快速完成計算任務。

同時為了計算單元快速處理數據，其存儲通常采用高速緩存和顯存的結合方式，方便更快地存取和讀取數據。這種設計在降低計算延遲和提高復雜計算任務穩定性有著很明顯的幫助。

NPU和TPU、BPU這些AI芯片一樣，同屬于ASIC專用集成電路，是為特定應用場景（如NPU的神經網絡和深度學習場景）而設計的定制芯片，其開發成本高且周期長，但在性能和功耗上優于同時期的GPU和FPGA。

傳統的ASIC在開發完成后是不能更改的，這一點上NPU還是略有差異，NPU一般會具有一定的可編程性，可以通過更改配置適配不同的計算任務，所以其日后的應用空間也遠不止局限于深度學習模型。

NPU這種專用芯片在特定的人工智能需求下提供了一種提升算力和能效比的新思路。雖然GPU已經針對AI算法加強了并行計算單元，但NPU更容易從高規律性的深度神經網絡中獲益，短時間內完成大規模的神經網絡計算任務。

在ChatGPT拉高算力需求的背景推動下，NPU開始進入發展快車道。

大模型需求推動NPU產業發展

目前，國內人工智能芯片行業里GPU仍然是首選，根據IDC的數據，GPU占有90%以上的市場份額，而NPU、FPGA和其他ASIC等非GPU芯片占有的市場份額相對較少，整體市場份額接近10%，其中NPU的占比為6.3%。

在這條新賽道上，還沒有哪一家廠商成為巨頭主導市場，韓國政府與AI芯片、云計算企業聯合發展高算力、低能耗的NPU也正是為了避開了英偉達主導的GPU市場，開辟一條新的增強AI芯片實力的道路。

今年4月已有韓媒BusinessKorea報道，三星半導體已成功量產采用三星14nm制程工藝第一代WarBoy NPU芯片，速度可以達到普通GPU的十倍，預計不久后投入市場，同時第二代WarBoy NPU芯片預計采用5nm工藝，明年或可推出。

國內NPU行業也是潛力十足，不同于CPU、GPU國內起步較慢，國內芯片設計公司在NPU這條賽道的起步時間不晚，已經有不少相關產品量產并推出應用。

華為海思自研的Da Vinci架構昇騰NPU已經在移動端AI計算領域中嶄露頭角，張量化的立體運算單元提供了業界領先的量化精度，在移動端AI計算中用于圖像識別、語音識別、AR SLAM等應用大幅提升了運算速度。

紫光展銳的NPU也在旗下多顆SoC中搭載，采用新一代高能效NPU+VDSP架構，垂直優化計算能力，其中NPU算力達到8TOPS，相比上一代提升67%，支持圖像超分、視頻增強、語義分割、目標檢測、文本識別等AI應用。

阿里的含光NPU也是用了自研的硬件架構，集成了達摩院先進算法，針對CNN及視覺類算法深度優化計算、存儲密度。國科微的NPU芯片同樣自主自研，目前相關產品正在落地，今年會擇機發布嵌入自研NPU、帶算力的相關產品。

寒武紀的NPU也是國內很早進入NPU賽道的玩家，目前NPU產品主要包括寒武紀1A、寒武紀1H、寒武紀1M等，其IP指令集已擴大范圍授權集成到手機、安防、可穿戴設備等各類終端芯片中，整體性能上與國外廠商比肩。

芯原股份的Vivante NPU IP也已經應用于百款人工智能芯片中，不僅可滿足多種芯片尺寸和功耗預算還可以結合芯原自有的其他處理器IP。同時芯原還將自有的GPU和NPU原生耦合，利用芯原獨有的FLEXA低功耗低延遲同步接口通信技術，實現二者的高效協同計算和并行處理。

還有不少國內廠商在NPU已有建樹，如中星微的VC0616 NPU、OPPO的自研NPU MariSilicon X、瑞芯微的自研NPU、愛芯元智的Neutron NPU等等。


?

未來NPU如何發展？

NPU作為一種專門針對深度神經網絡計算的硬件器件，隨著深度學習技術的不斷發展，越來越多的算法模型加入，NPU 的多樣化肯定會越來越重要。目前NPU在圖像識別、自然語言處理以及傳感器數據處理上所展現出的強大計算性能，已經從IoT、消費電子領域開始向汽車自動駕駛領域等更廣泛多樣的場景延伸應用。

另一個發展趨勢則是獨立化，目前大多數NPU都需要與其他CPU/GPU等配合使用才能完成整個計算任務，對其他芯片的依賴度較高。未來NPU集成度進一步提高，能獨立完成計算任務后其應用空間將更為廣闊。

寫在最后

NPU的誕生就是為了應對深度神經計算，在ChatGPT將算力需求再推上一個新臺階后，NPU芯片顯著的能耗節約優勢和高效的計算效率在算力需求愈發凸顯的當下已經顯露了不少發展機遇，在市場需求的推動下相關產業發展也開始加速。

和其他AI芯片相比，NPU依賴定制化，國內廠商在這一方面很有優勢。在這個賽道上，可以預見競爭會越來越激烈，不過市場還沒有被巨頭壟斷，國內廠商空間更大，可以爭奪的生態位更多，國內廠商在這一細分AI芯片領域前景可期。