愛芯派Pro助力大模型落地探索

近日，2023北京微電子國際研討會暨IC WORLD大會在北京舉辦。大會以“凝芯聚力，奮楫揚帆”為主題，全面整合集成電路行業資源，匯聚百余位專家學者和企業領袖，助力集成電路產業向聚集化、鏈條化、高端化方向發展。

在大模型與智能計算芯片專場分論壇上，愛芯元智聯合創始人、副總裁劉建偉受邀發表主題演講，向與會嘉賓分享了愛芯元智在邊端智能的落地實踐，高性能的愛芯通元混合精度NPU和開發者套件愛芯派Pro受到關注。

專注感知與計算

布局三大業務線推動普惠智能

作為華北地區代表性的集成電路大會，北京微電子國際研討會暨IC WORLD大會以極具權威性、專業性、前瞻性的高水平產業與學術交流，對促進北京乃至中國微電子產業的國際交流與合作發揮了重要作用。此次大模型與智能計算芯片專場分論壇即由北京半導體行業協會聯合多家智能計算芯片企業共同呈現，探討了大模型時代的半導體產業新機遇。

“人工智能將來一定是云、邊、端的分布，端側和邊緣側智能可能還會更加廣泛?！眲⒔▊ピ诜窒碇斜硎?，未來人工智能不僅僅停留在云端，而是將下沉到智慧家庭、智慧工廠、自動駕駛等多個端側邊緣側場景，甚至每個人都可能擁有一個AI助理。作為專注感知與計算，支持邊緣側和端側智能的平臺型芯片公司，愛芯元智認為，感知即以AI的方式打造物理世界的數字化入口；計算則是對感知形成的大量數據進行處理，用AI算法對數據做高效利用。

自2019年成立以來，愛芯元智已推出了四代多顆端側邊緣側AI視覺處理芯片，全面布局智慧城市、智能駕駛和智能IoT三大領域。其中，在智能駕駛領域，愛芯元智從量產化思維出發，目前專注于L2和L2++賽道，推出了ADAS前視一體機、行泊一體域控制器、CMS等車載應用場景解決方案；在智能IoT領域，愛芯元智則為未來機器人行業發展，賦予更多可能。

從智慧城市到智能駕駛再到走入千家萬戶的智能機器人，普惠智能發展前景廣闊。劉建偉在分享中進一步指出，在降本、數據安全和隱私保護等挑戰之下，本地算力的需求不斷上漲，這對芯片的設計研發提出了更高的要求，而差異化的產品、更極致的性價比、數據隱私安全問題的突破，也將為芯片企業帶來更多機會。

兩大核心技術引領

愛芯派Pro助力大模型落地探索

面向感知與計算，愛芯元智推出了愛芯智眸AI-ISP和愛芯通元混合精度NPU兩大自研核心技術。

愛芯智眸AI-ISP是愛芯元智首創且業界最早實現商業化量產的AI-ISP技術，其將ISP中的重要模塊如降噪等進行AI化，打破傳統成像天花板。在城市夜景拍攝、礦車ADAS、夜間農田等復雜場景下，愛芯智眸AI-ISP能有效進行色彩還原、暗光降噪，讓“黑夜如白晝”，讓攝像頭“看得清”。

愛芯通元混合精度NPU則基于應用、算法、硬件的協同設計，實現了全方位的性能優化，低成本、易使用。據介紹，愛芯通元混合精度NPU是一個異構多核系統，且支持超線程和混合精度，其中混合精度減少了內存墻和功耗墻的阻礙，從而能在端側、邊緣側成本受限的情況下提供充沛的有效算力，支持更多智能算法。

同時，愛芯通元混合精度NPU工具鏈也高效易用，具有功能完善、PTQ量化精度高、算子支持豐富、原版模型支持等突出優勢。劉建偉表示，“有客戶從零基礎開始寫code到能在開發板跑出第一組結果，大概只用了一小時”。

實測數據顯示，愛芯通元混合精度NPU在部署傳統的CNN網絡和當下大模型普遍采用的Transformer網絡時都有著明顯的性能優勢。其中，Transformer網絡SwinT在愛芯元智第三代高算力、高能效比的SoC芯片AX650N上更表現出色，361 FPS的高性能、80.45%的高精度、原版模型且PTQ量化的易部署能力及199 FPS/W的低功耗，使得AX650N成為Transformer在端側、邊緣側落地首選平臺。

此外，為加快AI在端側、邊緣側的開發落地效率，愛芯元智還攜手硬件生態伙伴推出了開發者套件愛芯派Pro。值得一提的是，愛芯派Pro可滿足行業對高性能邊緣智能計算的需求，幫助用戶快速進行產品原型驗證和二次開發，更好地探索Transformer大模型的落地。

未來，愛芯元智將繼續專注感知與計算，不斷深入智慧城市、智能駕駛和機器人等業務場景，加速AI在端側、邊緣側的落地發展，讓普惠智能真正走入生活的方方面面，造就更加美好的生活。

審核編輯：彭菁