構建芯片AI性能新標準！地平線提出MAPS測試方法

(電子發燒友網報道 文/章鷹）2020年，疫情過后，我們看到隨著AI芯片的發展，智慧醫療、智能工廠、智能5G網絡優化都已經成為可能。AI是新基建里的重要部分，而芯片則是AI新基建發力的重中之重。在AI應用的第一階段，應用場景主要為訓練和推理，在模型訓練方面，算法模型需要對海量數據進行處理；隨著算法模型應用趨于成熟，AI應用步入第二階段，AI算力基建偏向于推理芯片的建設。AI芯片作為AI應用落地重要支撐，出貨量與日俱增，但是對于行業的一些性能標準也急需要規范化。

8月8日，在2020全球人工智能和機器人峰會AI芯片專場上，地平線的聯合創始人兼技術副總裁黃暢博士，正式提出了面向芯片AI性能的MAPS測試方法。針對AI芯片落地應用，黃暢也給出了前沿思考。

“縱觀深度學習神經網絡模型的發展演進，我們發現AI芯片面臨的一大挑戰，是算法演進速度遠超硬件改進速度，致使評估芯片AI性能的方法與算法發展之間存在脫節的現象“，黃暢在演講中表示。

黃暢指出，最近四年間AI算法精度和效率持續提升，2016年，語音合成革命性突破，機器和人聲難以分辨計算量巨大，無法實時完成計算；2017年，WaveNet到Parallel WaveNet，計算效率提升1000倍，GPU可以20倍實時運行計算方式改變，RNN到Dilated CNN 產品化。2018年，計算方式變化，Dilated CNN到Sparse RNN，手機CPU（驍龍808）可用。

黃暢分享說，從2016年到2018年，ImageNet精度趨近飽和，2017年最后一屆競賽計算效率優化得到重視，在圖像識別領域，出現新卷積Depthwise convolution, 該結構和常規卷積操作類似，可用來提取特征，但相比于常規卷積操作，其參數量和運算成本較低。業界推出SENet、DenseNet等輕量級網絡，而且還出現了NASNet，網絡結構自動搜索。這種技術導致第一次算法超越算法專家。2019年，EfficientNet（谷歌大腦）出世，震驚整個行業，其基準網絡限定計算量，0.4GFLOPS，EfficientNet B0相對VGG19提升100%，每9個月翻番。

目前，業界尚缺乏一個與時俱進的，能夠有效評估芯片AI性能的標準。業界慣常使用的芯片評測標準有兩種，一是峰值算力，但峰值算力只反映AI芯片理論上的最大計算能力，而非在實際AI應用場景中的處理能力，具有很大的局限性；二是目前行業較為知名的基準測試組織MLPerf，其采用的模型少且更新速度滯后于算法演進的速度，無法及時反映算法效率的提升以及各種精度下芯片能夠達到的計算速度，因而無法描述芯片AI性能的全貌。

為了推動芯片AI性能評估方式與時俱進，地平線提出MAPS評測方法，為行業提供一個評估芯片AI性能的視角?！霸u估芯片AI性能，本質上應該關注做AI任務的速度和精度，即‘多快’和‘多準’?！秉S暢介紹說：“MAPS評測方法，關注真實的用戶價值，將每顆芯片在‘快’和‘準’這兩個關鍵維度上的取舍變化直觀地展現出來，并在合理的精度范圍內，評估芯片的平均處理速度。這個方法具有可視化和可量化的特點?！?/p>

作為 AI 領域的奧林匹克競賽，ImageNet 比賽產生了幾乎所有機器視覺中最重要的模型，它們在 ImageNet 上的精度可充分遷移到其他機器視覺任務（如物體檢測、語義分割等）。在 ImageNet 的主流精度范圍（75~80%）下，速度最快的模型所代表的點（由精度和幀率確定）所圍多邊形面積大小即為芯片處理ImageNet AI任務的能力大小，其公式為MAPS = 所圍面積 /（最高精度-最低精度）。在演講現場，黃暢還展示了MAPS評估方式在在ImageNet上的定義與主流芯片測試結果。

上圖為MAPS評估方式下主流芯片測試結果，右一折線為地平線最新一代芯片測試結果

黃暢指出，芯片AI效能三要素，主要是峰值算力、有效利潤率和AI算法效率的結合。算力部署在AI芯片上，根據架構特點，解決一個復雜的問題，得到算法在芯片上的實際利用率，整體軟硬件架構的整體功耗，2019年，AI算法在新卷積神經網絡技術推動下，效率得到明顯提升。

黃暢舉例分析，他說：“自動駕駛或者機器人領域的話，輸入的數據是連續視頻，連續視頻之間有巨大冗余。那如何去利用這個冗余呢？算法就應該做相應的迭代，地平線采取的方法是把視頻序列當成是一個流，然后用更高效的算法去有針對性的處理真正在這個視頻中有變化的，有價值的信息，面對越來越復雜的場景的時候，算法還有持續的巨大的提升空間?！?/strong>