MACE神經網絡計算框架

Mobile AI Compute Engine (MACE)?是一個專為移動端異構計算平臺優化的神經網絡計算框架。 主要從以下的角度做了專門的優化：

• 性能

  • 代碼經過NEON指令，OpenCL以及Hexagon HVX專門優化，并且采用?Winograd算法來進行卷積操作的加速。 此外，還對啟動速度進行了專門的優化。

• 功耗

  • 支持芯片的功耗管理，例如ARM的big.LITTLE調度，以及高通Adreno GPU功耗選項。

• 系統響應

  • 支持自動拆解長時間的OpenCL計算任務，來保證UI渲染任務能夠做到較好的搶占調度， 從而保證系統UI的相應和用戶體驗。

• 內存占用

  • 通過運用內存依賴分析技術，以及內存復用，減少內存的占用。另外，保持盡量少的外部 依賴，保證代碼尺寸精簡。

• 模型加密與保護

  • 模型保護是重要設計目標之一。支持將模型轉換成C++代碼，以及關鍵常量字符混淆，增加逆向的難度。

• 硬件支持范圍

  • 支持高通，聯發科，以及松果等系列芯片的CPU，GPU與DSP(目前僅支持Hexagon)計算加速。 同時支持在具有POSIX接口的系統的CPU上運行。