如何使用Vitis AI Library來安裝、使用和開發應用

Vitis AI Library 是一組高層次庫和 API，專為利用深度學習處理單元 (DPU) 來高效執行 AI 推斷而構建。它是基于 Vitis AI 運行時利用統一 API 構建的，并且支持 XRT 2022.1。

Vitis AI Library 通過封裝諸多高效且高質量的神經網絡，提供易用且統一的接口。由此可簡化深度學習神經網絡的使 用，對于不具備深度學習或 FPGA 知識的用戶也是如此。Vitis AI Library 使您能夠專注于開發自己的應用，而不是底層硬件。

目標受眾

Vitis AI Library 的目標用戶如下：

用戶想要使用經過預訓練的 AMD 賽靈思模型來快速構建應用。

用戶使用 Vitis AI Library 支持網絡列表下其自有數據集來訓練自有模型。

用戶具有與 Vitis AI Library 支持的模型類似的自定義模型，并使用 Vitis AI 后處理庫。

注釋：如果您擁有的自定義模型與 Vitis AI Library 所支持的模型截然不同，或者您有專業的后處理要求，則可使用 Vitis AI Library 實現作為參考。

相關庫

以下 Vitis AI Library 與本文檔有關。

Vitis AI Library 程序包列表

模塊框圖

Vitis AI Library 包含 4 個部分：

基本庫：基本庫提供了基本編程接口，其中包含 DPU 和每個模型可用的后處理模塊。dpu_task 是適用于 DPU 運算的接口庫。cpu_task 是適用于分配給 CPU 的運算的接口庫。xnnpp 是每個模型的后處理庫，其中具有內置模塊， 如最優化和加速。

模型庫：模型庫能實現大部分開源神經網絡部署，包括常見的網絡類型，如分類、檢測、分割等。這些庫提供了易于使用的快速部署方法，并具有統一的接口，適用于 AMD 賽靈思模型或自定義模型。

庫測試樣本：庫測試樣本用于快速測試和評估模型庫。

應用演示：應用演示為您展示了如何使用 Vitis AI Library 來開發應用。

Vitis AI Library 模塊框圖如下圖所示。

功能特性

Vitis AI Library 特征包括：

全棧應用解決方案

經最優化的預處理和后處理函數/庫

開源模型庫

統一操作接口，具有 DPU 以及模型的預處理和后處理接口

基于應用的實用模型庫、預處理和后處理庫以及應用示例

Vitis AI Library v2.5 版本說明

本節包含有關 Vitis AI Library 2.5 版本的功能特性和更新的信息。

關鍵功能特性與增強功能

此版本的 Vitis AI Library 包含以下關鍵功能特性與增強功能：

全新模型庫：支持下列新模型庫：OCR、Textmountain 檢測、車輛分類、OFA_YOLO 檢測、EfficientDet_D2、Movenet 檢測。

全新模型支持：添加 11 個全新 PyTorch 模型、添加 5 個全新 TensorFlow 模型、添加 1 個全新 TensorFlow2 模型。

新增 CPU 運算符支持：添加 8 個 CPU 運算符。

自定義運算符增強功能：在 Python 中添加自定義運算符寄存示例。

Xdputil 工具增強功能：xdputil 支持查看指定運算符的信息。

兼容性

Vitis AI Library 2.5 已經過下列鏡像的測試。

xilinx-zcu102-dpu-v2022.1-v2.5.0.img.gz

xilinx-zcu104-dpu-v2022.1-v2.5.0.img.gz

xilinx-kv260-dpu-v2022.1-v2.5.0.img.gz

xilinx-vck190-dpu-v2022.1-v2.5.0.img.gz

器件支持

Vitis AI Library 2.5 支持以下平臺和評估板 (EVB)。

邊緣器件支持

云開發板支持

審核編輯：劉清