AI算法在RZ/V芯片中的移植推理流程

之前文章已介紹了一些AI算法Demo的應用 ，我們提供從模型訓練到RZ/V系列嵌入式端推理應用的完整流程。整體流程如下圖所示。

官方EVK會提供算法樣例相關的資料，包括如下內容：

服務器（電腦）端模型訓練程序源代碼。

模型轉換腳本程序（用于把訓練的模型轉換成onnx格式模型）

DRP-AI Translator轉換工具

BSP源碼文件

交叉編譯環境SDK

RZ/V系列EVK推理樣例的源代碼

具體流程

1模型訓練的程序和模型轉換腳本程序，可根據自己的需要在個人電腦或服務器上進行環境搭建和應用。

2DRP-AI Translator轉換工具安裝如下。

1) DRP-AI Translator安裝需要的環境

2) DRP-AI Translator安裝步驟

按以下步驟啟動DRP-AI Translator包：

左右滑動查看更多

$ sudo apt-get update
$ sudo apt-get install -y libgl1-mesa-dev wget libopencv-dev
$ sudo apt-get install -y python3-pip
$ pip3 install -U pip
$ chmod +x DRP-AI_Translator-v1.83-Linux-x86_64-Install
$ ./DRP-AI_Translator-v1.83-Linux-x86_64-Install

以交互方式繼續安裝。輸入“Enter”或“y”繼續。

左右滑動查看更多

This installer will guide you through the installation of DRP-AI Translator. Continue?
[n/Y] y

顯示安裝進度條后，會提示安裝完成，如下：

Installing DRP-AI_Translator...
Installing Program Files...
Installation complete.

當前目錄下會生成如下目錄結構：

左右滑動查看更多

$ tree -L 2 drp-ai_translator_release
drp-ai_translator_release/
├── DRP-AI_translator
│ ├── api_translator
│ ├── availability_checker
│ ├── converter
│ ├── drp_converter
│ ├── drplib
│ └── python_api
├── UserConfig
│ ├── sample
│ └── sample_scripts
├── onnx
│ ├── (resnet50v1.onnx) (Can be automatically downloaded) │ ├── tiny_yolov2.onnx
│ ├── (vgg16.onnx) (Can be automatically downloaded)
│ └── yolov2.onnx
├── output
├── run_DRP-AI_translator_V2L.sh
└── run_DRP-AI_translator_V2M.sh

依賴項由安裝程序自動安裝。

以下是主要依賴項列表：

3) 模型轉換所需的文件

模型轉換需要DRP-AI Mac地址配置文件、模型推理前處理后處理配置文件、onnx模型文件，如下圖

模型轉換所需的配置文件默認路徑為./UserConfig。

onnx模型文件默認路徑為./onnx

4) 模型轉換

可以執行如下指令進行模型轉換：

左右滑動查看更多

$ cd drp-ai_translator_release
$ ./run_DRP-AI_translator_V2M(L).sh test -onnx ./onnx/modelA.onnx

其中test為模型轉換后輸出的文件名，modelA.onnx為需要轉換的模型名稱。詳細資料見

DRP-AI Translator V1.83 User‘s Manual

3BSP源碼文件不僅可以編譯生成官方EVK所需的bootloader、kernel、rootfs，還能編譯生成交叉編譯環境SDK。詳見

RZ/V2L DRP-AI Support Package

4樣例程序嵌入式端推理應用

官方提供在RZ/V系列EVK上推理的樣例源代碼，用戶可根據自己的需要修改編譯源代碼，把編譯好的源代碼和DRP-AI Translator轉換后的模型文件移植官方EVK上，就可實現AI算法在RZ/V系列EVK推理應用。

審核編輯：湯梓紅