瑞芯微RV1126BP/RV1126B NPU 模型部署指南：RKNN Model Zoo 全流程实战

目录

1. 安装虚拟机环境

2. Miniforge3安装

2.1 安装Miniforge3指令脚本

2.2 安装Miniforge3

2.3 使用conda创建名称为 toolkit2 的 Python 3.8 环境

3. RKNN-Toolkit2安装

3.1 首先安装RKNN 相关仓库与编译工具

3.2 安装 RKNN-Toolkit2

4. 模型转换

5. 板端执行

瑞芯微 RKNPU 为边缘 AI 提供高效硬件加速能力，而 RKNN Model Zoo 则是官方提供的一站式模型部署范例库，可快速将主流深度学习模型部署到瑞芯微芯片。

本次部署硬件基于易百纳鸿鸥派R1与G126BP-IPC-38E

1. 安装虚拟机环境

1、VMware安装步骤：
参考【易百纳】HongOU_PI_R1型开发板_V1.1\05.开发环境搭建\03.VMware安装指南.docx

虚拟机路径：

【易百纳】G126BP-IPC-38E型IPC模组_V2.1\05.开发环境搭建\02.虚拟机\Ubuntu 22.04

【易百纳】HongOU_PI_R1型开发板_V1.1\05.开发环境搭建\02.虚拟机\Ubuntu 22.04

2. Miniforge3安装

2.1 安装Miniforge3指令脚本

1）更新系统包：输入指令“sudo apt update”

2）下载安装Miniconda3管理虚拟环境：

2.2 安装Miniforge3

安装引导：

执行安装命令后，终端会弹出引导，按照以下步骤操作，不要改默认配置

1）根据以上指令安装好Miniforge3指令脚本后执行“bash Miniforge3-Linux-x86_64.sh”，如图所示：

bash Miniforge3-Linux-x86_64.sh

2）按回车翻到协议末尾，输入 yes 同意

注意：这里默认路径为 /home/你的用户名/miniconda3，直接按 回车（不要修改，否则后续配置会出错）。

3）最后会提示：是否在终端启动时自动开启conda，选择yes，如果选择no会导致环境变量未配置，后续需手动修复。

4）最后，安装完成后重开一个终端（一定要重启终端，否则会找不到conda命令），并输入：conda --version可以查看conda版本，说明安装成功。

conda --version

2.3 使用conda创建名称为 toolkit2 的 Python 3.8 环境

1）输入指令“conda create -n toolkit2 python=3.8”创建名为toolkit2的python环境

conda create -n toolkit2 python=3.8

2）遇到Proceed确认步骤输入“y”

3）安装完成,后输入指令“conda activate toolkit2”激活 toolkit2 环境

3. RKNN-Toolkit2安装

3.1 首先安装RKNN 相关仓库与编译工具

提供方式：

• 方式一：提供的资料中直接复制到虚拟机中进行解压

# 下载 RKNN Model Zoo 仓库

【易百纳】G126BP-IPC-38E型IPC模组_V2.1\09.进阶功能开发\01.Model_zoo移植\rknn_model_zoo.zip

# 下载 RKNN-Toolkit2 仓库

【易百纳】G126BP-IPC-38E型IPC模组_V2.1\09.进阶功能开发\01.Model_zoo移植\rknn-toolkit2.zip

• 方式二：通过Git指令拉取

# 下载 RKNN-Toolkit2 仓库

git clone https://github.com/airockchip/rknn-toolkit2.git --depth 1

# 下载 RKNN Model Zoo 仓库

git clone https://github.com/airockchip/rknn_model_zoo.git --depth 1

编译工具路径：【易百纳】G126BP-IPC-38E型IPC模组_V2.1\09.进阶功能开发\01.Model_zoo移植\gcc-linaro-6.3.1-2017.05-x86_64_aarch64-linux-gnu.tar.xz

本文采用解压方式进行安装。

3.2 安装 RKNN-Toolkit2

在虚拟环境里安装RKNN-Tool2分两步，先安装依赖，再安装主包：

1）安装依赖包：pip install -r packages/x86_64/requirements_cp38-2.3.2.txt  （注意这里有-r参数，不加执行报错）

pip install -r packages/x86_64/requirements_cp38-2.3.2.txt

2）安装RKNN-Toolkit2主包：

pip  install 
packages/x86_64/rknn_toolkit2-2.3.2-cp38-cp38-manylinux_2_17_x86_64.manylinux2014_x86_64.whl

3）验证RKNN，输入指令查看

输入“python”
输入“from rknn.api import RKNN”
运行没报错说明rknn安装成功！

4. 模型转换

1）运行 download_model.sh 脚本，下载 yolov5 onnx 模型

chmod +x download_model.sh 
./download_model.sh

2）将原始的 ONNX 模型转成RKNN 模型

python convert.py ../model/yolov5s_relu.onnx rv1126b i8 ../model/yolov5.rkn

5. 板端执行

1）在板端执行以下指令，查看RKNPU2驱动版本和查询librknnrt.so库版本，这里版本是v0.9.8/2.3.2

注意：在编译和推送板端之前，要先完成模型的转换得到.rknn，否则会提示找不到rknn，同时在板端运行因为缺少模型会运行报错，参考上面第四章节步骤

dmesg | grep -i npu
strings /usr/lib/librknnrt.so | grep -i "librknnrt version"

2）编译可执行程序

• 将根据第三章节中第1小节中交叉编译工具安装的位置，将路径添加到build-linux.sh开头

• 输入以下指令编译程序

chmod +x build-linux.sh
./build-linux.sh -t rv1126b -a aarch64 -d yolov5

3）推送板端

• 执行以下执行，将程序、模型等传输板端并执行

scp  -r 
/home/ebaina/Projects/rknn_model_zoo/install/rv1126b_linux_aarch64/rknn_yolov5_demo root@192.168.6.168:/data/
./rknn_yolov5_demo model/yolov5.rknn model/bus.jpg

4）结果