RK3566/RK3588 NPU快速验证指南从零开始测试你的开发板神经网络加速器刚拿到搭载RK3566或RK3588芯片的开发板时许多开发者最迫切的需求就是验证NPU神经网络处理单元是否正常工作。本文将带你完成一次完整的NPU功能验证使用轻量级的MobileNet模型快速确认硬件状态为后续更复杂的AI应用部署打下基础。1. 准备工作与环境搭建1.1 硬件与系统要求在开始测试前请确保你已准备好以下环境开发板型号确认你的开发板搭载的是RK3566或RK3588芯片操作系统建议使用官方提供的Ubuntu系统镜像存储空间至少预留2GB的可用空间用于存放测试文件网络连接稳定的网络环境以下载测试文件提示不同芯片型号需要对应不同的测试文件RK3566和RK3588的NPU架构有所不同不能混用模型文件。1.2 开发环境配置对于初次使用Rockchip开发板的用户建议按照以下步骤配置基础开发环境安装必要的编译工具链sudo apt update sudo apt install -y build-essential cmake git安装OpenCV依赖如果测试镜像中未预装sudo apt install -y libopencv-dev配置远程开发环境可选但推荐使用VS Code配合Remote-SSH插件或者直接通过SSH终端访问开发板2. 获取测试资源与代码2.1 下载测试包根据你的芯片型号下载对应的测试资源包RK3566测试包下载链接RK3588测试包下载链接测试包通常包含以下内容NPU_Test/ ├── images/ # 测试图片 │ ├── cat_224x224.jpg │ └── dog_224x224.jpg ├── weights/ # 预编译的RKNN模型 │ └── moblienetv3_demo.rknn ├── src/ # 源代码 │ └── main.cpp └── CMakeLists.txt # 构建配置文件2.2 文件结构说明了解测试包中各文件的作用对后续调试很有帮助RKNN模型文件.rknn后缀的文件是专门为Rockchip NPU优化的神经网络模型测试图片224x224分辨率的标准输入图片符合MobileNet的输入要求源代码包含模型加载、推理和结果处理的完整实现3. 编译与运行测试程序3.1 编译流程详解在开发板上打开终端导航到测试代码目录执行以下命令# 创建构建目录并生成Makefile cmake -S . -B build # 编译项目 cmake --build build编译过程中可能会遇到的一些常见问题及解决方案问题现象可能原因解决方法OpenCV找不到路径配置错误检查OpenCV_DIR变量是否正确librknnrt.so缺失NPU驱动未安装安装官方提供的NPU驱动包编译参数错误芯片型号不匹配检查CMakeLists.txt中的DEVICE_NAME3.2 运行测试程序编译成功后进入build目录执行生成的可执行文件cd build ./mobilenet ../weights/moblienetv3_demo.rknn ../images/cat_224x224.jpg正常运行的输出应该类似这样rknn_running ... --- Top5 --- 285:0.893555 282:0.045321 281:0.028976 340:0.007843 277:0.006112这表示NPU成功执行了图像分类任务并输出了最可能的5个类别及其置信度。4. 结果分析与问题排查4.1 理解输出结果MobileNet模型的输出是ImageNet数据集的类别概率。以上述结果为例285对应ImageNet中的埃及猫类别0.893555模型认为图片中有89.35%的概率是埃及猫你可以更换不同的测试图片观察输出变化./mobilenet ../weights/moblienetv3_demo.rknn ../images/dog_224x224.jpg4.2 常见问题排查指南如果测试失败可以按照以下步骤排查检查NPU驱动状态dmesg | grep -i npu验证模型文件完整性file ../weights/moblienetv3_demo.rknn正常应显示RKNN model data测试基础功能ls /dev/rknpu如果设备节点存在说明驱动加载正常常见错误代码及含义错误代码含义解决方案-1模型加载失败检查模型路径和权限-3NPU初始化失败检查NPU驱动是否安装-5输入格式不匹配确认图片尺寸为224x2245. 深入理解RKNN API工作流程虽然本测试主要目的是验证NPU功能但了解底层API的工作原理对后续开发很有帮助。5.1 RKNN API核心函数测试代码中使用了以下几个关键RKNN API函数模型初始化rknn_init(ctx, model, model_len, 0, NULL);这个函数加载RKNN模型并创建推理上下文。模型查询rknn_query(ctx, RKNN_QUERY_IN_OUT_NUM, io_num, sizeof(io_num));获取模型的输入输出数量和信息。推理执行rknn_inputs_set(ctx, io_num.n_input, inputs); rknn_run(ctx, nullptr); rknn_outputs_get(ctx, 1, outputs, NULL);这三步完成了数据输入、推理执行和结果获取的全过程。5.2 数据处理流程完整的NPU推理流程可以分为以下几个阶段输入预处理图像读取OpenCV尺寸调整resize到224x224颜色空间转换BGR到RGB模型推理通过RKNN API提交到NPU硬件加速计算结果后处理获取输出张量解析概率分布提取Top5分类结果在实际项目中我经常遇到输入张量格式不匹配的问题。Rockchip NPU对输入格式要求严格必须与模型训练时的格式完全一致包括通道顺序、归一化方式等。这一点在从其他框架转换模型时需要特别注意。
RK3566/RK3588 NPU性能实测：用mobilenet模型快速验证你的开发板NPU是否正常工作
发布时间：2026/6/25 10:57:01
RK3566/RK3588 NPU快速验证指南从零开始测试你的开发板神经网络加速器刚拿到搭载RK3566或RK3588芯片的开发板时许多开发者最迫切的需求就是验证NPU神经网络处理单元是否正常工作。本文将带你完成一次完整的NPU功能验证使用轻量级的MobileNet模型快速确认硬件状态为后续更复杂的AI应用部署打下基础。1. 准备工作与环境搭建1.1 硬件与系统要求在开始测试前请确保你已准备好以下环境开发板型号确认你的开发板搭载的是RK3566或RK3588芯片操作系统建议使用官方提供的Ubuntu系统镜像存储空间至少预留2GB的可用空间用于存放测试文件网络连接稳定的网络环境以下载测试文件提示不同芯片型号需要对应不同的测试文件RK3566和RK3588的NPU架构有所不同不能混用模型文件。1.2 开发环境配置对于初次使用Rockchip开发板的用户建议按照以下步骤配置基础开发环境安装必要的编译工具链sudo apt update sudo apt install -y build-essential cmake git安装OpenCV依赖如果测试镜像中未预装sudo apt install -y libopencv-dev配置远程开发环境可选但推荐使用VS Code配合Remote-SSH插件或者直接通过SSH终端访问开发板2. 获取测试资源与代码2.1 下载测试包根据你的芯片型号下载对应的测试资源包RK3566测试包下载链接RK3588测试包下载链接测试包通常包含以下内容NPU_Test/ ├── images/ # 测试图片 │ ├── cat_224x224.jpg │ └── dog_224x224.jpg ├── weights/ # 预编译的RKNN模型 │ └── moblienetv3_demo.rknn ├── src/ # 源代码 │ └── main.cpp └── CMakeLists.txt # 构建配置文件2.2 文件结构说明了解测试包中各文件的作用对后续调试很有帮助RKNN模型文件.rknn后缀的文件是专门为Rockchip NPU优化的神经网络模型测试图片224x224分辨率的标准输入图片符合MobileNet的输入要求源代码包含模型加载、推理和结果处理的完整实现3. 编译与运行测试程序3.1 编译流程详解在开发板上打开终端导航到测试代码目录执行以下命令# 创建构建目录并生成Makefile cmake -S . -B build # 编译项目 cmake --build build编译过程中可能会遇到的一些常见问题及解决方案问题现象可能原因解决方法OpenCV找不到路径配置错误检查OpenCV_DIR变量是否正确librknnrt.so缺失NPU驱动未安装安装官方提供的NPU驱动包编译参数错误芯片型号不匹配检查CMakeLists.txt中的DEVICE_NAME3.2 运行测试程序编译成功后进入build目录执行生成的可执行文件cd build ./mobilenet ../weights/moblienetv3_demo.rknn ../images/cat_224x224.jpg正常运行的输出应该类似这样rknn_running ... --- Top5 --- 285:0.893555 282:0.045321 281:0.028976 340:0.007843 277:0.006112这表示NPU成功执行了图像分类任务并输出了最可能的5个类别及其置信度。4. 结果分析与问题排查4.1 理解输出结果MobileNet模型的输出是ImageNet数据集的类别概率。以上述结果为例285对应ImageNet中的埃及猫类别0.893555模型认为图片中有89.35%的概率是埃及猫你可以更换不同的测试图片观察输出变化./mobilenet ../weights/moblienetv3_demo.rknn ../images/dog_224x224.jpg4.2 常见问题排查指南如果测试失败可以按照以下步骤排查检查NPU驱动状态dmesg | grep -i npu验证模型文件完整性file ../weights/moblienetv3_demo.rknn正常应显示RKNN model data测试基础功能ls /dev/rknpu如果设备节点存在说明驱动加载正常常见错误代码及含义错误代码含义解决方案-1模型加载失败检查模型路径和权限-3NPU初始化失败检查NPU驱动是否安装-5输入格式不匹配确认图片尺寸为224x2245. 深入理解RKNN API工作流程虽然本测试主要目的是验证NPU功能但了解底层API的工作原理对后续开发很有帮助。5.1 RKNN API核心函数测试代码中使用了以下几个关键RKNN API函数模型初始化rknn_init(ctx, model, model_len, 0, NULL);这个函数加载RKNN模型并创建推理上下文。模型查询rknn_query(ctx, RKNN_QUERY_IN_OUT_NUM, io_num, sizeof(io_num));获取模型的输入输出数量和信息。推理执行rknn_inputs_set(ctx, io_num.n_input, inputs); rknn_run(ctx, nullptr); rknn_outputs_get(ctx, 1, outputs, NULL);这三步完成了数据输入、推理执行和结果获取的全过程。5.2 数据处理流程完整的NPU推理流程可以分为以下几个阶段输入预处理图像读取OpenCV尺寸调整resize到224x224颜色空间转换BGR到RGB模型推理通过RKNN API提交到NPU硬件加速计算结果后处理获取输出张量解析概率分布提取Top5分类结果在实际项目中我经常遇到输入张量格式不匹配的问题。Rockchip NPU对输入格式要求严格必须与模型训练时的格式完全一致包括通道顺序、归一化方式等。这一点在从其他框架转换模型时需要特别注意。
)
