072、RKNN 部署 YOLO 到瑞芯微平台：转换、量化、C++ API 推理全流程一、从一次“模型跑飞”说起去年做一款边缘计算盒子，选了RK3588，YOLOv8n模型，量化后部署。板子跑起来，前几帧正常，突然检测框乱飞，置信度飙到0.99，框出屏幕外。查了两天，最后发现是RKNN的输入数据排布和模型训练时不一致——训练时是RGB，推理时忘了转成BGR。这种低级错误，在RKNN部署里太常见了。今天这篇笔记，就把从ONNX到RKNN的转换、量化、C++推理的坑，一个一个踩给你看。二、模型转换：别信一键脚本瑞芯微官方提供了rknn-toolkit2，但直接pip install往往装不上。建议用Docker，或者手动装依赖：numpy、opencv-python、onnx、onnxruntime。版本锁死：rknn-toolkit2 1.5.0对应Python 3.8，别用3.10，会报protobuf版本冲突。转换脚本核心就几行，但参数调不对，模型直接废掉：fromrknn.apiimportRKNN rknn=
072、RKNN 部署 YOLO 到瑞芯微平台：转换、量化、C++ API 推理全流程
发布时间：2026/6/3 23:34:41
072、RKNN 部署 YOLO 到瑞芯微平台：转换、量化、C++ API 推理全流程一、从一次“模型跑飞”说起去年做一款边缘计算盒子，选了RK3588，YOLOv8n模型，量化后部署。板子跑起来，前几帧正常，突然检测框乱飞，置信度飙到0.99，框出屏幕外。查了两天，最后发现是RKNN的输入数据排布和模型训练时不一致——训练时是RGB，推理时忘了转成BGR。这种低级错误，在RKNN部署里太常见了。今天这篇笔记，就把从ONNX到RKNN的转换、量化、C++推理的坑，一个一个踩给你看。二、模型转换：别信一键脚本瑞芯微官方提供了rknn-toolkit2，但直接pip install往往装不上。建议用Docker，或者手动装依赖：numpy、opencv-python、onnx、onnxruntime。版本锁死：rknn-toolkit2 1.5.0对应Python 3.8，别用3.10，会报protobuf版本冲突。转换脚本核心就几行，但参数调不对，模型直接废掉：fromrknn.apiimportRKNN rknn=
