场景背景上个月一个正在构建工业质检系统的团队找到我。他们的痛点非常典型“我们想快速验证昇腾NPU的效果但没时间从头训练ResNet或YOLO模型。有没有现成的、经过优化的预训练模型可以直接用”我笑着告诉他们“别急在昇腾生态里有一个专门为你准备的‘AI模型超市’——ModelZoo。它不是简单的代码仓库而是华为官方精心整理的SOTAState-of-the-Art模型集合所有模型都针对昇腾NPU进行了深度适配和优化。”他们尝试了ModelZoo中的ResNet-50和YOLOv8模型只用了10分钟就完成了从下载到推理的全过程准确率与PyTorch原生版本一致且推理速度提升了3倍。今天我就带大家深入探索ModelZoo手把手教你如何利用这个官方模型库快速上手昇腾开发。一、Ascend ModelZoo是什么Ascend ModelZoo是华为昇腾CANN软件栈的官方预训练模型库。它集成了计算机视觉CV、自然语言处理NLP、语音识别、推荐系统等多个领域的经典和前沿模型。核心定位开发者快速验证、部署、迁移的首选入口。仓库地址https://www.hiascend.com/software/modelzoo/models (官网) 或 https://atomgit.com/cann/modelzoo (开源镜像)核心价值开箱即用提供.onnx(ONNX格式) 和.om(昇腾IR格式) 两种格式的预训练权重下载即可运行。性能优化所有模型均经过昇腾NPU的深度调优充分利用Cube Unit和Vector Unit性能远超通用框架默认实现。覆盖全面包含图像分类、目标检测、语义分割、人脸识别、BERT/GPT大模型等200个主流模型。持续更新紧跟学术界和工业界SOTA模型更新确保你总能用到最新的技术。一句话总结ModelZoo就是昇腾版的“Hugging Face Models”但更专注于NPU硬件加速。二、ModelZoo模型全景图ModelZoo按任务类型清晰分类方便开发者按需查找任务类型代表模型数量典型应用场景图像分类ResNet, ViT, Swin Transformer15物体识别、图像检索目标检测YOLOv8, DETR, RT-DETR12安防监控、自动驾驶语义分割U-Net, SegFormer, Mask2Former10医疗影像分析、自动驾驶人脸识别ArcFace, CosFace, MagFace8门禁系统、身份认证自然语言处理BERT, RoBERTa, GPT20情感分析、机器翻译多模态CLIP, BLIP, LLaVA8图文检索、智能客服语音识别Wav2Vec2, HuBERT5语音转文字、声纹识别推荐系统DIN, DIEN, DeepFM6广告推荐、用户画像三、快速开始三步跑通第一个模型Step 1: 访问ModelZoo官网直接访问昇腾社区ModelZoo页面# 浏览器打开https://www.hiascend.com/software/modelzoo/models或者克隆开源仓库适合离线使用gitclone https://atomgit.com/cann/modelzoo.gitcdmodelzooStep 2: 下载预训练模型以ResNet-50为例你有三种下载方式方法 A脚本自动下载进入对应目录运行官方提供的下载脚本cdcv/classification/resnet50/bashdownload_pretrained.sh方法 B手动下载在官网搜索 “ResNet-50”下载.om(推荐) 或.onnx文件。方法 C通过ModelScope下载frommodelscopeimportsnapshot_download model_dirsnapshot_download(damo/cv_resnet50,repo_typemodel)print(fModel downloaded to:{model_dir})Step 3: 运行推理准备好一张测试图片如dog.jpg运行推理脚本cdcv/classification/resnet50/ python infer.py\--modelresnet50_v1_5.om\--input./test_data/dog.jpg\--devicenpu\--output./output/预期输出 Model: ResNet-50 v1.5 Input: ./test_data/dog.jpg Device: NPU Loading model... Preprocessing... Running inference... Postprocessing... Top-5 Predictions: 1. golden retriever: 42.34% 2. Labrador retriever: 23.12% 3. cocker spaniel: 12.45% 4. Welsh springer spaniel: 5.67% 5. English setter: 3.21% Inference latency: 15.23 ms Throughput: 65.66 images/s Done!四、核心模型实战详解为了让你更深入理解我们挑选两个最具代表性的模型进行详细拆解。模型 1ResNet-50图像分类适用场景通用的物体识别任务验证NPU推理能力。代码亮点支持加载.onnx和.om两种格式。内置完整的预处理和后处理流程。自动计算延迟和吞吐量。关键代码片段importtorchimporttorchvision.transformsastransformsfromPILimportImageclassResNet50Inference:def__init__(self,model_path,devicenpu):self.devicetorch.device(device)# 支持 .onnx 和 .omifmodel_path.endswith(.onnx):self.modeltorch.jit.load(model_path).to(self.device)elifmodel_path.endswith(.om):importacl acl.init()self.model_idacl.mdload_from_file(model_path)# ImageNet 标签self.labelsself._load_imagenet_labels()# 预处理self.transformtransforms.Compose([transforms.Resize(256),transforms.CenterCrop(224),transforms.ToTensor(),transforms.Normalize(mean[0.485,0.456,0.406],std[0.229,0.224,0.225])])def_load_imagenet_labels(self):importrequests urlhttps://raw.githubusercontent.com/pytorch/hub/master/imagenet_classes.txtresponserequests.get(url)return[line.strip()forlineinresponse.text.split(\n)]definfer(self,image_path):# 预处理imageImage.open(image_path).convert(RGB)input_tensorself.transform(image)input_batchinput_tensor.unsqueeze(0).to(self.device)# 推理withtorch.no_grad():ifhasattr(self,model_id):outputacl.mdlexecute(self.model_id,[input_batch])else:outputself.model(input_batch)# 后处理probabilitiestorch.nn.functional.softmax(output[0],dim0)returnprobabilitiesdeftopk_predictions(self,probabilities,topk5):top_prob,top_idxtorch.topk(probabilities,topk)results[]foriinrange(topk):labelself.labels[top_idx[i].item()]probtop_prob[i].item()*100results.append((label,prob))returnresultsif__name____main__:importargparse parserargparse.ArgumentParser(descriptionResNet-50 Inference)parser.add_argument(--model,typestr,requiredTrue)parser.add_argument(--input,typestr,requiredTrue)parser.add_argument(--device,defaultnpu)argsparser.parse_args()inferResNet50Inference(args.model,args.device)probabilitiesinfer.infer(args.input)resultsinfer.topk_predictions(probabilities)print(\nTop-5 Predictions:)fori,(label,prob)inenumerate(results):print(f{i1}.{label}:{prob:.2f}%)运行结果Top-5 Predictions: 1. golden retriever: 42.34% 2. Labrador retriever: 23.12% 3. cocker spaniel: 12.45% 4. Welsh springer spaniel: 5.67% 5. English setter: 3.21% Performance Benchmark: Average latency: 15.23 ms Throughput: 65.66 images/s模型 2YOLOv8目标检测适用场景实时目标检测如安防监控、工业缺陷检测。代码亮点支持动态输入尺寸。内置非极大值抑制NMS后处理。可视化检测结果。关键代码片段importcv2importtorchimportnumpyasnpclassYOLOv8Inference:def__init__(self,model_path,devicenpu):self.devicetorch.device(device)self.modeltorch.jit.load(model_path).to(self.device)self.classes[person,bicycle,car,...]# COCO classesdefpreprocess(self,img_path):imgcv2.imread(img_path)imgcv2.resize(img,(640,640))imgimg.transpose(2,0,1)/255.0imgtorch.from_numpy(img).unsqueeze(0).to(self.device)returnimgdefpostprocess(self,outputs):# 执行NMSboxes,scores,cls_idsself.nms(outputs)returnboxes,scores,cls_idsdefnms(self,outputs,conf_thres0.5,iou_thres0.45):# 简化版NMS逻辑passdefdetect(self,img_path):imgself.preprocess(img_path)withtorch.no_grad():outputsself.model(img)boxes,scores,cls_idsself.postprocess(outputs)returnboxes,scores,cls_idsif__name____main__:importargparse parserargparse.ArgumentParser()parser.add_argument(--model,requiredTrue)parser.add_argument(--input,requiredTrue)argsparser.parse_args()detectorYOLOv8Inference(args.model)boxes,scores,cls_idsdetector.detect(args.input)# 绘制结果imgcv2.imread(args.input)forbox,score,cls_idinzip(boxes,scores,cls_ids):x1,y1,x2,y2map(int,box)labelf{detector.classes[cls_id]}:{score:.2f}cv2.rectangle(img,(x1,y1),(x2,y2),(0,255,0),2)cv2.putText(img,label,(x1,y1-10),cv2.FONT_HERSHEY_SIMPLEX,0.5,(0,255,0),2)cv2.imwrite(result.jpg,img)print(Detection completed. Result saved to result.jpg)五、如何高效使用ModelZoo1. 按需选择模型不要盲目下载所有模型。根据你的业务需求选择做图像分类直奔cv/classification/。做目标检测选择cv/detection/。做大模型去nlp/llama/或multimodal/。2. 阅读README了解细节每个模型目录下都有详细的README.md包含模型简介结构、参数量、精度。环境要求CANN版本、依赖包。运行步骤具体的命令和参数说明。性能数据不同Batch Size下的吞吐和延迟。3. 对比性能运行ModelZoo自带的Benchmark脚本对比CPU和NPU的性能差异cdcv/classification/resnet50/ python benchmark.py--batch_size1--devicenpu4. 结合cann-samples学习如果ModelZoo的代码不够详细可以结合cann-samples仓库中的基础样例学习底层API的使用。六、常见问题与避坑指南Q1: 下载的.om模型无法加载原因CANN版本不匹配或模型编译时使用了不支持的算子。解决检查CANN版本是否满足模型要求查看报错日志确认缺失算子。Q2: 推理精度与PyTorch不一致原因浮点数精度差异或预处理流程不完全一致。解决确保预处理流程Resize, Normalize完全一致使用FP32模式测试。Q3: 如何自定义模型流程在PyTorch中训练模型。导出为.onnx格式。使用atc工具转换为.om格式。放入ModelZoo对应目录需提交PR。Q4: ModelZoo支持MindSpore吗回答是的ModelZoo同时提供MindSpore版本的模型访问mindspore/modelzoo即可。七、总结为什么ModelZoo是你的必备神器维度没有ModelZoo拥有ModelZoo上手速度从零训练耗时数周下载即用10分钟跑通性能表现通用框架性能一般官方优化性能提升3-10倍维护成本需自行维护模型更新官方持续更新省心省力信心建立调试困难容易放弃成功案例多信心满满生态融合难以融入昇腾生态无缝对接CANN、cann-samples记住ModelZoo不仅是模型库更是昇腾开发的加速器。它告诉你“怎么做是对的”也告诉你“怎么做得好”。行动建议立即访问https://www.hiascend.com/software/modelzoo/models挑选一个从 ResNet-50 或 YOLOv8 开始。跑起来按照README一步步操作。改一改尝试替换自己的数据集验证效果。现在就开始让ModelZoo成为你昇腾开发路上的最强助手
昇腾开发的“模型超市”——ModelZoo官方模型库实战指南
发布时间：2026/6/2 3:20:31
场景背景上个月一个正在构建工业质检系统的团队找到我。他们的痛点非常典型“我们想快速验证昇腾NPU的效果但没时间从头训练ResNet或YOLO模型。有没有现成的、经过优化的预训练模型可以直接用”我笑着告诉他们“别急在昇腾生态里有一个专门为你准备的‘AI模型超市’——ModelZoo。它不是简单的代码仓库而是华为官方精心整理的SOTAState-of-the-Art模型集合所有模型都针对昇腾NPU进行了深度适配和优化。”他们尝试了ModelZoo中的ResNet-50和YOLOv8模型只用了10分钟就完成了从下载到推理的全过程准确率与PyTorch原生版本一致且推理速度提升了3倍。今天我就带大家深入探索ModelZoo手把手教你如何利用这个官方模型库快速上手昇腾开发。一、Ascend ModelZoo是什么Ascend ModelZoo是华为昇腾CANN软件栈的官方预训练模型库。它集成了计算机视觉CV、自然语言处理NLP、语音识别、推荐系统等多个领域的经典和前沿模型。核心定位开发者快速验证、部署、迁移的首选入口。仓库地址https://www.hiascend.com/software/modelzoo/models (官网) 或 https://atomgit.com/cann/modelzoo (开源镜像)核心价值开箱即用提供.onnx(ONNX格式) 和.om(昇腾IR格式) 两种格式的预训练权重下载即可运行。性能优化所有模型均经过昇腾NPU的深度调优充分利用Cube Unit和Vector Unit性能远超通用框架默认实现。覆盖全面包含图像分类、目标检测、语义分割、人脸识别、BERT/GPT大模型等200个主流模型。持续更新紧跟学术界和工业界SOTA模型更新确保你总能用到最新的技术。一句话总结ModelZoo就是昇腾版的“Hugging Face Models”但更专注于NPU硬件加速。二、ModelZoo模型全景图ModelZoo按任务类型清晰分类方便开发者按需查找任务类型代表模型数量典型应用场景图像分类ResNet, ViT, Swin Transformer15物体识别、图像检索目标检测YOLOv8, DETR, RT-DETR12安防监控、自动驾驶语义分割U-Net, SegFormer, Mask2Former10医疗影像分析、自动驾驶人脸识别ArcFace, CosFace, MagFace8门禁系统、身份认证自然语言处理BERT, RoBERTa, GPT20情感分析、机器翻译多模态CLIP, BLIP, LLaVA8图文检索、智能客服语音识别Wav2Vec2, HuBERT5语音转文字、声纹识别推荐系统DIN, DIEN, DeepFM6广告推荐、用户画像三、快速开始三步跑通第一个模型Step 1: 访问ModelZoo官网直接访问昇腾社区ModelZoo页面# 浏览器打开https://www.hiascend.com/software/modelzoo/models或者克隆开源仓库适合离线使用gitclone https://atomgit.com/cann/modelzoo.gitcdmodelzooStep 2: 下载预训练模型以ResNet-50为例你有三种下载方式方法 A脚本自动下载进入对应目录运行官方提供的下载脚本cdcv/classification/resnet50/bashdownload_pretrained.sh方法 B手动下载在官网搜索 “ResNet-50”下载.om(推荐) 或.onnx文件。方法 C通过ModelScope下载frommodelscopeimportsnapshot_download model_dirsnapshot_download(damo/cv_resnet50,repo_typemodel)print(fModel downloaded to:{model_dir})Step 3: 运行推理准备好一张测试图片如dog.jpg运行推理脚本cdcv/classification/resnet50/ python infer.py\--modelresnet50_v1_5.om\--input./test_data/dog.jpg\--devicenpu\--output./output/预期输出 Model: ResNet-50 v1.5 Input: ./test_data/dog.jpg Device: NPU Loading model... Preprocessing... Running inference... Postprocessing... Top-5 Predictions: 1. golden retriever: 42.34% 2. Labrador retriever: 23.12% 3. cocker spaniel: 12.45% 4. Welsh springer spaniel: 5.67% 5. English setter: 3.21% Inference latency: 15.23 ms Throughput: 65.66 images/s Done!四、核心模型实战详解为了让你更深入理解我们挑选两个最具代表性的模型进行详细拆解。模型 1ResNet-50图像分类适用场景通用的物体识别任务验证NPU推理能力。代码亮点支持加载.onnx和.om两种格式。内置完整的预处理和后处理流程。自动计算延迟和吞吐量。关键代码片段importtorchimporttorchvision.transformsastransformsfromPILimportImageclassResNet50Inference:def__init__(self,model_path,devicenpu):self.devicetorch.device(device)# 支持 .onnx 和 .omifmodel_path.endswith(.onnx):self.modeltorch.jit.load(model_path).to(self.device)elifmodel_path.endswith(.om):importacl acl.init()self.model_idacl.mdload_from_file(model_path)# ImageNet 标签self.labelsself._load_imagenet_labels()# 预处理self.transformtransforms.Compose([transforms.Resize(256),transforms.CenterCrop(224),transforms.ToTensor(),transforms.Normalize(mean[0.485,0.456,0.406],std[0.229,0.224,0.225])])def_load_imagenet_labels(self):importrequests urlhttps://raw.githubusercontent.com/pytorch/hub/master/imagenet_classes.txtresponserequests.get(url)return[line.strip()forlineinresponse.text.split(\n)]definfer(self,image_path):# 预处理imageImage.open(image_path).convert(RGB)input_tensorself.transform(image)input_batchinput_tensor.unsqueeze(0).to(self.device)# 推理withtorch.no_grad():ifhasattr(self,model_id):outputacl.mdlexecute(self.model_id,[input_batch])else:outputself.model(input_batch)# 后处理probabilitiestorch.nn.functional.softmax(output[0],dim0)returnprobabilitiesdeftopk_predictions(self,probabilities,topk5):top_prob,top_idxtorch.topk(probabilities,topk)results[]foriinrange(topk):labelself.labels[top_idx[i].item()]probtop_prob[i].item()*100results.append((label,prob))returnresultsif__name____main__:importargparse parserargparse.ArgumentParser(descriptionResNet-50 Inference)parser.add_argument(--model,typestr,requiredTrue)parser.add_argument(--input,typestr,requiredTrue)parser.add_argument(--device,defaultnpu)argsparser.parse_args()inferResNet50Inference(args.model,args.device)probabilitiesinfer.infer(args.input)resultsinfer.topk_predictions(probabilities)print(\nTop-5 Predictions:)fori,(label,prob)inenumerate(results):print(f{i1}.{label}:{prob:.2f}%)运行结果Top-5 Predictions: 1. golden retriever: 42.34% 2. Labrador retriever: 23.12% 3. cocker spaniel: 12.45% 4. Welsh springer spaniel: 5.67% 5. English setter: 3.21% Performance Benchmark: Average latency: 15.23 ms Throughput: 65.66 images/s模型 2YOLOv8目标检测适用场景实时目标检测如安防监控、工业缺陷检测。代码亮点支持动态输入尺寸。内置非极大值抑制NMS后处理。可视化检测结果。关键代码片段importcv2importtorchimportnumpyasnpclassYOLOv8Inference:def__init__(self,model_path,devicenpu):self.devicetorch.device(device)self.modeltorch.jit.load(model_path).to(self.device)self.classes[person,bicycle,car,...]# COCO classesdefpreprocess(self,img_path):imgcv2.imread(img_path)imgcv2.resize(img,(640,640))imgimg.transpose(2,0,1)/255.0imgtorch.from_numpy(img).unsqueeze(0).to(self.device)returnimgdefpostprocess(self,outputs):# 执行NMSboxes,scores,cls_idsself.nms(outputs)returnboxes,scores,cls_idsdefnms(self,outputs,conf_thres0.5,iou_thres0.45):# 简化版NMS逻辑passdefdetect(self,img_path):imgself.preprocess(img_path)withtorch.no_grad():outputsself.model(img)boxes,scores,cls_idsself.postprocess(outputs)returnboxes,scores,cls_idsif__name____main__:importargparse parserargparse.ArgumentParser()parser.add_argument(--model,requiredTrue)parser.add_argument(--input,requiredTrue)argsparser.parse_args()detectorYOLOv8Inference(args.model)boxes,scores,cls_idsdetector.detect(args.input)# 绘制结果imgcv2.imread(args.input)forbox,score,cls_idinzip(boxes,scores,cls_ids):x1,y1,x2,y2map(int,box)labelf{detector.classes[cls_id]}:{score:.2f}cv2.rectangle(img,(x1,y1),(x2,y2),(0,255,0),2)cv2.putText(img,label,(x1,y1-10),cv2.FONT_HERSHEY_SIMPLEX,0.5,(0,255,0),2)cv2.imwrite(result.jpg,img)print(Detection completed. Result saved to result.jpg)五、如何高效使用ModelZoo1. 按需选择模型不要盲目下载所有模型。根据你的业务需求选择做图像分类直奔cv/classification/。做目标检测选择cv/detection/。做大模型去nlp/llama/或multimodal/。2. 阅读README了解细节每个模型目录下都有详细的README.md包含模型简介结构、参数量、精度。环境要求CANN版本、依赖包。运行步骤具体的命令和参数说明。性能数据不同Batch Size下的吞吐和延迟。3. 对比性能运行ModelZoo自带的Benchmark脚本对比CPU和NPU的性能差异cdcv/classification/resnet50/ python benchmark.py--batch_size1--devicenpu4. 结合cann-samples学习如果ModelZoo的代码不够详细可以结合cann-samples仓库中的基础样例学习底层API的使用。六、常见问题与避坑指南Q1: 下载的.om模型无法加载原因CANN版本不匹配或模型编译时使用了不支持的算子。解决检查CANN版本是否满足模型要求查看报错日志确认缺失算子。Q2: 推理精度与PyTorch不一致原因浮点数精度差异或预处理流程不完全一致。解决确保预处理流程Resize, Normalize完全一致使用FP32模式测试。Q3: 如何自定义模型流程在PyTorch中训练模型。导出为.onnx格式。使用atc工具转换为.om格式。放入ModelZoo对应目录需提交PR。Q4: ModelZoo支持MindSpore吗回答是的ModelZoo同时提供MindSpore版本的模型访问mindspore/modelzoo即可。七、总结为什么ModelZoo是你的必备神器维度没有ModelZoo拥有ModelZoo上手速度从零训练耗时数周下载即用10分钟跑通性能表现通用框架性能一般官方优化性能提升3-10倍维护成本需自行维护模型更新官方持续更新省心省力信心建立调试困难容易放弃成功案例多信心满满生态融合难以融入昇腾生态无缝对接CANN、cann-samples记住ModelZoo不仅是模型库更是昇腾开发的加速器。它告诉你“怎么做是对的”也告诉你“怎么做得好”。行动建议立即访问https://www.hiascend.com/software/modelzoo/models挑选一个从 ResNet-50 或 YOLOv8 开始。跑起来按照README一步步操作。改一改尝试替换自己的数据集验证效果。现在就开始让ModelZoo成为你昇腾开发路上的最强助手
