尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

CANN/GE ATC工具soc_version参数指南

CANN/GE ATC工具soc_version参数指南 --soc_version【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况全量芯片支持。功能说明配置模型在推理运行阶段所使用的AI处理器型号。模型转换阶段不依赖AI处理器但是转换时使用的--soc_version取值必须为转换后模型运行阶段所使用的AI处理器型号。兼容性说明针对8.5.0及之后版本使用ATC工具进行模型转换时必须安装与目标AI处理器匹配的ops算子包否则会导致编译失败。不同产品只要--soc_version取值相同则只需转换一次模型即可分别在这些产品上进行部署运行。部署运行环境要求请确保产品运行环境的CANN软件包版本不低于转换om离线模型时转换环境的CANN软件包版本。低版本的CANN软件包环境上转换出的om离线模型支持在高版本的CANN软件包环境上运行兼容4个版本周期。关联参数无。参数取值参数值查询方法如下针对如下产品在安装AI处理器的服务器执行npu-smi info命令进行查询获取Name信息。实际配置值为AscendName例如Name取值为xxxyy实际配置值为Ascendxxxyy。Atlas A2 训练系列产品/Atlas A2 推理系列产品Atlas 200I/500 A2 推理产品Atlas 推理系列产品Atlas 训练系列产品针对Atlas A3 训练系列产品/Atlas A3 推理系列产品在安装AI处理器的服务器执行npu-smi info -t board -iid-c_chip_id_命令进行查询获取Chip Name和NPU Name信息实际配置值为Chip Name_NPU Name。例如Chip Name取值为AscendxxxNPU Name取值为1234实际配置值为Ascendxxx_1234。其中id设备id通过npu-smi info -l命令查出的NPU ID即为设备id。chip_id芯片id通过npu-smi info -m命令查出的Chip ID即为芯片id。针对Ascend 950PR/Ascend 950DT在安装AI处理器的服务器执行npu-smi info -t board -i_id_命令进行查询获取Chip Name和NPU Name信息实际配置值为Chip Name_NPU Name。例如Chip Name取值为AscendxxxNPU Name取值为1234实际配置值为Ascendxxx_1234。其中id为设备id通过npu-smi info -l命令查出的NPU ID即为设备id。参数取值Ascend035推荐配置及收益无。示例IPV350使用示例atc --soc_versionAscend035 ...依赖约束无。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表