尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

CANN/GE ATC工具--out_nodes参数详解

CANN/GE ATC工具--out_nodes参数详解 --out_nodes【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况全量芯片支持功能说明指定某层输出节点算子作为网络模型的输出或指定网络模型输出的名称。如果不指定输出节点则模型的输出默认为最后一层的算子信息如果指定则以指定的为准。某些情况下用户想要查看中间层算子输出即可以在模型转换时通过该参数指定输出某层算子模型转换后在相应om离线模型文件最后即可以看到指定输出算子的参数信息如果通过om离线模型文件无法查看则可以将其转换成JSON格式后查看。关联参数当--framework取值为1且为MindSpore框架网络模型时设置本参数无效但模型转换成功。参数取值参数值指定网络模型中的节点node_name名称若指定多个输出节点则多个输出节点的名称必须放在双引号中中间使用英文分号分隔。node_name必须是模型转换前的网络模型中的节点名称冒号后的数字表示第几个输出例如node_name1:0表示节点名称为node_name1的第1个输出。指定输出节点的topname该场景仅支持Caffe网络模型若指定多个输出节点则多个输出节点的topname必须放在双引号中中间使用英文分号分隔。topname必须是Caffe网络模型在编译前某个layer中的top名称若几个layer有相同的topname则以最后一个layer的topname作为最终有效值。指定网络模型输出的名称output的name该场景仅支持ONNX网络模型若指定多个输出则多个输出的name必须放在双引号中中间使用英文分号分隔。output必须是网络模型的输出。参数值约束参数值中的三种方式使用时只能取其一不能同时存在。若参数值取值为某层输出节点的topname该种方式仅限于Caffe网络模型。若参数值取值为网络模型输出的名称output的name该种方式仅限于ONNX网络模型。推荐配置及收益无。示例参数值取网络模型中节点node_name的名称atc --out_nodesnode_name1:0;node_name1:1;node_name2:0 ...参数值取某层输出节点的topnameatc --out_nodestopname0;topname1;topname2 ...参数值取网络模型输出的名称output的nameatc --out_nodesoutput1;output2;output3 ...依赖约束无。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表