属性名列表【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge本节所列属性名为通过SetAttr接口可设置的属性名称头文件位于CANN软件安装后文件存储路径下的include/ge/ge_api_types.h表 1属性名称属性名说明级别_user_stream_label字符串类型指定算子执行的目标stream标签需要切换到的流的标签相同的标签代表相同的流由用户控制。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。算子级_user_stream_priorityint类型表示切换到_user_stream_label流的优先级即Runtime运行时在并发时优先给高优先级的流分配核资源。当前版本为预留参数建议取默认值0。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。算子级_op_aicore_num用于配置算子编译时使用的AI Core中的Cube Core核数。参数取值整数类型整数需要大于0小于等于昇腾AI处理器包含的最大Cube Core。不同昇腾AI处理器包含的最大CubeCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明昇腾AI处理器上存在24个Cube Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24cube_core_cnt24 vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例则安装后文件存储路径为/usr/local/Ascend/cann。arch表示具体操作系统架构xxx请根据实际产品进行选择。产品支持情况Atlas A3 训练系列产品 / Atlas A3 推理系列产品支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品支持算子级_op_vectorcore_num用于配置算子编译时使用的AI Core中的Vector Core核数。参数取值整数类型整数需要大于0小于等于昇腾AI处理器包含的最大Vector Core。不同昇腾AI处理器包含的最大VectorCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明昇腾AI处理器上存在48个Vector Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24 cube_core_cnt24vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例则安装后文件存储路径为/usr/local/Ascend/cann。arch表示具体操作系统架构xxx请根据实际产品进行选择。产品支持情况Atlas A3 训练系列产品 / Atlas A3 推理系列产品支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品支持算子级_op_exec_never_timeout设置静态图上的AI Core算子执行时是否受超时时间限制。参数取值true算子执行不受超时时间限制永不超时。false算子执行受超时时间限制。用户可以通过“aclrtSetOpExecuteTimeOutV2”接口设置算子执行的超时时间。接口详细介绍请参见《应用开发指南 (CC)》。使用约束如果AI Core算子开启了Tiling下沉特性即使能options参数说明中的ge.tiling_schedule_optimize参数则此类算子不支持设置永不超时属性。算子级【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 CANN/GE图引擎属性名列表
属性名列表【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge本节所列属性名为通过SetAttr接口可设置的属性名称头文件位于CANN软件安装后文件存储路径下的include/ge/ge_api_types.h表 1属性名称属性名说明级别_user_stream_label字符串类型指定算子执行的目标stream标签需要切换到的流的标签相同的标签代表相同的流由用户控制。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。算子级_user_stream_priorityint类型表示切换到_user_stream_label流的优先级即Runtime运行时在并发时优先给高优先级的流分配核资源。当前版本为预留参数建议取默认值0。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。算子级_op_aicore_num用于配置算子编译时使用的AI Core中的Cube Core核数。参数取值整数类型整数需要大于0小于等于昇腾AI处理器包含的最大Cube Core。不同昇腾AI处理器包含的最大CubeCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明昇腾AI处理器上存在24个Cube Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24cube_core_cnt24 vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例则安装后文件存储路径为/usr/local/Ascend/cann。arch表示具体操作系统架构xxx请根据实际产品进行选择。产品支持情况Atlas A3 训练系列产品 / Atlas A3 推理系列产品支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品支持算子级_op_vectorcore_num用于配置算子编译时使用的AI Core中的Vector Core核数。参数取值整数类型整数需要大于0小于等于昇腾AI处理器包含的最大Vector Core。不同昇腾AI处理器包含的最大VectorCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明昇腾AI处理器上存在48个Vector Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24 cube_core_cnt24vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例则安装后文件存储路径为/usr/local/Ascend/cann。arch表示具体操作系统架构xxx请根据实际产品进行选择。产品支持情况Atlas A3 训练系列产品 / Atlas A3 推理系列产品支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品支持算子级_op_exec_never_timeout设置静态图上的AI Core算子执行时是否受超时时间限制。参数取值true算子执行不受超时时间限制永不超时。false算子执行受超时时间限制。用户可以通过“aclrtSetOpExecuteTimeOutV2”接口设置算子执行的超时时间。接口详细介绍请参见《应用开发指南 (CC)》。使用约束如果AI Core算子开启了Tiling下沉特性即使能options参数说明中的ge.tiling_schedule_optimize参数则此类算子不支持设置永不超时属性。算子级【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考