尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

CANN/ge ArgDescInfo构造函数

CANN/ge ArgDescInfo构造函数 ArgDescInfo构造函数和析构函数【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况全量芯片支持。头文件/库文件头文件#include graph/arg_desc_info.h库文件libgraph.so功能说明ArgDescInfo构造函数和析构函数。函数原型explicit ArgDescInfo(ArgDescType arg_type, int32_t ir_index -1, bool is_folded false) ~ArgDescInfo() ArgDescInfo(const ArgDescInfo other) ArgDescInfo(ArgDescInfo other) noexcept ArgDescInfo operator(const ArgDescInfo other) ArgDescInfo operator(ArgDescInfo other) noexcept参数说明参数输入/输出说明arg_type输入当前Args地址的类型。具体类型定义请参考ArgDescType。ir_index输入当前Args地址对应的算子IR索引。is_folded输入当前地址是否需要被折叠成二级指针。返回值说明无约束说明无调用示例graphStatus Mc2GenTaskCallback(const gert::ExeResGenerationContext *context, std::vectorstd::vectoruint8_t tasks) { ... // 设置AI CPU任务 auto aicpu_task KernelLaunchInfo::CreateAicpuKfcTask(context, libccl_kernel.so, RunAicpuKfcSrvLaunch); std::vectorArgDescInfo aicpu_args_format; // 构造了一个类型为kIrOutputDescir_index为0需要被折叠成二级指针的地址描述信息 aicpu_args_format.emplace_back(ArgDescInfo(ArgDescType::kIrOutputDesc, 0, true)); ... }【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表