尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

CANN/ge内存恢复判断接口

CANN/ge内存恢复判断接口 PaRemapped【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_api.h库文件libge_runner.so功能说明用于内存出现UCEUncorrectable Error不可纠正错误错误时判断此段内存是否可以快速恢复。函数原型Status PaRemapped(const uint64_t va, const uint64_t new_pa, const uint64_t len)参数说明参数名输入/输出说明va输入发生UCE错误的virtual address。new_pa输入新申请内存的physical address。预留参数。len输入发生UCE错误的内存大小。返回值说明参数名类型说明-StatusSUCCESS对应的va内存段可快速恢复。FAILED对应的VA内存段存在不可恢复的地址。PARAM_INVALID存在未识别到VA地址段。约束说明在调用本接口前必须先调用CompileGraph接口进行图编译。不支持Session中存在Host调度的场景若Session中存在Host调度图接口返回失败。不支持静态shape图allocation表中的绝对地址段。该接口只适用于静态编译图可以通过GetCompiledGraphSummary接口中的IsStatic接口获取图是否为静态编译。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表