1_model_update【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime描述本样例展示了捕获一个模型实例后如何更新该实例中的任务。产品支持情况本样例在以下产品上的支持情况如下产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√编译运行环境安装详情以及运行详情请见example目录下的README。运行步骤如下# ${install_root} 替换为 CANN 安装根目录默认安装在/usr/local/Ascend目录 source ${install_root}/cann/set_env.sh export ASCEND_INSTALL_PATH${install_root}/cann # 编译运行 bash run.shCANN RUNTIME API在该Sample中涉及的关键功能点及其关键接口如下所示初始化调用aclInit接口初始化AscendCL配置。调用aclFinalize接口实现AscendCL去初始化。Device管理调用aclrtSetDevice接口指定用于运算的Device。调用aclrtResetDeviceForce接口强制复位当前运算的Device回收Device上的资源。Context管理调用aclrtCreateContext接口创建Context。调用aclrtDestroyContext接口销毁Context。Stream管理调用aclrtCreateStream接口创建Stream。调用aclrtSynchronizeStream可以阻塞等待Stream上任务的完成。调用aclrtDestroyStreamForce接口强制销毁Stream丢弃所有任务。model管理调用aclmdlRICaptureBegin接口开始捕获模式。调用aclmdlRICaptureThreadExchangeMode接口更换model的捕获模式。调用aclmdlRICaptureTaskGrpBegin接口标记要更新的任务组的开始。调用aclmdlRICaptureTaskGrpEnd接口标注要更新的任务组结束得到handle句柄用于后续更新。调用aclmdlRICaptureEnd接口结束捕获模式并得到modelRI句柄。调用aclmdlRIExecuteAsync接口异步执行执行模型推理。调用aclmdlRICaptureTaskUpdateBegin接口标记待更新任务的开始。调用aclmdlRICaptureTaskUpdateEnd接口标记待更新任务的结束。调用aclmdlRIDestroy接口销毁模型运行实例。内存管理调用aclrtMalloc接口申请Device上的内存。调用aclrtFree接口释放Device上的内存。数据传输调用aclrtMemcpy接口通过内存复制的方式实现数据传输。调用aclrtMemcpyAsync接口进行异步的内存复制。已知issue暂无【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN运行时模型更新示例
发布时间：2026/7/9 18:54:37
1_model_update【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime描述本样例展示了捕获一个模型实例后如何更新该实例中的任务。产品支持情况本样例在以下产品上的支持情况如下产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√编译运行环境安装详情以及运行详情请见example目录下的README。运行步骤如下# ${install_root} 替换为 CANN 安装根目录默认安装在/usr/local/Ascend目录 source ${install_root}/cann/set_env.sh export ASCEND_INSTALL_PATH${install_root}/cann # 编译运行 bash run.shCANN RUNTIME API在该Sample中涉及的关键功能点及其关键接口如下所示初始化调用aclInit接口初始化AscendCL配置。调用aclFinalize接口实现AscendCL去初始化。Device管理调用aclrtSetDevice接口指定用于运算的Device。调用aclrtResetDeviceForce接口强制复位当前运算的Device回收Device上的资源。Context管理调用aclrtCreateContext接口创建Context。调用aclrtDestroyContext接口销毁Context。Stream管理调用aclrtCreateStream接口创建Stream。调用aclrtSynchronizeStream可以阻塞等待Stream上任务的完成。调用aclrtDestroyStreamForce接口强制销毁Stream丢弃所有任务。model管理调用aclmdlRICaptureBegin接口开始捕获模式。调用aclmdlRICaptureThreadExchangeMode接口更换model的捕获模式。调用aclmdlRICaptureTaskGrpBegin接口标记要更新的任务组的开始。调用aclmdlRICaptureTaskGrpEnd接口标注要更新的任务组结束得到handle句柄用于后续更新。调用aclmdlRICaptureEnd接口结束捕获模式并得到modelRI句柄。调用aclmdlRIExecuteAsync接口异步执行执行模型推理。调用aclmdlRICaptureTaskUpdateBegin接口标记待更新任务的开始。调用aclmdlRICaptureTaskUpdateEnd接口标记待更新任务的结束。调用aclmdlRIDestroy接口销毁模型运行实例。内存管理调用aclrtMalloc接口申请Device上的内存。调用aclrtFree接口释放Device上的内存。数据传输调用aclrtMemcpy接口通过内存复制的方式实现数据传输。调用aclrtMemcpyAsync接口进行异步的内存复制。已知issue暂无【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
