CANN pyasc 运行时配置指南set_platform 与 Backend/Platform 枚举详解【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc本指南基于 CANN pyasc 开源仓库围绕asc.runtime.config模块的运行时配置能力展开通过set_platform接口一键设置后端执行模式Model 仿真 / NPU 真实硬件、SOC 版本与设备 ID。读完本文你将掌握 pyasc 中仿真优先、硬件验证的经典开发流程能够在 Model 后端完成算子功能调试、在 NPU 后端完成真实硬件验证并学会处理平台不匹配、运行库缺失等常见异常场景。一、asc.runtime.config模块定位在 CANN pyasc 中用户编写的asc.jit算子代码本身与具体硬件解耦同一个 Kernel 既可以运行在昇腾 AI 处理器的真实 NPU 上也可以运行在 CPU 上的仿真/模型环境中。决定代码跑在哪里的开关正是asc.runtime.config模块——它负责配置后端执行模式Model/NPU、SOC 版本芯片型号和设备 ID三类运行时信息。该模块的完整文档位于 docs/python-api/lib/config.md与 docs/python-api/lib/host.md 共同构成 docs/python-api/lib/index.md 所划分的 Programming models 两大编程入口。其接口列表非常精简核心只有一个函数set_platform(backend[, soc_version, device_id, check])设置运行时后端、SOC 版本和设备 ID。当 backend 为 Model 时soc_version 默认为 Ascend910B1当 backend 为 NPU 时soc_version 自动从当前平台获取且会校验与输入的 soc_version 是否一致。二、枚举类型详解asc.runtime.config定义了两组在调用set_platform时必须使用的枚举它们均可在 python/asc/runtime/config.py 中找到对应实现枚举值同时接受枚举对象或等值字符串两种写法。2.1 Backend后端执行模式Backend枚举指定 Kernel 编译与执行的后端共两个取值枚举值说明Backend.Model使用 Model 后端执行适用于仿真或模型运行场景Backend.NPU使用 NPU 后端执行适用于真实 NPU 硬件场景从源码看Backend是一个标准Enumconfig.py其值分别为字符串Model与NPU。因此调用时既可以直接传Backend.Model也可以传Model——set_platform内部通过Backend(backend)完成归一化。2.2 PlatformSOC 版本Platform枚举指定目标芯片型号决定代码生成与优化的硬件特征。文档config.md列出的取值如下枚举值说明Platform.Ascend910B1Ascend 910B1Platform.Ascend910B2Ascend 910B2Platform.Ascend910B2CAscend 910B2CPlatform.Ascend910B3Ascend 910B3Platform.Ascend910B4Ascend 910B4Platform.Ascend910B4_1Ascend 910B4-1Platform.Ascend910_9362Ascend 910 9362Platform.Ascend910_9372Ascend 910 9372Platform.Ascend910_9381Ascend 910 9381Platform.Ascend910_9382Ascend 910 9382Platform.Ascend910_9391Ascend 910 9391Platform.Ascend910_9392Ascend 910 9392需要补充的是当前仓库源码config.py中的Platform枚举还包含了文档表格未列出的Ascend 950PR 系列Ascend950PR_950z、Ascend950PR_9579、Ascend950PR_957b、Ascend950PR_957c、Ascend950PR_957d、Ascend950PR_9589、Ascend950PR_958b、Ascend950PR_9599使用时以源码为准。三、set_platform函数全解析3.1 函数签名与参数def set_platform( backend: Union[Backend, str], soc_version: Optional[Union[Platform, str]] None, device_id: Optional[int] None, checkTrue, ) - None各参数含义如下参数类型必选说明backendBackend枚举或str是执行后端类型Backend.Model或Backend.NPU字符串Model/NPU同样被接受soc_versionPlatform枚举或str否目标 SOC 版本。Model 后端不传时默认Ascend910B1NPU 后端不传时自动取当前硬件平台device_idint否执行使用的设备 ID不传默认使用 0 号设备checkbool否是否校验运行时库可用性默认True库不可用时抛异常3.2 内部执行流程set_platform的实现位于 python/asc/runtime/config.py其核心逻辑分为四步参数归一化backend Backend(backend)、soc_version Platform(soc_version)将字符串统一转为枚举。后端分支处理Model后端若未指定soc_version自动填充默认值Platform.Ascend910B1然后调用rt.use_model()切换全局状态为仿真模式NPU后端调用rt.current_platform()从硬件层读取实际 SOC 版本底层通过 ctypes 调用GetSocVersionWrapper见 python/asc/lib/runtime/interface.py若传入的soc_version与真实平台不一致抛出ValueError随后调用rt.use_npu()切换到硬件模式。写入 SOC 版本统一调用rt.set_soc_version(soc_version)保存到全局状态对应state.soc_verison见 interface.py该值会在后续编译阶段决定目标指令集。设备设置与可用性检查若指定了device_id调用rt.set_device(device_id)若checkTrue且运行库不可用rt.is_available()返回False抛出RuntimeError并针对 Model 后端在错误信息中提示需要导出的仿真库路径。3.3 异常行为未知后端抛出ValueError(fUnknown execution backend: ...)。NPU 平台不匹配输入 SOC 与真实硬件不一致时抛出ValueError提示 Input soc version ... is different from actual ...。运行库不可用checkTrue抛出RuntimeError。对 Model 后端错误信息会指导你补齐LD_LIBRARY_PATH形如Please export LD_LIBRARY_PATH$ASCEND_HOME_PATH/tools/simulator/Ascend910B3/lib:$LD_LIBRARY_PATH这一错误消息中的 SOC 版本占位符会被真实值替换相关行为在单元测试 python/test/unit/runtime/test_config.py 中有专门断言。四、典型使用示例4.1 最小调用形式import asc.runtime.config as config from asc.runtime.config import Backend, Platform # 1) Model 后端 默认平台Ascend910B1仿真运行 config.set_platform(Backend.Model) # 2) Model 后端 显式指定平台 config.set_platform(Backend.Model, Platform.Ascend910B1) config.set_platform(Backend.Model, Ascend910B3, checkFalse) # 3) NPU 后端 指定设备平台自动从硬件获取并校验 config.set_platform(NPU, device_id0)4.2 与算子运行结合的完整流程仓库中的 examples/01_add/add.py 给出了一个完整的可运行范式先用命令行参数指定后端与平台再调用set_platform随后根据后端类型把输入张量放到npu或cpu设备上执行def vadd_custom(backend: config.Backend, platform: config.Platform): config.set_platform(backend, platform) device npu if config.Backend(backend) config.Backend.NPU else cpu size 8 * 2048 x torch.rand(size, dtypetorch.float32, devicedevice) y torch.rand(size, dtypetorch.float32, devicedevice) z vadd_launch(x, y) assert torch.allclose(z, x y)其命令行入口校验了Backend与Platform的合法取值并支持如下运行方式源码注释见 add.py# Model 仿真运行默认平台 python add.py -r Model # Model 仿真运行指定平台 python add.py -r Model -v Ascend910B3 # NPU 真实硬件运行 python add.py -r NPU05_matmul_leakyrelu/matmul_leakyrelu.py、07_swiglu/swiglu.py等其余 examples 示例均沿用同一模式可作为参考。4.3 在性能剖析场景中的使用在 docs/op_debug_prof.md 的 PyTorch Profiler 采集示例中set_platform被用来统一两个场景的设备选择逻辑——仿真时张量放cpu硬件时放npu从而让同一段剖析代码可在两种后端下切换运行。五、底层原理与状态流转set_platform的开关动作最终都落在asc.lib.runtime的全局状态上理解这条链路有助于排查运行时问题模式切换use_model()/use_npu()仅修改全局标志state.model见 python/asc/lib/runtime/interface.py后续编译与启动流程通过is_model()查询当前模式。平台写入set_soc_version()保存平台枚举供编译期生成对应指令interface.py。设备与流set_device()触发底层SetDeviceWrapper并为该设备创建默认流current_stream()interface.py。惰性初始化真正加载运行库发生在首次调用时_lazy_init因此仿真优先的开发模式下Model 后端并不需要真实的 NPU 驱动与硬件即可完成算子功能验证这正是 pyasc 推荐先 Model 后 NPU 的开发节奏可参考 docs/quick_start.md 与 docs/pyasc_op_develop_guide.md。六、常见问题与注意事项NPU 后端平台必须一致soc_version与真实硬件不符会直接抛ValueError不传该参数可自动适配当前硬件。Model 后端需要仿真库若checkTrue时报RuntimeError请按错误提示导出LD_LIBRARY_PATH或临时以checkFalse跳过校验仅用于快速原型验证。多设备选择device_id不传默认使用 0 号设备切换设备时旧设备的流会被自动释放见 interface.py。枚举与字符串等价Backend/Platform的所有参数都可用等值字符串传入便于从命令行或配置文件驱动。七、参考资源接口文档docs/python-api/lib/config.md源码实现python/asc/runtime/config.py运行时底层封装python/asc/lib/runtime/interface.py单元测试python/test/unit/runtime/test_config.py完整示例examples/01_add/add.py环境准备与算子开发指引docs/quick_start.md、docs/pyasc_op_develop_guide.md【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 CANN pyasc 运行时配置指南：set_platform 与 Backend/Platform 枚举详解
CANN pyasc 运行时配置指南set_platform 与 Backend/Platform 枚举详解【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc本指南基于 CANN pyasc 开源仓库围绕asc.runtime.config模块的运行时配置能力展开通过set_platform接口一键设置后端执行模式Model 仿真 / NPU 真实硬件、SOC 版本与设备 ID。读完本文你将掌握 pyasc 中仿真优先、硬件验证的经典开发流程能够在 Model 后端完成算子功能调试、在 NPU 后端完成真实硬件验证并学会处理平台不匹配、运行库缺失等常见异常场景。一、asc.runtime.config模块定位在 CANN pyasc 中用户编写的asc.jit算子代码本身与具体硬件解耦同一个 Kernel 既可以运行在昇腾 AI 处理器的真实 NPU 上也可以运行在 CPU 上的仿真/模型环境中。决定代码跑在哪里的开关正是asc.runtime.config模块——它负责配置后端执行模式Model/NPU、SOC 版本芯片型号和设备 ID三类运行时信息。该模块的完整文档位于 docs/python-api/lib/config.md与 docs/python-api/lib/host.md 共同构成 docs/python-api/lib/index.md 所划分的 Programming models 两大编程入口。其接口列表非常精简核心只有一个函数set_platform(backend[, soc_version, device_id, check])设置运行时后端、SOC 版本和设备 ID。当 backend 为 Model 时soc_version 默认为 Ascend910B1当 backend 为 NPU 时soc_version 自动从当前平台获取且会校验与输入的 soc_version 是否一致。二、枚举类型详解asc.runtime.config定义了两组在调用set_platform时必须使用的枚举它们均可在 python/asc/runtime/config.py 中找到对应实现枚举值同时接受枚举对象或等值字符串两种写法。2.1 Backend后端执行模式Backend枚举指定 Kernel 编译与执行的后端共两个取值枚举值说明Backend.Model使用 Model 后端执行适用于仿真或模型运行场景Backend.NPU使用 NPU 后端执行适用于真实 NPU 硬件场景从源码看Backend是一个标准Enumconfig.py其值分别为字符串Model与NPU。因此调用时既可以直接传Backend.Model也可以传Model——set_platform内部通过Backend(backend)完成归一化。2.2 PlatformSOC 版本Platform枚举指定目标芯片型号决定代码生成与优化的硬件特征。文档config.md列出的取值如下枚举值说明Platform.Ascend910B1Ascend 910B1Platform.Ascend910B2Ascend 910B2Platform.Ascend910B2CAscend 910B2CPlatform.Ascend910B3Ascend 910B3Platform.Ascend910B4Ascend 910B4Platform.Ascend910B4_1Ascend 910B4-1Platform.Ascend910_9362Ascend 910 9362Platform.Ascend910_9372Ascend 910 9372Platform.Ascend910_9381Ascend 910 9381Platform.Ascend910_9382Ascend 910 9382Platform.Ascend910_9391Ascend 910 9391Platform.Ascend910_9392Ascend 910 9392需要补充的是当前仓库源码config.py中的Platform枚举还包含了文档表格未列出的Ascend 950PR 系列Ascend950PR_950z、Ascend950PR_9579、Ascend950PR_957b、Ascend950PR_957c、Ascend950PR_957d、Ascend950PR_9589、Ascend950PR_958b、Ascend950PR_9599使用时以源码为准。三、set_platform函数全解析3.1 函数签名与参数def set_platform( backend: Union[Backend, str], soc_version: Optional[Union[Platform, str]] None, device_id: Optional[int] None, checkTrue, ) - None各参数含义如下参数类型必选说明backendBackend枚举或str是执行后端类型Backend.Model或Backend.NPU字符串Model/NPU同样被接受soc_versionPlatform枚举或str否目标 SOC 版本。Model 后端不传时默认Ascend910B1NPU 后端不传时自动取当前硬件平台device_idint否执行使用的设备 ID不传默认使用 0 号设备checkbool否是否校验运行时库可用性默认True库不可用时抛异常3.2 内部执行流程set_platform的实现位于 python/asc/runtime/config.py其核心逻辑分为四步参数归一化backend Backend(backend)、soc_version Platform(soc_version)将字符串统一转为枚举。后端分支处理Model后端若未指定soc_version自动填充默认值Platform.Ascend910B1然后调用rt.use_model()切换全局状态为仿真模式NPU后端调用rt.current_platform()从硬件层读取实际 SOC 版本底层通过 ctypes 调用GetSocVersionWrapper见 python/asc/lib/runtime/interface.py若传入的soc_version与真实平台不一致抛出ValueError随后调用rt.use_npu()切换到硬件模式。写入 SOC 版本统一调用rt.set_soc_version(soc_version)保存到全局状态对应state.soc_verison见 interface.py该值会在后续编译阶段决定目标指令集。设备设置与可用性检查若指定了device_id调用rt.set_device(device_id)若checkTrue且运行库不可用rt.is_available()返回False抛出RuntimeError并针对 Model 后端在错误信息中提示需要导出的仿真库路径。3.3 异常行为未知后端抛出ValueError(fUnknown execution backend: ...)。NPU 平台不匹配输入 SOC 与真实硬件不一致时抛出ValueError提示 Input soc version ... is different from actual ...。运行库不可用checkTrue抛出RuntimeError。对 Model 后端错误信息会指导你补齐LD_LIBRARY_PATH形如Please export LD_LIBRARY_PATH$ASCEND_HOME_PATH/tools/simulator/Ascend910B3/lib:$LD_LIBRARY_PATH这一错误消息中的 SOC 版本占位符会被真实值替换相关行为在单元测试 python/test/unit/runtime/test_config.py 中有专门断言。四、典型使用示例4.1 最小调用形式import asc.runtime.config as config from asc.runtime.config import Backend, Platform # 1) Model 后端 默认平台Ascend910B1仿真运行 config.set_platform(Backend.Model) # 2) Model 后端 显式指定平台 config.set_platform(Backend.Model, Platform.Ascend910B1) config.set_platform(Backend.Model, Ascend910B3, checkFalse) # 3) NPU 后端 指定设备平台自动从硬件获取并校验 config.set_platform(NPU, device_id0)4.2 与算子运行结合的完整流程仓库中的 examples/01_add/add.py 给出了一个完整的可运行范式先用命令行参数指定后端与平台再调用set_platform随后根据后端类型把输入张量放到npu或cpu设备上执行def vadd_custom(backend: config.Backend, platform: config.Platform): config.set_platform(backend, platform) device npu if config.Backend(backend) config.Backend.NPU else cpu size 8 * 2048 x torch.rand(size, dtypetorch.float32, devicedevice) y torch.rand(size, dtypetorch.float32, devicedevice) z vadd_launch(x, y) assert torch.allclose(z, x y)其命令行入口校验了Backend与Platform的合法取值并支持如下运行方式源码注释见 add.py# Model 仿真运行默认平台 python add.py -r Model # Model 仿真运行指定平台 python add.py -r Model -v Ascend910B3 # NPU 真实硬件运行 python add.py -r NPU05_matmul_leakyrelu/matmul_leakyrelu.py、07_swiglu/swiglu.py等其余 examples 示例均沿用同一模式可作为参考。4.3 在性能剖析场景中的使用在 docs/op_debug_prof.md 的 PyTorch Profiler 采集示例中set_platform被用来统一两个场景的设备选择逻辑——仿真时张量放cpu硬件时放npu从而让同一段剖析代码可在两种后端下切换运行。五、底层原理与状态流转set_platform的开关动作最终都落在asc.lib.runtime的全局状态上理解这条链路有助于排查运行时问题模式切换use_model()/use_npu()仅修改全局标志state.model见 python/asc/lib/runtime/interface.py后续编译与启动流程通过is_model()查询当前模式。平台写入set_soc_version()保存平台枚举供编译期生成对应指令interface.py。设备与流set_device()触发底层SetDeviceWrapper并为该设备创建默认流current_stream()interface.py。惰性初始化真正加载运行库发生在首次调用时_lazy_init因此仿真优先的开发模式下Model 后端并不需要真实的 NPU 驱动与硬件即可完成算子功能验证这正是 pyasc 推荐先 Model 后 NPU 的开发节奏可参考 docs/quick_start.md 与 docs/pyasc_op_develop_guide.md。六、常见问题与注意事项NPU 后端平台必须一致soc_version与真实硬件不符会直接抛ValueError不传该参数可自动适配当前硬件。Model 后端需要仿真库若checkTrue时报RuntimeError请按错误提示导出LD_LIBRARY_PATH或临时以checkFalse跳过校验仅用于快速原型验证。多设备选择device_id不传默认使用 0 号设备切换设备时旧设备的流会被自动释放见 interface.py。枚举与字符串等价Backend/Platform的所有参数都可用等值字符串传入便于从命令行或配置文件驱动。七、参考资源接口文档docs/python-api/lib/config.md源码实现python/asc/runtime/config.py运行时底层封装python/asc/lib/runtime/interface.py单元测试python/test/unit/runtime/test_config.py完整示例examples/01_add/add.py环境准备与算子开发指引docs/quick_start.md、docs/pyasc_op_develop_guide.md【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考