Scatter【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品 / Atlas A3 推理系列产品xAtlas A2 训练系列产品 / Atlas A2 推理系列产品xAtlas 200I/500 A2 推理产品xAtlas 推理系列产品 AI CorexAtlas 推理系列产品 Vector CorexAtlas 训练系列产品x功能说明给定源操作数的寄存器张量和索引张量以及结果操作数在UB中的基地址Scatter指令将源操作数按元素根据索引位置分散到UB中。分散过程如下图所示定义原型template typename T DefaultType, typename U DefaultType, typename S, typename V __simd_callee__ inline void Scatter(__ubuf__ T* baseAddr, S srcReg, V index, MaskReg mask)参数说明表 1模板参数说明参数名描述T目的操作数和源操作数的数据类型。U索引的数据类型。S源操作数的RegTensor类型例如RegTensorhalf由编译器自动推导用户不需要填写。V索引值的RegTensor类型例如RegTensoruint16_t由编译器自动推导用户不需要填写。表 2函数参数说明参数名输入/输出描述baseAddr输出目的操作数在UB中的基地址。类型为UB指针。Ascend 950PR/Ascend 950DT支持的数据类型详见表3。srcReg输入源操作数。类型为RegTensor。Ascend 950PR/Ascend 950DT支持的数据类型详见表3。index输入srcReg中的每个元素在UB中相对于baseAddr的索引位置。索引值要大于等于0。类型为RegTensor。IndexT数据类型需要与目的操作数和源操作数的数据类型T配套使用。类型配套对应表详见约束说明。Ascend 950PR/Ascend 950DT支持的数据类型详见表3。mask输入src element操作有效指示详细说明请参考MaskReg。约束说明目的操作数和源操作数的数据类型T和U数据类型需要配套使用。类型配套对应表如下表 3Scatter操作数数据类型对应表T数据类型U数据类型int8_tuint16_tuint8_tint16_tuint16_thalfbfloat16_tint32_tuint32_tuint32_tfloatuint64_tuint32_tint64_tuint64_tuint64_tint64_t当T为b64数据类型时TUV数据类型只支持以下组合T数据类型IndexT数据类型RegT数据类型RegIndexT数据类型备注b64uint32_tRegTensoruint64_t, RegTraitNumOneRegTensoruint32_tindex前32个数有效RegTensorint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumTwoRegTensoruint32_t-RegTensorint64_t, RegTraitNumTwob64uint64_tRegTensoruint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumOne-RegTensorint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumTwoindex前32个数有效RegTensorint64_t, RegTraitNumOneRegTensoruint64_t,RegTraitNumTwoRegTensoruint64_t, RegTraitNumTwo-RegTensorint64_t,RegTraitNumTwo当T为int8或者uint8数据类型时源操作数Tensor中仅偶数位Byte有效。最终存入UB结果地址的数据仅为源操作数Tensor偶数位Byte即srcReg中的第024... 252254位置数据会被分散存储到目的操作数中。index中不能有相同的值。若有2个或者2个以上的index中的数据相同则只有其中一个值对应的数据是有效的具体哪一个数据可能是未知的。索引位置需要按照dtype_size单个元素的Byte数对齐否则可能会造成数据分散结果错乱。调用示例templatetypename T, typename U __simd_vf__ inline void ScatterVF(__ubuf__ T* dstAddr, __ubuf__ T* src0Addr, __ubuf__ U* src1Addr, uint32_t count, uint32_t oneRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensorT srcReg0; AscendC::Reg::RegTensorU srcReg1; AscendC::Reg::MaskReg mask; for (uint16_t i 0; i repeatTimes; i) { mask AscendC::Reg::UpdateMaskT(count); AscendC::Reg::LoadAlign(srcReg0, src0Addr i * oneRepeatSize); AscendC::Reg::LoadAlign(srcReg1, src1Addr i * oneRepeatSize); AscendC::Reg::Scatter(dstAddr, srcReg0, srcReg1, mask); } }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN/asc-devkit Scatter指令API文档
发布时间：2026/5/20 11:55:20
Scatter【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品 / Atlas A3 推理系列产品xAtlas A2 训练系列产品 / Atlas A2 推理系列产品xAtlas 200I/500 A2 推理产品xAtlas 推理系列产品 AI CorexAtlas 推理系列产品 Vector CorexAtlas 训练系列产品x功能说明给定源操作数的寄存器张量和索引张量以及结果操作数在UB中的基地址Scatter指令将源操作数按元素根据索引位置分散到UB中。分散过程如下图所示定义原型template typename T DefaultType, typename U DefaultType, typename S, typename V __simd_callee__ inline void Scatter(__ubuf__ T* baseAddr, S srcReg, V index, MaskReg mask)参数说明表 1模板参数说明参数名描述T目的操作数和源操作数的数据类型。U索引的数据类型。S源操作数的RegTensor类型例如RegTensorhalf由编译器自动推导用户不需要填写。V索引值的RegTensor类型例如RegTensoruint16_t由编译器自动推导用户不需要填写。表 2函数参数说明参数名输入/输出描述baseAddr输出目的操作数在UB中的基地址。类型为UB指针。Ascend 950PR/Ascend 950DT支持的数据类型详见表3。srcReg输入源操作数。类型为RegTensor。Ascend 950PR/Ascend 950DT支持的数据类型详见表3。index输入srcReg中的每个元素在UB中相对于baseAddr的索引位置。索引值要大于等于0。类型为RegTensor。IndexT数据类型需要与目的操作数和源操作数的数据类型T配套使用。类型配套对应表详见约束说明。Ascend 950PR/Ascend 950DT支持的数据类型详见表3。mask输入src element操作有效指示详细说明请参考MaskReg。约束说明目的操作数和源操作数的数据类型T和U数据类型需要配套使用。类型配套对应表如下表 3Scatter操作数数据类型对应表T数据类型U数据类型int8_tuint16_tuint8_tint16_tuint16_thalfbfloat16_tint32_tuint32_tuint32_tfloatuint64_tuint32_tint64_tuint64_tuint64_tint64_t当T为b64数据类型时TUV数据类型只支持以下组合T数据类型IndexT数据类型RegT数据类型RegIndexT数据类型备注b64uint32_tRegTensoruint64_t, RegTraitNumOneRegTensoruint32_tindex前32个数有效RegTensorint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumTwoRegTensoruint32_t-RegTensorint64_t, RegTraitNumTwob64uint64_tRegTensoruint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumOne-RegTensorint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumOneRegTensoruint64_t, RegTraitNumTwoindex前32个数有效RegTensorint64_t, RegTraitNumOneRegTensoruint64_t,RegTraitNumTwoRegTensoruint64_t, RegTraitNumTwo-RegTensorint64_t,RegTraitNumTwo当T为int8或者uint8数据类型时源操作数Tensor中仅偶数位Byte有效。最终存入UB结果地址的数据仅为源操作数Tensor偶数位Byte即srcReg中的第024... 252254位置数据会被分散存储到目的操作数中。index中不能有相同的值。若有2个或者2个以上的index中的数据相同则只有其中一个值对应的数据是有效的具体哪一个数据可能是未知的。索引位置需要按照dtype_size单个元素的Byte数对齐否则可能会造成数据分散结果错乱。调用示例templatetypename T, typename U __simd_vf__ inline void ScatterVF(__ubuf__ T* dstAddr, __ubuf__ T* src0Addr, __ubuf__ U* src1Addr, uint32_t count, uint32_t oneRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensorT srcReg0; AscendC::Reg::RegTensorU srcReg1; AscendC::Reg::MaskReg mask; for (uint16_t i 0; i repeatTimes; i) { mask AscendC::Reg::UpdateMaskT(count); AscendC::Reg::LoadAlign(srcReg0, src0Addr i * oneRepeatSize); AscendC::Reg::LoadAlign(srcReg1, src1Addr i * oneRepeatSize); AscendC::Reg::Scatter(dstAddr, srcReg0, srcReg1, mask); } }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
