
SiluGrad【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品×Atlas 推理系列产品×Atlas 训练系列产品√功能说明接口功能aclnnSilu的反向传播根据silu反向传播梯度与正向输出计算silu的梯度输入。计算公式$$ \sigma(x) {\frac{1} {1{e}^{-x}}} $$$$ s(x) x\sigma(x) $$$$ s^\prime(x) \sigma(x)(1x-x\sigma(x)) $$$$ gradInput gradOutput * s^\prime(x) $$其中$\sigma(x)$为sigmoid函数$s(x)$为silu函数$s^\prime(x)$为silu函数的导数。参数说明参数名输入/输出/属性描述数据类型数据格式gradOutput输入表示输入梯度。公式中的gradOutput。BFLOAT16、FLOAT16、FLOATNDself输入表示输入数据。公式中的x且对应正向的输入参数。BFLOAT16、FLOAT16、FLOATNDgradInput输出表示对输入数据self求的梯度。公式中的gradInput。BFLOAT16、FLOAT16、FLOATNDAtlas 训练系列产品 数据类型支持FLOAT16、FLOAT。约束说明无调用说明调用方式样例代码说明aclnn接口test_aclnn_silu_grad.cpp通过aclnnSiluBackward接口方式调用SiluGrad算子。【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考