CANN/catlass稀疏矩阵乘法TLA示例

SparseMatmulTla Example Readme【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass代码组织├── 41_sparse_matmul_tla │ ├── CMakeLists.txt # CMake编译文件 │ ├── README.md │ ├── sparse_gen_data.py │ └── sparse_matmul_tla.cpp # 主文件使用示例获取代码之后编译相应的算子可执行文件可参考quickstart接下来先执行sparse_gen_data.py生成测试样例测试用例需要从命令行输入, 执行该命令后会在指定路径下生成input和output目录包含算子的输入数据和用于精度验证的golden数据。然后执行算子这里要注意的是执行算子的输入shape和上面第一步生成数据的shape一致并且本样例只支持A/B矩阵输入为int8_t数据类型。以下是一个完整的shell脚本示例在工程目录下执行m160 n320 k64 device0 function build() { bash scripts/build.sh 41_sparse_matmul_tla } function gen_data() { cd examples/41_sparse_matmul_tla python3 sparse_gen_data.py $m $n $k echo Data gen finished } function run_kernel { echo Case: m $m k $k n $n cd ../../output/bin/ cp -r ../../examples/41_sparse_matmul_tla/input . cp -r ../../examples/41_sparse_matmul_tla/output . ./41_sparse_matmul_tla $m $n $k $device } build gen_data run_kernel执行结果如下说明精度比对成功。Compare success.【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考