CANN/pypto共享内存视图

pypto.distributed.shmem_view【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto产品支持情况产品是否支持Atlas A3 推理系列产品√Atlas A2 推理系列产品√功能说明从输入的 shared memory tensor 中提取一个部分视图以供后续计算。函数原型shmem_view( src: ShmemTensor, shape: list[int] None, offsets: list[Union[int, SymbolicScalar]] None, *, valid_shape: Optional[list[Union[int, SymbolicScalar]]] None, ) - ShmemTensor参数说明参数名输入/输出说明src输入要提取局部视图的 shared memory tensor。shape输入需要获取的视图大小。offsets输入需要获取的视图偏移量。offsets 的维度应与 src 的维度一致且每个维度的偏移量值应小于 src 对应维度的大小。valid_shape输入用于指定需要获取的有效数据大小。需要保证 valid_shape 小于参数 shape。返回值说明返回一个 从 src 中提取的部分视图形状为 shape 参数如果指定了 valid_shape则实际形状为 valid_shape。约束说明无调用示例示例 1从 shared memory tensor 的提取一个部分视图该部分视图的 shape 为 [64, 64]offset 为 [0, 1]实际获取的数据有效大小为 [64, 32]。shmem_tensor pypto.distributed.create_shmem_tensor(group_nametp, n_pes8, dtypepypto.DT_FP16, shape[64, 128]) y pypto.distributed.shmem_view(srcx, shape[64, 64], offsets[0, 1], valid_shape[64, 32])【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考