PyPTO【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto最新动态2026/04/100.2.0版本发布变更前端表达方法提升易用性、增强功能及性能完善各模块能力优化开发体验与运行效率2026/03/30v0.1.2版本发布支持集群训练场景、优化框架编译性能与基础性能、修复已知整网集成问题2026/03/09v0.1.1版本发布支持新前端、进一步增加API丰富程度、修复一些已知问题2026/01/06v0.1.0版本发布PyPTO项目初始版本2025/12PyPTO项目首次上线。概述PyPTO发音pai p-t-o是一款面向AI加速器的高性能编程框架旨在简化复杂融合算子乃至整个模型网络的开发流程同时保持高性能计算能力。该框架采用创新的PTOParallel Tensor/Tile Operation编程范式以基于Tile的编程模型为核心设计理念通过多层次的中间表示IR系统将用户通过API构建的AI模型应用从高层次的Tensor图逐步编译成硬件指令最终生成可在目标平台上高效执行的可执行代码。本仓已集成代码仓库智能体点击徽章进入其专属页面开启在线智能代码学习与知识问答体验核心特性基于 Tile 的编程模型所有计算都基于Tile硬件感知的数据块进行充分利用硬件并行计算能力和内存层次结构多层级计算图转换通过编译Pass将Tensor Graph转换为Tile Graph、Block Graph和Execution Graph每一步包括一系列Pass优化流程自动化代码生成编译结果通过CodeGen生成底层PTO虚拟指令代码再通过编译器将虚拟指令代码编译成目标平台的可执行代码MPMD 执行调度可执行代码被加载到设备侧通过MPMDMultiple Program Multiple Data的方式调度到设备上的处理器核完整的工具链支持全流程的编译中间产物和运行时性能数据可通过IDE集成的工具链可视化识别性能瓶颈开发者也可以通过工具链控制编译和调度行为Python 友好 API提供直观的Tensor级别抽象贴近算法开发者的思维模式支持动态Shape和符号化编程分层抽象设计对不同开发者暴露不同抽象层次算法开发者使用Tensor层次性能专家使用Tile层次系统开发者使用Block层次目标用户算法开发者主要使用Tensor层次编程快速实现和验证算法专注于算法逻辑性能优化专家可使用Tile或Block层次进行深度性能调优以实现极致性能系统开发者可在Tensor/Tile/Block和PTO虚拟指令集层次上进行三方框架对接或集成以及工具链开发⚡️最佳实践样例PyPTO提供了丰富的示例代码涵盖从基础操作到复杂模型实现的多个层级。一些最佳实践样例参考:大模型实现样例DeepSeekV3.2 SFA -稀疏Flash Attention量化实现DeepSeekV3.2 MLA-PROLOG -MLA Indexer Prolog量化实现GLM V4.5 Attention -GLM注意力机制实现GLM V4.5 ExpertsSelector -GLM专家选择器实现学习路径在 examples目录下我们规划了多个层级的样例:beginner/基础操作示例帮助初学者快速上手PyPTO编程intermediate/中级示例包括自定义操作、神经网络模块等advanced/高级示例包括复杂模式和多函数组合在 models/目录下我们提供了部分大模型实现样例供快速移植和部署这些示例可以帮助开发者学习如何编写PyPTO算子从简单的Tensor操作到复杂的模型网络实现。⚡️快速入门若您希望快速体验PyPTO的使用和开发过程请访问如下文档获取简易教程。环境部署介绍项目基础环境的搭建包括软件包和第三方依赖的获取和安装。编译安装环境部署后介绍如何快速获取或编译PyPTO软件包并安装。样例运行安装PyPTO软件包后介绍如何快速实现样例运行。文档资源若您希望深入体验项目功能并修改源码请访问如下文档获取详细教程。文档中心 当前发布版本的详细文档包括编程指南、API参考贡献指南等示例代码丰富的示例代码从基础到高级应用目录结构关键目录如下:├── docs/ # 文档资源 │ ├── api/ # API参考文档 │ ├── contribute/ # 贡献指南文档 │ └── tutorials/ # PyPTO编程指南 │ ├── examples/ # 示例代码 │ ├── 01_beginner/ # 初级示例 │ ├── 02_intermediate/ # 中级示例 │ └── 03_advanced/ # 高级示例 │ ├── models/ # 模型实现示例 │ ├── python/ # Python源码 │ ├── pypto/ # Python包源码根目录 │ ├── src/ # pybind11源码根目录 │ └── tests/ # Python测试用例源码UTest, STest │ ├── framework/ # C源码根目录 │ ├── include/ # C对外头文件 │ ├── src/ # C源码 │ │ ├── codegen/ # 代码生成模块 │ │ ├── passes/ # 编译Pass模块 │ │ └── ... │ └── tests/ # C测试用例源码 │ ├── tools/ # 工具脚本 │ ├── cmake/ # 构建所需的CMake公共配置及脚本 ├── build_ci.py # CI执行构建、执行UTest、执行STest辅助脚本 ├── CMakeLists.txt # 顶层CMakeLists.txt定义所有对外公开编译开关 ├── pyproject.toml # Python编译工具配置文件 ├── LICENSE # 许可证文件 └── setup.py # Python编译工具脚本文件(setuptools)相关信息贡献指南安全声明许可证联系我们问题反馈通过GitCode【Issues】提交问题功能建议通过GitCode【讨论】参与交流技术支持参考文档或提交Issue注意本文档会持续更新请关注最新版本。【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN PyPTO并行Tensor编程框架
发布时间：2026/7/10 17:22:26
PyPTO【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto最新动态2026/04/100.2.0版本发布变更前端表达方法提升易用性、增强功能及性能完善各模块能力优化开发体验与运行效率2026/03/30v0.1.2版本发布支持集群训练场景、优化框架编译性能与基础性能、修复已知整网集成问题2026/03/09v0.1.1版本发布支持新前端、进一步增加API丰富程度、修复一些已知问题2026/01/06v0.1.0版本发布PyPTO项目初始版本2025/12PyPTO项目首次上线。概述PyPTO发音pai p-t-o是一款面向AI加速器的高性能编程框架旨在简化复杂融合算子乃至整个模型网络的开发流程同时保持高性能计算能力。该框架采用创新的PTOParallel Tensor/Tile Operation编程范式以基于Tile的编程模型为核心设计理念通过多层次的中间表示IR系统将用户通过API构建的AI模型应用从高层次的Tensor图逐步编译成硬件指令最终生成可在目标平台上高效执行的可执行代码。本仓已集成代码仓库智能体点击徽章进入其专属页面开启在线智能代码学习与知识问答体验核心特性基于 Tile 的编程模型所有计算都基于Tile硬件感知的数据块进行充分利用硬件并行计算能力和内存层次结构多层级计算图转换通过编译Pass将Tensor Graph转换为Tile Graph、Block Graph和Execution Graph每一步包括一系列Pass优化流程自动化代码生成编译结果通过CodeGen生成底层PTO虚拟指令代码再通过编译器将虚拟指令代码编译成目标平台的可执行代码MPMD 执行调度可执行代码被加载到设备侧通过MPMDMultiple Program Multiple Data的方式调度到设备上的处理器核完整的工具链支持全流程的编译中间产物和运行时性能数据可通过IDE集成的工具链可视化识别性能瓶颈开发者也可以通过工具链控制编译和调度行为Python 友好 API提供直观的Tensor级别抽象贴近算法开发者的思维模式支持动态Shape和符号化编程分层抽象设计对不同开发者暴露不同抽象层次算法开发者使用Tensor层次性能专家使用Tile层次系统开发者使用Block层次目标用户算法开发者主要使用Tensor层次编程快速实现和验证算法专注于算法逻辑性能优化专家可使用Tile或Block层次进行深度性能调优以实现极致性能系统开发者可在Tensor/Tile/Block和PTO虚拟指令集层次上进行三方框架对接或集成以及工具链开发⚡️最佳实践样例PyPTO提供了丰富的示例代码涵盖从基础操作到复杂模型实现的多个层级。一些最佳实践样例参考:大模型实现样例DeepSeekV3.2 SFA -稀疏Flash Attention量化实现DeepSeekV3.2 MLA-PROLOG -MLA Indexer Prolog量化实现GLM V4.5 Attention -GLM注意力机制实现GLM V4.5 ExpertsSelector -GLM专家选择器实现学习路径在 examples目录下我们规划了多个层级的样例:beginner/基础操作示例帮助初学者快速上手PyPTO编程intermediate/中级示例包括自定义操作、神经网络模块等advanced/高级示例包括复杂模式和多函数组合在 models/目录下我们提供了部分大模型实现样例供快速移植和部署这些示例可以帮助开发者学习如何编写PyPTO算子从简单的Tensor操作到复杂的模型网络实现。⚡️快速入门若您希望快速体验PyPTO的使用和开发过程请访问如下文档获取简易教程。环境部署介绍项目基础环境的搭建包括软件包和第三方依赖的获取和安装。编译安装环境部署后介绍如何快速获取或编译PyPTO软件包并安装。样例运行安装PyPTO软件包后介绍如何快速实现样例运行。文档资源若您希望深入体验项目功能并修改源码请访问如下文档获取详细教程。文档中心 当前发布版本的详细文档包括编程指南、API参考贡献指南等示例代码丰富的示例代码从基础到高级应用目录结构关键目录如下:├── docs/ # 文档资源 │ ├── api/ # API参考文档 │ ├── contribute/ # 贡献指南文档 │ └── tutorials/ # PyPTO编程指南 │ ├── examples/ # 示例代码 │ ├── 01_beginner/ # 初级示例 │ ├── 02_intermediate/ # 中级示例 │ └── 03_advanced/ # 高级示例 │ ├── models/ # 模型实现示例 │ ├── python/ # Python源码 │ ├── pypto/ # Python包源码根目录 │ ├── src/ # pybind11源码根目录 │ └── tests/ # Python测试用例源码UTest, STest │ ├── framework/ # C源码根目录 │ ├── include/ # C对外头文件 │ ├── src/ # C源码 │ │ ├── codegen/ # 代码生成模块 │ │ ├── passes/ # 编译Pass模块 │ │ └── ... │ └── tests/ # C测试用例源码 │ ├── tools/ # 工具脚本 │ ├── cmake/ # 构建所需的CMake公共配置及脚本 ├── build_ci.py # CI执行构建、执行UTest、执行STest辅助脚本 ├── CMakeLists.txt # 顶层CMakeLists.txt定义所有对外公开编译开关 ├── pyproject.toml # Python编译工具配置文件 ├── LICENSE # 许可证文件 └── setup.py # Python编译工具脚本文件(setuptools)相关信息贡献指南安全声明许可证联系我们问题反馈通过GitCode【Issues】提交问题功能建议通过GitCode【讨论】参与交流技术支持参考文档或提交Issue注意本文档会持续更新请关注最新版本。【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
