
首先安装一个科学上网工具墙会导致各种问题和速度慢白白花掉你无数精力几十块一个月但是可以帮你在以后的开发中节省数天时间不要太划算。但是安装科学上网的工具用百度是搜索不到的需要用google搜索死循环所以只能先找能科学上网的同学了。还有些小渠道贴吧啥的可能有。显卡的框架-GPU驱动cuda包依赖等的关系整体来讲可以把GPU的这一套理解成一个新的从硬件到软件的编程体系对于CPU我们有cpu硬件驱动编程语言编译器GPU同样的对应了这一套东西。驱动用于控制GPU硬件的东西cudacuda相当于编程语言类比就是CPU上面的C语言就是nivida提供的能够进行GPU编程的东西按照官方的说法是CUDA是一个并行计算平台和编程模型能够使得使用GPU进行通用计算变得简单和优雅。用于更加高效的控制显卡比如并行计算。cuddnn等: 这个相当于编程语言提供的一个软件包其实就是一个专门为深度学习计算设计的软件库里面提供了很多专门的计算函数如卷积等。有很多其他的软件库和中间件包括实现c STL的thrust、实现gpu版本blas的cublasCUDA Toolkit可以理解为IDE提供了编译器调试器分析器等。注 CUDA ToolKit driver 注意这个编译器还有一个驱动和GPU的驱动区分nvccnvidia-smi 就是IDE提供的命令接口pytorch的cuda包pytorch也带有了一个cuda包相当于和原生cuda的接口框架pytorchTensorFlow等就是深度学习的框架了它们可以使用cuda进而使用GPU1、anaconda和pip的安装使用这个anaconda和pip的安装使用也是有很多坑的要注意下https://blog.csdn.net/hn_lgc/article/details/120163720简单的使用如下安装anacondaanaconda里面自带python不用单独安装了下载anaconda的安装包一般下载很慢基本不能用需要使用国内的镜像网站才行目前比较好的是清华的镜像https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/从里面选择合适的anaconda版本下载安装主要anaconda使用的python版本这个版本要和其它依赖使用的一致可以选择配置一下anaconda的环境变量如G:\Anaconda3;G:\Anaconda3\Scripts;G:\Anaconda3\Library\bin2、安装cuda相关2.1 检测cuda驱动版本搜索找到或者计算机-右键-属性-设备管理器-显示适配器将nvdia的驱动更新到最新我是这样弄的这样才能对应到开发工具的10.1版本不知道其他情况下版本不对应了这样做是否可以重启计算机直接win10 搜索nvidia选择NVIDIA Controller或者控制面板-搜索NVIDIA-双击进入NVIDIA控制面板点击帮助-系统信息-组件然后看 NVCUDA.DLL 或者 NVCUDA64.DLL 这一行查看驱动版本2.2 安装cuda toolkit下载问题先安装CUDA Toolkithttps://developer.nvidia.com/cuda-toolkit-archive2025年6月11日 最新 他们似乎屏蔽了中国大陆的下载香港都不行进去之后只有目录没有下载链接。狗日的黄仁勋吃多了这也要屏蔽浪费1小时找半天。版本问题nvidia-smi 有个cuda版本应该是当前电脑驱动支持的最高支持的版本应该是那个意思必须要选择驱动对应的版本根据驱动版本选择下载版本**注意版本号是分了几个数字段貌似必须要对应的第二个数字段才能用比如10.1.1x 和10.1.2x可以配合使用但是10.0.x和10.1.x就不行了。**自己安装的时候就在这里卡住了没有注意到版本之间匹配度要求这么高。很多情况的cuda不能用torch.cuda.is_available()返回false原因应该就是这个版本没对上选择好版本之后点击进去依次选择对应的系统信息然后下载即可安装过程问题文件很大下载下来之后按照按照提示安装。坑 如果用它推荐的精简版要求先安装visual studio 但是没装他不会提示直接给你来个你安装失败坑不需要visual studio 的选择自定义然后展开安装项目取消visual studio相关的那个选项应该就可以了没试过有驱动更新什么的最好重启一下然后一些才能生效设置环境变量环境变量应该要多设置几个不然可能出问题因为其它库的依赖最后查看是否安装成功nvcc --versionpytorch安装 主要依据应是 GPU 驱动程序支持的 CUDA 版本即 nvidia-smi 显示的版本而不是 nvcc --version 显示的 CUDA Toolkit 版本多个版本的cuda可以都留着不用删掉改环境变量2.3 安装cudnn神经网络加速用这个应该比较简单进入网站 https://developer.nvidia.com/rdp/cudnn-download 注册用户-下载这里明明是version那些人脑子有坑是怎么的整了个莫名其妙的tarball查询知道是压缩包的意思下面11 12 是cuda版本不知道的还以为windows版本呢解压之后有3个目录将它们一起复制放到cuda的安装目录下面即可不是bin比如我这次的安装目录C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1安装这个cuda的工具真费了不少功夫把下面一步的pytorch安装完之后最后测试cuda终于可用了torch.cuda.is_available()3、安装pytorchnvcc --version 查看cuda版本如果torch官网没有对应的版本选一个低的指本地低于torch然后进入pytorch官网百度搜索即可。https://pytorch.org/get-started/locally/根据支持的cuda版本Python版本选择Pytorch环境组合第三行表示使用哪种安装工具。关于cuda版本不太清楚现在测试是是驱动版本高于选择版本就行了以前似乎要版本匹配目前pytorch上面只有两个cuda的驱动版本可以选根据驱动版本选择下载版本**注意版本号是分了几个数字段貌似必须要对应的第二个数字段才能用比如10.1.xx 和10.1.xx对应才可以配合使用但是10.0.x和10.1.x就不行了。**自己安装的时候就在这里卡住了没有注意到版本之间匹配度要求这么高。很多情况的cuda不能用torch.cuda.is_available()返回false原因应该就是这个版本没对上python版本根据anaconda的来即可最后得到下面那行命令3.1 有梯子安装直接选择pip然后复制到命令行安装就行了。3.2 没梯子安装下面演示的用conda用pip更好win10里面程序选择到anaconda目录下面右键anaconda prompt,管理员身份运行不然可能报错输入刚才复制的命令然后得到要安装的和更新的包的目录、下面会选择yes还是no输入n没梯子之类的话不要在线安装很慢装不了一种方式是使用镜像安装目前清华源镜像比较好;下面的地址可能会变需要到官方复制 https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/参考https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/设置清华源全局搜索或者打开用户目录下的.condarc 文件设置如下内容进去channels:defaultsshow_channel_urls: truedefault_channels:https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/mainhttps://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/rhttps://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2custom_channels:conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudmsys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudbioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudmenpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudpytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudpytorch-lts: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudsimpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud然后 运行 conda clean -i 清除索引缓存保证用的是镜像站提供的索引。在该命令行界面输入如下命令最后一行表示显示安装包下载来源的路径。但是自己设置了貌似没用还有一种方式官网说明 https://mirrors.tuna.tsinghua.edu.cn/help/pypi/pip install -i https://pypi.tuna.tsinghua.edu.cn/simple 包名或者pip install --user -i https://pypi.tuna.tsinghua.edu.cn/simple 包名自己试了一个包能行还是不行的话手动下载离线安装根据要安装的列表分别到清华源上面找相应的包注意一定要准确对应不然可能各种错清华源里面的搜索貌似没用所以要自己进入目录找然后上面的黑框里面实际上提供了包所在的路径在清华源中anaconda对应目录下面按照该路径找对应的包即可比较大的包离线安装如果比较小的只有几百k可以在线安装包下载完成之后使用conda install --offline 包路径即可安装该包所有包安装完成即可最后测试是否安装成功4、下面安装pycharm, 导入设置虚拟环境conda环境安装Pycharm通过教育版或者某宝买破解或者网上找破解方法网上现在很难有能成功的导入anaconda的环境2025年7月1日 直接导入环境目录下的python.exe即可file —setting ----project xxx—python interpreter现在2023年2月18日的界面长这样和以前不太一样了然后选择conda的虚拟环境其它也是环境管理工具没有什么明显的优劣吧这里选择conda的。里面conda.exe注意选择Script下面的conda.exe这里可以选择已经纯在的环境或者重新创建一个。重新创建最好手动创建吧在这里面创建都不知道位置在哪里。应该是选择第三个好一些然后点击省略号进入anaconda的安装目录里面有个python.exe 文件选择它就可以了。第一个是重新建立一个环境。点击第三个选项卡将路径选为anaconda安装路径下的python.exe确定后成功配置anaconda环境。遇到的一些问题可以import torch但是不能import torchvision或者部分包可以导入部分包不能导入一开始很懵逼为什么后面找了一会儿使用最开始的命令conda install pytorch torchvision cudatoolkit10.1 -c pytorch发现是torchvision的包安装错了安装成linux的版本了所以导入不了OpenCV安装自己安装时要在anaconda环境里面安装否则不行pip install opencv-python安装TensorRT进入官网要先登录,地址是这个别用下面文章中的https://developer.nvidia.com/tensorrt/download选择版本EA 版本代表抢先体验GA 是稳定版。建议使用GA版本查看版本关系网上很多文章写得不清不楚的官网也是垃圾找半天点击具体的版本进入之后点击 installation guide.再点击左边的prerequisite 自动翻译挺有用的版本号在最右边的最下面只能选最新版可以看到支持的cuda版本还有cudnnAI解释学了AI几年已经可以用AI解释怎么安装AI了还是英伟达的芯片解释自己的软件怎么装真是闭环呀。选择芯片架构和对应软件版本如果要看老版本支持要点击在线文档存档里面 install guide 下滑找到版本匹配相关tensorrt 10.x新版本安装设置各种环境变量装了12.6的cuda只能装新版的10.8了教程不多还是出现了很多问题把环境变量改设置的都设置上更多见前面安装cuda toolkit那里这两个也设置下不然可能编译找不到什么的按照官方教程其它的按照官方教程将下载来的trt包 xxx下面的 dll移动到lib安装trt的python包官方教程给了好几个安装前面三个后面还有三个实际上只需要一个在线安装是最新版不能装版本不一定匹配不匹配运行不了只能安装下载大压缩包里面那个升级重装只升级pytorch等nvcc --version 查看cuda版本如果底层依赖cuda等没变只升级pytorch复制官网命令加上-U就行了注意安装 PyTorch 时 主要依据应是 GPU 驱动程序支持的 CUDA 版本即 nvidia-smi 显示的版本而不是 nvcc --version 显示的 CUDA Toolkit 版本。全部升级否则先和上面过程一样首先重装cuda不用卸载更改环境变量路径就行查看CUDA驱动版本如果升级了就升级后续一系列的包你的CUDA版本不是你装过什么而是你的路径中包含什么ncnn编译安装 win10vs2022参考https://blog.csdn.net/qq_40231159/article/details/111808792https://blog.csdn.net/qq_39056987/article/details/122937169问题vs 2019 启动进入项目界面就闪退使用installer 修复没用彻底卸载 使用官网彻底卸载教程 搜索vs相关文件删除重装2022 可以了一遍过啊比unbuntu上容易多了搜索linux更方便的3、生成ncnn模型将retinaface-sim.onnx模型复制粘贴到ncnn-root-dir\build\tools\onnx文件夹下面使用如下指令即可转换成ncnn模型.\onnx2ncnn retinaface-sim.onnx retinaface.param retinaface.binubuntu上面的安装一、安装nivida驱动一开始尝试了Debian太难搞了各种配置网上教程又很少搞了一天最后还是安装不了驱动只能放弃了ubuntu最新版20.x以上直接软件和更新附加驱动选择推荐的第一个一般就能安装成功了简直好太多了二、安装cuda相关包去nvidia官网下载cuda相关包注意NVIDIA的网站有问题国内能访问但是访问很慢代理也不能代理需要设置为全局代理才行2.1 下载安装cudatoolkithttps://developer.nvidia.com/cuda-downloads按照自己的系统选择即可要注意的是这里是系统层面的cudatoolkit安装据说conda里面也会安装一个conda里面的是子集涉及到pytorch相关的同样的去官网下载好安装包注意这个安装命令有问题需要sh XX.linux.run --librarypath/usr/local/cuda 才行上面给出的命名没有反应2.2 安装sh cuda_10.0.130_410.48_linux.run --toolkitpathxxx如果安装多个给出路径注意安装不要多次点击回车那样会点击到后面的选项导致无法安装安装的时候会给出选项如果已经安装了显卡驱动就会出现这个选项选择continue 然后后面的选项显卡驱动就不选择了2.3 设置环境变量并更新sudo gedit ~/.bashrc后面加上export PATH/usr/local/cuda-11.3/binKaTeX parse error: Expected }, got EOF at end of input: {PATH::{PATH}}export LD_LIBRARY_PATH/usr/local/cuda-11.3/lib64KaTeX parse error: Expected }, got EOF at end of input: …LIBRARY_PATH::{LD_LIBRARY_PATH}}保存 然后source ~/.bashrc如果想要多个cuda版本生效可以通过修改路径达到目的。2.4 下载是cudannhttps://developer.nvidia.com/rdp/cudnn-download注册账号下载垃圾网站速度其慢登录有问题跳转到它的首页可以使用快捷登录cudnn的登录页面不能修改密码intel 64位 选择如下2.5 解压然后复制到cuda安装对应目录中最后测试是否成功三、安装Pytorch框架和其它依赖到pytorch官网选择查看要安装的版本然后可以设置源进行在线安装或者直接下载安装包进行安装安装 PyTorch 时 主要依据应是 GPU 驱动程序支持的 CUDA 版本即 nvidia-smi 显示的版本而不是 nvcc --version 显示的 CUDA Toolkit 版本。安装onnx也有不少的坑目前的有效方法 2025年7月11日先尝试pip install onnxruntime-gpu比最新低两个版本看版本https://pypi.org/project/onnxruntime-gpu/不行看后面的方法2025年7月18日pip install onnxruntime-gpu1.20.0版本官网这个博主讲得很详细https://www.cnblogs.com/io-T-T/p/18304208官方安装说明地址https://onnxruntime.ai/docs/install/#python-installs查看gpu驱动等版本和onnx对应关系包含cudnn和trt的对应关系https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#requirementshttps://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#cuda-12x有cpu和gpu版本gpu需要加上gpu2025年6月11日 踩坑 网上没提到的按照官方文档 各种配置都是对上的但是安装最新的高版本就不行可能是这个垃圾官方没更新文档 换个低版本的可以了那么多开源库 这玩意是最垃圾的一类了如果你安装了GPU版本就要手动卸载cpu版本不然也会报错xxx找不到啥的验证import onnxruntimeprint(onnxruntime.version)print(onnxruntime.get_device() ) # 如果得到的输出结果是GPU所以按理说是找到了GPU的ort_session onnxruntime.InferenceSession(“your_onnx_module_path.onnx”,providers[‘CUDAExecutionProvider’])print(ort_session.get_providers())一些其他库安装处理xformer已过时不用安装2025年10月flash-atten安装官方没有Windowshttps://github.com/Dao-AILab/flash-attention/releases第三方提供部分Windows的whlhttps://github.com/kingbri1/flash-attention自己编译教程https://github.com/Dao-AILab/flash-attention/issues/1469sageattention官方没有安装包网上提供了部分库https://github.com/thu-ml/SageAttention/issues/262去github 或者 huggingface找需要https://github.com/sdbds/SageAttention-for-windows/releases/tag/SA3-1.0.0实测没啥效果等官方