在window上使用AI工具,经常遇到需要CUDA加速支持的情况,但因为 CUDA、cudnn、显卡驱动等兼容问题,经常出现各种错误,而网络上搜到的知识很多过于陈旧,因此特地整理记录下,方便以后使用。
首先要确定你使用的是英伟达显卡(NVIDIA),否则安装无效。
一、安装CUDA
更新显卡驱动到最新版
, 然后CMD
执行nvidia-smi
,查看允许安装的最大 CUDA 版本号,不可安装大于此处显示的 CUDA,比如下图,允许安装的最大 cuda 版本号,比如此处显示 12.0,那么就不能安装 cuda12.1
- 首先打开 https://developer.nvidia.com/cuda-downloads,根据你的操作系统版本,选择对应的CUDA版本。一般选择x86_64位Windows操作系统,系统根据自己的版本选择,选择安装形式exe(local);
注意:如果当前版本大于你计算机允许的版本,比如执行了nvidia-smi后,允许的是12.0,但此处是12.3,那么不可安装,你需要点击 https://developer.nvidia.com/cuda-toolkit-archive,下载历史低版本。
- 下载到正确版本文件后,双击打开,无需调整安装目录,按步骤安装即可。
- 然后点ok,然后在下图中,选择”自定义安装”,然后下一步
- 在自定义安装选项界面中只选中 “CUDA”,将其他的选中都去掉,如下图:
- 安装完成后,默认将安装在 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8 目录下。如果安装成功但是没有这个目录,请检查是否在C:\Program Files(x86)\NVIDIA GPU Computing Toolkit\CUDA\v11.8目录下。
二、安装cuDNN
- 在CUDA安装完成后,打开网址 https://developer.nvidia.com/rdp/cudnn-download,下载cuDNN安装包。
这里需要注意,我们需要下载安装CUDA对应的cuDNN,比如上面我们安装的v11.8,我们也需要下载对应11版本。
- 下载后,解压将会得到如图3个文件夹,将这3个文件夹复制到安装的CUDA目录 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8
三、测试是否成功
cmd
执行nvcc -V
,成功会返回cuda版本号。