一、查看驅動信息
# 進入CMD輸入命令
nvidia-smi
?也可以右下角圖標打開NVIDIA 設置進行查看
二、下載安裝CUDA
1、下載
下載地址 https://developer.nvidia.com/
2、安裝
推薦自定義安裝。建議只勾選Cuda,只安裝這一個就好,以免報錯安裝失敗。
3、驗證
驗證CUDA是否安裝成功,打開cmd,輸入?nvcc?–V,如下返回則說明安裝成功。
三、下載安裝CUDANN
1、下載
下載地址 https://developer.nvidia.com/rdp/cudnn-download
【注】Cuda和CudaNN的關系
cuda和cudann是nvidia用于GPU加速計算的兩個關鍵技術。
它們的關系如下:
- cuda是nvidia推出的gpu編程框架和平臺,用于在gpu上進行通用計算。它提供了類似c語言的接口,使開發者可以使用cuda?c/c++來編寫gpu程序,實現GPU加速。
- cudnn是nvidia基于cuda開發的深度神經網絡加速庫。它針對常見的神經網絡運算進行了優化,可以充分利用gpu的并行計算能力,大幅加速神經網絡的訓練和推理過程。cudnn只支持nvidia?gpu,需要安裝cuda環境。
所以cudnn依賴于并擴展了cuda,專門用于加速深度學習領域的應用。它是nvidiacuda生態系統的重要組成部分。開發者可以建立在cuda基礎上,利用cudnn進一步優化神經網絡應用的性能。綜上,cuda提供通用gpu計算框架,cudnn在此基礎上進行深度學習優化。兩者關系是:cudnn依賴cuda并進行擴展與優化,組成nvidia?gpu加速平臺的重要部分。?
2、安裝
解壓,并把三個文件夾放在Cuda的安裝路徑下。就成功了。
3、驗證
進入安裝Cuda的根目錄,找到extras/demo_suite文件夾。
在cmd中執行,分別執行deviceQuery和bandwidthTest,出現如下兩個pass就說明成功了。
四、下載安裝pytorch
1、下載
去pytorch.org官網,選擇對應Cuda版本的pytorch版本。輸入下面的命令進行安裝。
2、安裝
輸入官網給你生成的pip命令就行
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
3、驗證
# cmd中輸入python進入交互模式
# 能導入成功說明有pytorch
import torch
# 顯示pytorch的版本
torch.__version__
# 測試pytorch是否支持Cuda
torch.cuda.is_available()
# 看看Cuda操作的第0個顯卡是什么(device就是顯卡)
torch.cuda.device(0)
# 看看一共有幾個顯卡
torch.cuda.device_count()
# 顯示第0個顯卡(device)的名字
torch.cuda.get_device_name(0)
五、安裝Cuda的坑
1、關閉電腦管家或者類似的殺毒軟件
2、選擇自定義安裝
3、這幾個不安裝
建議只安裝Cuda
Nsight開頭的不安裝
Visual Studio不安裝
Driver components不安裝(新版本小于當前版本就不安裝)
NVIDIA GeForce Experience如果有也不安裝