背景

最近在學習PaddlePaddle在各個顯卡驅動版本的安裝和使用，所以同時也學習如何在Ubuntu安裝和卸載CUDA和CUDNN，在學習過程中，順便記錄學習過程。在供大家學習的同時，也在加強自己的記憶。本文章以卸載CUDA 8.0 和 CUDNN 7.05 為例，以安裝CUDA 10.0 和 CUDNN 7.4.2 為例。

安裝顯卡驅動

禁用nouveau驅動

sudo vim /etc/modprobe.d/blacklist.conf

在文本最后添加：

blacklist nouveau
options nouveau modeset=0

然后執行：

sudo update-initramfs -u

重啟后，執行以下命令，如果沒有屏幕輸出，說明禁用nouveau成功：

lsmod | grep nouveau

下載驅動

官網下載地址：https://www.nvidia.cn/Download/index.aspx?lang=cn ，根據自己顯卡的情況下載對應版本的顯卡驅動，比如顯卡是RTX2070：

下載完成之后會得到一個安裝包，不同版本文件名可能不一樣：

NVIDIA-Linux-x86_64-410.93.run

卸載舊驅動

以下操作都需要在命令界面操作，執行以下快捷鍵進入命令界面，并登錄：

Ctrl-Alt+F1

執行以下命令禁用X-Window服務，否則無法安裝顯卡驅動：

sudo service lightdm stop

執行以下三條命令卸載原有顯卡驅動：

sudo apt-get remove --purge nvidia*
sudo chmod +x NVIDIA-Linux-x86_64-410.93.run
sudo ./NVIDIA-Linux-x86_64-410.93.run --uninstall

安裝新驅動

直接執行驅動文件即可安裝新驅動，一直默認即可：

sudo ./NVIDIA-Linux-x86_64-410.93.run

執行以下命令啟動X-Window服務

sudo service lightdm start

最后執行重啟命令，重啟系統即可：

reboot

注意： 如果系統重啟之后出現重復登錄的情況，多數情況下都是安裝了錯誤版本的顯卡驅動。需要下載對應本身機器安裝的顯卡版本。

卸載CUDA

為什么一開始我就要卸載CUDA呢，這是因為換了顯卡RTX2070，原本就安裝了CUDA 8.0 和 CUDNN 7.0.5不能夠正常使用，需要安裝CUDA 10.0 和 CUDNN 7.4.2，所以要先卸載原來的CUDA。注意以下的命令都是在root用戶下操作的。

卸載CUDA很簡單，一條命令就可以了，主要執行的是CUDA自帶的卸載腳本，讀者要根據自己的cuda版本找到卸載腳本：

sudo /usr/local/cuda-8.0/bin/uninstall_cuda_8.0.pl

卸載之后，還有一些殘留的文件夾，之前安裝的是CUDA 8.0。可以一并刪除：

sudo rm -rf /usr/local/cuda-8.0/

這樣就算卸載完了CUDA。

安裝CUDA

安裝的CUDA和CUDNN版本：

• CUDA 10.0
• CUDNN 7.4.2

接下來的安裝步驟都是在root用戶下操作的。

下載和安裝CUDA

我們可以在官網：CUDA10下載頁面，
下載符合自己系統版本的CUDA。頁面如下：

下載完成之后，給文件賦予執行權限：

chmod +x cuda_10.0.130_410.48_linux.run

執行安裝包，開始安裝：

./cuda_10.0.130_410.48_linux.run

開始安裝之后，需要閱讀說明，可以使用Ctrl + C直接閱讀完成，或者使用空格鍵慢慢閱讀。然后進行配置，我這里說明一下：

（是否同意條款，必須同意才能繼續安裝）
accept/decline/quit: accept（這里不要安裝驅動，因為已經安裝最新的驅動了，否則可能會安裝舊版本的顯卡驅動，導致重復登錄的情況）
Install NVIDIA Accelerated Graphics Driver for Linux-x86_64 410.48?
(y)es/(n)o/(q)uit: nInstall the CUDA 10.0 Toolkit?（是否安裝CUDA 10 ，這里必須要安裝）
(y)es/(n)o/(q)uit: yEnter Toolkit Location（安裝路徑，使用默認，直接回車就行）[ default is /usr/local/cuda-10.0 ]:  Do you want to install a symbolic link at /usr/local/cuda?（同意創建軟鏈接）
(y)es/(n)o/(q)uit: yInstall the CUDA 10.0 Samples?（不用安裝測試，本身就有了）
(y)es/(n)o/(q)uit: nInstalling the CUDA Toolkit in /usr/local/cuda-10.0 ...（開始安裝）

安裝完成之后，可以配置他們的環境變量，在vim ~/.bashrc的最后加上以下配置信息：

export CUDA_HOME=/usr/local/cuda-10.0
export LD_LIBRARY_PATH=${CUDA_HOME}/lib64
export PATH=${CUDA_HOME}/bin:${PATH}

最后使用命令source ~/.bashrc使它生效。

可以使用命令nvcc -V查看安裝的版本信息：

test@test:~$ nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2018 NVIDIA Corporation
Built on Sat_Aug_25_21:08:01_CDT_2018
Cuda compilation tools, release 10.0, V10.0.130

測試安裝是否成功

執行以下幾條命令：

cd /usr/local/cuda-10.0/samples/1_Utilities/deviceQuery
make
./deviceQuery

正常情況下輸出：

./deviceQuery Starting...CUDA Device Query (Runtime API) version (CUDART static linking)Detected 1 CUDA Capable device(s)Device 0: "GeForce RTX 2070"CUDA Driver Version / Runtime Version          10.0 / 10.0CUDA Capability Major/Minor version number:    7.5Total amount of global memory:                 7950 MBytes (8335982592 bytes)(36) Multiprocessors, ( 64) CUDA Cores/MP:     2304 CUDA CoresGPU Max Clock rate:                            1620 MHz (1.62 GHz)Memory Clock rate:                             7001 MhzMemory Bus Width:                              256-bitL2 Cache Size:                                 4194304 bytesMaximum Texture Dimension Size (x,y,z)         1D=(131072), 2D=(131072, 65536), 3D=(16384, 16384, 16384)Maximum Layered 1D Texture Size, (num) layers  1D=(32768), 2048 layersMaximum Layered 2D Texture Size, (num) layers  2D=(32768, 32768), 2048 layersTotal amount of constant memory:               65536 bytesTotal amount of shared memory per block:       49152 bytesTotal number of registers available per block: 65536Warp size:                                     32Maximum number of threads per multiprocessor:  1024Maximum number of threads per block:           1024Max dimension size of a thread block (x,y,z): (1024, 1024, 64)Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)Maximum memory pitch:                          2147483647 bytesTexture alignment:                             512 bytesConcurrent copy and kernel execution:          Yes with 3 copy engine(s)Run time limit on kernels:                     YesIntegrated GPU sharing Host Memory:            NoSupport host page-locked memory mapping:       YesAlignment requirement for Surfaces:            YesDevice has ECC support:                        DisabledDevice supports Unified Addressing (UVA):      YesDevice supports Compute Preemption:            YesSupports Cooperative Kernel Launch:            YesSupports MultiDevice Co-op Kernel Launch:      YesDevice PCI Domain ID / Bus ID / location ID:   0 / 1 / 0Compute Mode:< Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 10.0, CUDA Runtime Version = 10.0, NumDevs = 1
Result = PASS

下載和安裝CUDNN

進入到CUDNN的下載官網：https://developer.nvidia.com/rdp/cudnn-download ，然點擊Download開始選擇下載版本，當然在下載之前還有登錄，選擇版本界面如下，我們選擇cuDNN Library for Linux：\

下載之后是一個壓縮包，如下：

cudnn-10.0-linux-x64-v7.4.2.24.tgz 

然后對它進行解壓，命令如下：

tar -zxvf cudnn-10.0-linux-x64-v7.4.2.24.tgz 

解壓之后可以得到以下文件：

cuda/include/cudnn.h
cuda/NVIDIA_SLA_cuDNN_Support.txt
cuda/lib64/libcudnn.so
cuda/lib64/libcudnn.so.7
cuda/lib64/libcudnn.so.7.4.2
cuda/lib64/libcudnn_static.a

使用以下兩條命令復制這些文件到CUDA目錄下：

cp cuda/lib64/* /usr/local/cuda-10.0/lib64/
cp cuda/include/* /usr/local/cuda-10.0/include/

拷貝完成之后，可以使用以下命令查看CUDNN的版本信息：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

測試安裝結果

到這里就已經完成了CUDA 10 和 CUDNN 7.4.2 的安裝。可以安裝對應的Pytorch的GPU版本測試是否可以正常使用了。安裝如下：

pip3 install https://download.pytorch.org/whl/cu100/torch-1.0.0-cp35-cp35m-linux_x86_64.whl
pip3 install torchvision

然后使用以下的程序測試安裝情況：

import torch
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
import torch.backends.cudnn as cudnn
from torchvision import datasets, transformsclass Net(nn.Module):def __init__(self):super(Net, self).__init__()self.conv1 = nn.Conv2d(1, 10, kernel_size=5)self.conv2 = nn.Conv2d(10, 20, kernel_size=5)self.conv2_drop = nn.Dropout2d()self.fc1 = nn.Linear(320, 50)self.fc2 = nn.Linear(50, 10)def forward(self, x):x = F.relu(F.max_pool2d(self.conv1(x), 2))x = F.relu(F.max_pool2d(self.conv2_drop(self.conv2(x)), 2))x = x.view(-1, 320)x = F.relu(self.fc1(x))x = F.dropout(x, training=self.training)x = self.fc2(x)return F.log_softmax(x, dim=1)def train(model, device, train_loader, optimizer, epoch):model.train()for batch_idx, (data, target) in enumerate(train_loader):data, target = data.to(device), target.to(device)optimizer.zero_grad()output = model(data)loss = F.nll_loss(output, target)loss.backward()optimizer.step()if batch_idx % 10 == 0:print('Train Epoch: {} [{}/{} ({:.0f}%)]\tLoss: {:.6f}'.format(epoch, batch_idx * len(data), len(train_loader.dataset),100. * batch_idx / len(train_loader), loss.item()))def main():cudnn.benchmark = Truetorch.manual_seed(1)device = torch.device("cuda")kwargs = {'num_workers': 1, 'pin_memory': True}train_loader = torch.utils.data.DataLoader(datasets.MNIST('../data', train=True, download=True,transform=transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.1307,), (0.3081,))])),batch_size=64, shuffle=True, **kwargs)model = Net().to(device)optimizer = optim.SGD(model.parameters(), lr=0.01, momentum=0.5)for epoch in range(1, 11):train(model, device, train_loader, optimizer, epoch)if __name__ == '__main__':main()

如果正常輸出一下以下信息，證明已經安裝成了：

Train Epoch: 1 [0/60000 (0%)]	Loss: 2.365850
Train Epoch: 1 [640/60000 (1%)]	Loss: 2.305295
Train Epoch: 1 [1280/60000 (2%)]	Loss: 2.301407
Train Epoch: 1 [1920/60000 (3%)]	Loss: 2.316538
Train Epoch: 1 [2560/60000 (4%)]	Loss: 2.255809
Train Epoch: 1 [3200/60000 (5%)]	Loss: 2.224511
Train Epoch: 1 [3840/60000 (6%)]	Loss: 2.216569
Train Epoch: 1 [4480/60000 (7%)]	Loss: 2.181396

參考資料
https://developer.nvidia.com
https://www.cnblogs.com/luofeel/p/8654964.html