本篇文章將介紹ubuntu 安裝 CUDA Toolkit

CUDA Toolkit 是由 NVIDIA（英偉達）公司開發的一個軟件工具包，用于支持并優化 GPU（圖形處理器）上的并行計算和高性能計算。它提供了一組庫、編譯器、開發工具和 API（應用程序編程接口），使開發者能夠在 NVIDIA GPU 上編寫和執行并行計算任務，從而加速各種應用程序的運行速度。

主要功能和組件包括：

1. CUDA 編程模型：CUDA Toolkit 提供了一種并行計算模型，允許開發者使用類似于 C 語言的語法來編寫 GPU 上的代碼。開發者可以使用 CUDA C/C++ 編寫核心計算代碼，稱為 GPU 內核函數（Kernel Functions），并在 GPU 上并行執行這些函數。

2. CUDA Runtime API：CUDA 提供了一組運行時庫和 API，開發者可以使用這些函數來管理 GPU 內存、啟動 GPU 內核函數、同步和通信等。

3. CUDA 編譯器：CUDA 編譯器將 CUDA C/C++ 代碼轉換為針對特定 NVIDIA GPU 架構的匯編代碼。這些匯編代碼會與 CPU 代碼一起組成一個可執行文件。

4. GPU 加速庫：CUDA Toolkit 提供了一些高性能計算庫，如 cuBLAS（基礎線性代數子程序庫）、cuFFT（快速傅里葉變換庫）、cuDNN（深度神經網絡庫）等，這些庫能夠在 GPU 上加速相應的計算任務。

5. 并行計算支持：CUDA Toolkit 充分利用 GPU 的并行計算能力，可以用于各種任務，如科學計算、機器學習、深度學習、圖像處理等。

初

希望能寫一些簡單的教程和案例分享給需要的人

環境與設備

系統：ubuntu
設備：Nvidia GeForce RTX 4090

在官網找安裝方式

訪問

https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64

選擇后就和下圖一樣：我這里是 Linux ubuntu 22.04 所以我按這個來選。

復制下面的 Base Installer

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.2.1/local_installers/cuda-repo-ubuntu2204-12-2-local_12.2.1-535.86.10-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-2-local_12.2.1-535.86.10-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

一個個復制過去執行

使用 wget 命令下載一個名為 cuda-ubuntu2204.pin 的文件。這個文件是用來設置 APT 軟件源優先級的。

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin

將剛剛下載的 cuda-ubuntu2204.pin 文件移動到 /etc/apt/preferences.d/ 目錄下，并將文件名更改為 cuda-repository-pin-600。這個操作會設置 CUDA 軟件源的優先級為 600，以確保系統正確選擇合適的軟件源。

sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600

使用 wget 命令下載 CUDA Toolkit 的本地安裝包（.deb 文件），以便在本地系統中進行安裝。

wget https://developer.download.nvidia.com/compute/cuda/12.2.1/local_installers/cuda-repo-ubuntu2204-12-2-local_12.2.1-535.86.10-1_amd64.deb

使用 dpkg 命令安裝剛剛下載的 CUDA 本地安裝包。

sudo dpkg -i cuda-repo-ubuntu2204-12-2-local_12.2.1-535.86.10-1_amd64.deb

將 CUDA 軟件源中的密鑰文件復制到 /usr/share/keyrings/ 目錄下，這是用于驗證軟件源的 GPG 密鑰。

sudo cp /var/cuda-repo-ubuntu2204-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/

更新系統的軟件包信息，以便獲取最新的可用軟件包列表。

sudo apt-get update

使用 apt-get 命令安裝 CUDA Toolkit。-y 參數表示自動確認安裝過程中的提示。

sudo apt-get -y install cuda

安裝完成后，執行命令

dir /usr/local/

執行命令后可以看到 cuda ，說明安裝了，接下來配置一下文件

修改配置文件：vim ~/.bashrc

vim ~/.bashrc

在末尾加入下面代碼：我這里是12.2，所以我加的是這個路徑 12.2，大家自行更換

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.2/lib64
export PATH=$PATH:/usr/local/cuda-12.2/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-12.2

加入配置文件后，執行代碼更新

source ~/.bashrc

更新完成后，我們執行 nvcc -V 來查看是否安裝完成

nvcc -V