步驟 1.下載4個安裝包

Index of /nvidia-docker/libnvidia-container/stable/

nvidia-container-toolkit-base_1.13.5-1_amd64.deb
libnvidia-container1_1.13.5-1_amd64.deb
libnvidia-container-tools_1.13.5-1_amd64.deb
nvidia-container-toolkit_1.13.5-1_amd64.deb

步驟 2.安裝

# 進入目錄
cd /home/zhy/soft/nvidia_toolkit# 安裝 NVIDIA Container Toolkit 及其依賴
sudo dpkg -i libnvidia-container1_1.13.5-1_amd64.deb
sudo dpkg -i libnvidia-container-tools_1.13.5-1_amd64.deb
sudo dpkg -i nvidia-container-toolkit-base_1.13.5-1_amd64.deb
sudo dpkg -i nvidia-container-toolkit_1.13.5-1_amd64.deb

注意： 順序安裝

步驟 3：配置 Docker 使用 NVIDIA Runtime

# 配置 Docker 使用 NVIDIA Runtime
sudo nvidia-ctk runtime configure --runtime=docker# 重啟 Docker 服務
sudo systemctl restart docker

步驟4：驗證 GPU 支持

運行一個支持 GPU 的容器來驗證：

nvidia-ctk --versionsudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi