1.一鍵安裝docker 測試ok

curl -fsSL https://get.docker.com | sh

2.安裝cuda支持 通用的應該沒問題

也可以搜索安裝 cuda版docker

distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \
&& curl -s -L https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/$distribution/libnvidia-container.list | \sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit.gpg] https://#g' | \sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

安裝工具包

sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit

配置 runtime：

sudo nvidia-ctk runtime configure --runtime=docker sudo systemctl restart docker

3.檢查 Docker 是否支持 NVIDIA 運行時

docker info | grep -i runtime

結果 包含 nvidia 就是支持gpu，沒有就是不支持。

或者更詳細地檢查

結果：

docker info | grep -A5 -B5 -i nvidia

為空 是不支持，有東西是支持。