運行環境

1. Linux 系統（ubuntu）
2. Gpu (NVIDIA)

安裝部署 llama factory

CUDA 安裝

首先，在 https://developer.nvidia.com/cuda-gpus 查看您的 GPU 是否支持CUDA

1. 保證當前 Linux 版本支持CUDA. 在命令行中輸入 uname -m && cat /etc/*release，應當看到類似的輸出

x86_64
DISTRIB_ID=Ubuntu
DISTRIB_RELEASE=22.04

2. 檢查是否安裝了 gcc . 在命令行中輸入 gcc --version ，應當看到類似的輸出

gcc (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0

3. 在以下網址下載所需的 CUDA，這里推薦12.2版本。