一、環境準備

1.硬件要求

• GPU: 至少 NVIDIA A30/A100 (顯存 ≥ 24GB)
• 內存: ≥ 64GB RAM
• 存儲: ≥ 100GB 可用空間 (模型文件約 60GB)

2.軟件依賴

# 驗證NVIDIA驅動
nvidia-smi

二、Ollama安裝

方法 1：install.sh安裝

運行一下安裝命令：

curl -fsSL https://ollama.com/install.sh | sh

方法 2：手動安裝

注意：
如果要從以前的版本升級，則應使用 first 刪除舊庫。sudo rm -rf /usr/lib/ollama

安裝命令：
下載并解壓縮包：

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz