?本文詳細介紹如何在 Linux 和 Windows 環境下,通過 Docker Compose 整合 Ollama 和 Open WebUI,部署 DeepSeek-R1 大語言模型,并提供 GPU 加速支持。無論你是開發者還是 AI 愛好者,均可通過本指南快速搭建私有化 GPT 環境。
一、環境準備
1. Docker 與 Docker Compose 安裝
-
Linux
通過官方腳本安裝 Docker 及 Docker Compose:curl -fsSL https://get.docker.com | sh sudo systemctl enable --now docker sudo curl -L "https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose sudo chmod +x /usr/local/bin/docker-compose
-
Windows
下載 Docker Desktop 并安裝,確保啟用 WSL2 后端和 Linux 容器模式。
2. GPU 支持(可選)
若需 GPU 加速,需安裝 NVIDIA Container Toolkit(Linux)或配置 Docker Desktop GPU 支持(Windows):
- Linux
參考 NVIDIA 官方指南安裝工具包:sudo apt-get install -y nvidia-container-toolkit sudo systemctl restart docker
- Windows
確保安裝 CUDA 驅動并啟用 Docker Desktop 的 GPU 支持(設置 > Resources > WSL Integration)。
二、Ollama 的安裝與啟動
1. 直接安裝方式
-
Linux
下載二進制文件并運行:curl -L https://ollama.com/download/ollama-linux-amd64 -o ollama chmod +x ollama ./ollama serve
-
Windows
Windows平臺推薦使用官網安裝包直接安裝 ollama
從