本地部署DeepSeek R1 + 界面可視化open-webui
ollama是物理機本地安裝
open-webui是容器啟動
另外,用docker 部署ollama也很方便ollama docker
安裝部署ollama
ollama官網
- 安裝
Linux上安裝:
curl -fsSL https://ollama.com/install.sh | sh
使用命令行管理
- 拉取模型
sudo ollama pull deepseek-r1:32b
- 啟動
sudo ollama run deepseek-r1:32b
作為服務啟動
- 啟動
sudo systemctl restart ollama
安裝部署open-webui
- Open WebUI Github
- Open WebUI Document
echo 'export OLLAMA_HOST=0.0.0.0' >> ~/.bashrc
source ~/.bashrc
sudo docker run --network=host -v /work/open-webui/open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
界面配置ollama
鏈接過程中遇到故障 服務器連接問題