ubuntu部署ollama+deepseek+open-webui
全文-ubuntu部署ollama+deepseek+open-webui
大綱
- Ollama部署
- 安裝Ollama:使用命令
apt install curl
和curl -fsSL https://ollama.com/install.sh | sh ollama-v
- 網絡訪問配置:設置環境變量
OLLAMA_HOST=0.0.0.0:11434
,并刷新和重啟服務 - 修改模型默認存儲目錄:設置環境變量
OLLAMA_MODELS=/xxx/models
,并刷新和重啟服務
- 安裝Ollama:使用命令
- Deepseek模型部署
- 在線安裝:使用命令
ollama pull deepseek-r1:1.5b
- 離線導入:從Ollama官網下載Deepseek-r1,模型描述文件目錄為
/usr/share/ollama/.ollama/models/manifests/registry.ollama.ai/library
,模型目錄為/usr/share/ollama/.ollama/models/blobs
- 模型運行測試:使用命令
ollama list
查看已安裝模型,使用ollama run deepseek-r1:1.5b
進行控制臺交互 - Ollama API調用方式:使用Curl命令調用API,例如
curl http://<ip>:11434/api/chat
- 在線安裝:使用命令
- Open-WebUI部署
- 依賴環境:包含Python3.11、數據庫等
- Docker部署:運行官方推薦的Docker命令,例如
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always <鏡像名>
- 網絡設置失敗處理:在低版本操作系統和內核中,網絡模式改為
--network host
- 配置Ollama模型連接:在Open-WebUI中設置Ollama的URL連接,配置完成后選擇模型進行對話