一、環境準備

1. 安裝Ollama客戶端

• 官網下載：https://ollama.com

• 驗證安裝：

  ollama --version
  

2. 安裝Docker Desktop

• 下載地址：https://www.docker.com/products/docker-desktop

• 安裝后確保Docker狀態為"Running"

二、基礎搭建（3步完成）

1. 啟動Ollama服務

ollama serve

保持此終端窗口不要關閉

2. 下載模型

ollama pull llama3  # 推薦8B版本（約4.7GB）

• 也可以從ollama窗口復制指令

  ollama run llama3.2
  

3. 部署Open WebUI（圖形界面）

docker run -d -p 3000:8080 \-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \-v openwebui_data:/app/backend/data \--name openwebui \ghcr.io/open-webui/open-webui:main

4.完成后在docker會看到

三、功能使用

1. 訪問圖形界面

瀏覽器打開：http://localhost:3000

2. 文檔訓練與問答

方法一：簡單上傳

1. 拖拽文件（PDF/TXT/Word）到聊天輸入框
2. 提問時勾選"Use Knowledge"

方法二：創建知識庫

1. 左側菜單 → Documents → Create Collection
2. 上傳文件并關聯到知識庫
3. 提問時選擇對應知識庫

3. 模型管理

ollama list      # 查看已下載模型
ollama pull mistral  # 下載新模型

四、異常處理

1. 端口沖突（11434被占用）

lsof -i :11434   # 查看占用進程
kill -9 <PID>    # 終止進程

2. Open WebUI無法連接

docker logs openwebui  # 查看錯誤日志

3. 文檔上傳無效

• 確保啟動時添加了-e ENABLE_RAG=true

• 檢查文件格式（推薦PDF/TXT）

五、進階配置

1. 性能優化

使用GPU加速（需NVIDIA顯卡）
docker run ... --gpus all ...

2. 自定義模型

創建Modelfile：

FROM llama3
SYSTEM "你是一個專業助手..."

構建自定義模型：

ollama create mymodel -f ./Modelfile