1、安裝 Ollama
下載并安裝 Ollama
(llm) wangqiang@wangqiang:~$ curl -fsSL https://ollama.ai/install.sh | bash
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle0.3%
curl -fsSL https://ollama.ai/install.sh (下載ollama需要很久)
curl
?是一個命令行工具,用于從網絡下載數據。這里它下載 Ollama 的安裝腳本。
-f
?(--fail
):如果 HTTP 請求失敗(如 404),靜默退出,不顯示 HTML 錯誤頁面。
-s
?(--silent
):靜默模式,不顯示進度或錯誤信息(除非嚴重錯誤)。
-S
?(--show-error
):與?-s
?一起使用時,仍然顯示錯誤信息(如連接失敗)。
-L
?(--location
):如果 URL 發生重定向(如 301/302),自動跟隨新地址。
| bash
|
(管道符)將?curl
?下載的腳本內容傳遞給?bash
,并立即執行。
檢查 Ollama 版本
ollama -v
?啟動 Ollama 服務:
ollama serve
卸載Ollama:
ollama uninstall
下載并運行deepseek:
ollama run deepseek-r1:32b
?2、安裝docker
ubuntu系統安裝docker并進行配置:
1、Ubuntu系統安裝docker_docker ubuntu systemctl-CSDN博客
2、ubuntu系統docker介紹及鏡像源和倉庫配置-CSDN博客
# 安裝 Docker Compose
sudo curl -L "https://github.com/docker/compose/releases/download/v2.23.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose# 驗證安裝
docker-compose --version
3、安裝 Dify(AI 工作流平臺)
克隆 Dify 倉庫
# 創建工作目錄
mkdir dify && cd dify# 克隆 Dify 代碼
git clone https://github.com/langgenius/dify.git
cd dify/docker
配置 Dify
# 復制配置文件模板
cp .env.example .env# 編輯配置文件
nano .env
修改以下關鍵參數:
# 數據庫密碼(自定義)
POSTGRES_PASSWORD=your_password# Redis 密碼(自定義)
REDIS_PASSWORD=your_password# Ollama 配置(連接本地 Ollama 服務)
OLLAMA_BASE_URL=http://host.docker.internal:11434
OLLAMA_MODEL_NAME=deepseek-r1:7b
啟動 Dify 服務
# 啟動所有依賴服務(數據庫、緩存等)
docker compose up -d db redis weaviate# 啟動 Dify 核心服務
docker compose up -d
驗證服務狀態
# 檢查容器運行狀態
docker ps
確保以下容器狀態為 Up
:
dify-api-1
dify-web-1
dify-worker-1
配置 Dify 與 Ollama/DeepSeek 集成
打開瀏覽器訪問:http://localhost
首次使用需注冊管理員賬戶。
4.2 添加模型配置
登錄后進入 Settings → Model Provider,添加以下配置:
- Model Type:
Local Model (Ollama)
- Base URL:
http://host.docker.internal:11434
- Model Name:
deepseek-r1:7b
dify官網使用說明文檔
https://docs.dify.ai/zh-hans/introduction
五、使用本地知識庫
5.1 上傳文檔
- 在 Dify 控制臺進入?Knowledge Base。
- 點擊?Upload File,支持 PDF、TXT、DOCX 等格式。
- 上傳后,Dify 會自動解析并存儲為向量數據庫。
5.2 使用 RAG 功能
- 在?Chat?頁面中輸入查詢。
- Dify 會結合 DeepSeek 模型和本地知識庫內容生成回答。