本地部署Dify+Ragflow及使用（一）

概念說明

  1. RAGflow：
    • 吃透知識：將企業文檔（如技術白皮書）解析為結構化知識片段。
    • 精準檢索：當用戶提問時，從知識庫中召回最相關內容。
  2. 模型供應商：
    • 提供大腦：為 Dify 提供生成答案的模型能力（如 Ollama 運行 Llama3）。
  3. Dify：
    • 組裝智能體：連接知識檢索（RAGflow）和模型推理（Ollama），構建完整問答流程。
    • 交互界面：生成用戶可訪問的聊天頁面或 API。

?場景示例

用戶問：“超融合系統的雙機熱備如何配置？”

  1. RAGflow：從《超融合管理系統白皮書》中檢索出配置步驟、拓撲圖、注意事項。
  2. Dify：將檢索結果 + 用戶問題發送給模型供應商（如 Ollama）。
  3. Ollama（運行 Llama3）：生成答案：“配置步驟如下：1. 準備兩臺服務器... 詳見下圖：<拓撲圖>”。
  4. Dify：將答案返回給用戶。

基礎環境準備

虛機1：openeuler 24.03? ? ? ? 8C/16G/500G? ? ? ? 192.168.0.5????????部署dify+ollama

虛機2：openeuler 24.03? ? ? ? 8C/8G/500G? ? ? ? 192.168.0.7????????部署ragflow

  • 關閉selinux、關閉firewalld、虛機能夠訪問互聯網
  • 兩臺虛機都需要安裝docker、docker-compose

安裝docker

1、準備鏡像倉庫

系統的鏡像倉庫和docker的鏡像倉庫，我用的都是華為云的

openEuler.repo

[base]
name=openEuler-24.03-LTS - Base
baseurl=https://mirrors.huaweicloud.com/openeuler/openEuler-24.03-LTS/OS/$basearch/
enabled=1
gpgcheck=0
gpgkey=https://mirrors.huaweicloud.com/openeuler/openEuler-24.03-LTS/OS/$basearch/RPM-GPG-KEY-openEuler[everything]
name=openEuler-24.03-LTS - Everything
baseurl=https://mirrors.huaweicloud.com/openeuler/openEuler-24.03-LTS/everything/$basearch/
enabled=1
gpgcheck=0
gpgkey=https://mirrors.huaweicloud.com/openeuler/openEuler-24.03-LTS/everything/$basearch/RPM-GPG-KEY-openEuler

docker-ce.repo

[docker-ce-stable]
name=Docker CE Stable - $basearch
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/$basearch/stable
enabled=1
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-stable-debuginfo]
name=Docker CE Stable - Debuginfo $basearch
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/debug-$basearch/stable
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-stable-source]
name=Docker CE Stable - Sources
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/source/stable
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-test]
name=Docker CE Test - $basearch
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/$basearch/test
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-test-debuginfo]
name=Docker CE Test - Debuginfo $basearch
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/debug-$basearch/test
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-test-source]
name=Docker CE Test - Sources
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/source/test
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-nightly]
name=Docker CE Nightly - $basearch
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/$basearch/nightly
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-nightly-debuginfo]
name=Docker CE Nightly - Debuginfo $basearch
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/debug-$basearch/nightly
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg[docker-ce-nightly-source]
name=Docker CE Nightly - Sources
baseurl=https://repo.huaweicloud.com/docker-ce/linux/centos/9/source/nightly
enabled=0
gpgcheck=1
gpgkey=https://repo.huaweicloud.com/docker-ce/linux/centos/gpg

遇到的坑：下載docker時報錯，原因docker鏡像庫不認識歐拉24.03這個版本（沒有歐拉版本），將其改為centos9即可，即baseurl的鏈接中將歐拉版本改為centos9的版本。

2、安裝docker

?安裝docker

dnf install -y docker-ce docker-ce-cli containerd.io

??啟動docker并設置開機自啟

systemctl  enable --now docker

查看docker版本?

docker --version  
Docker version 28.2.2, build e6534b4

安裝docker-compose

1、下載docker-compose的二進制文件，并將文件放在/usr/local/bin/目錄下

curl -L "https://github.com/docker/compose/releases/download/v2.27.1/docker-compose-$(uname -s)-$(uname -m)"   -o /usr/local/bin/docker-compose

遇到的坑：1、由于網絡的限制，github訪問不了，于是我用了魔法；2、使用dnf直接從鏡像庫下載docker-compose雖然能下載，但是版本太老還是1.x.x版本的，到后面啟動容器會報錯，所以還得下2.x.x以后的版本

2、賦予執行權限，查看版本信息

chmod +x /usr/local/bin/docker-compose ln -s /usr/local/bin/docker-compose  /usr/bin/docker-compose docker-compose  --version 
Docker Compose version v2.27.1

部署dify

說明：此部分操作在虛擬機1上進行

1、下載git工具

dnf -y install git

2、下載dify的軟件包

git clone https://github.com/langgenius/dify.git

遇到的坑：老問題，如果git無法訪問，那就直接去github上找這個項目，下載zip，然后傳到dify虛機上

3、準備 .env變量文件

mkdir /opt/dify  && cd /opt/difyunzip dify-main.zipcd dify-main/dockercp .env.example  .env

4、編輯 .env

這個字段要改成本機地址，其他配置基本不用動。因為我是兩臺虛機分別部署dift、ragflow，所以不用擔心端口沖突的問題，端口保持默認即可。

vi .envAPP_WEB_URL=http://192.168.0.5

遇到的坑：這個是我自找的，后續我對兩個虛機改了下地址，但是測試工作流時總是訪問原來的地址，原因就是這里沒有改。

5、啟動容器

執行如下命令，啟動dify容器，這個過程會去互聯網上拉鏡像

docker-compose up -d

遇到的坑：一般情況下拉鏡像都會報錯，因為默認訪問外網是不通的，所以國內一般都有加速器比如阿里、163、中科大、華為等，但是奇怪的是即使配置了國內加速器，拉鏡像依然失敗。找了好多資料，終于找到一個好使的加速器，如下

cat /etc/docker/daemon.json  {"registry-mirrors": ["https://docker.1ms.run","https://docker.1panel.live/","https://docker.mirrors.ustc.edu.cn"],"max-concurrent-downloads": 10,"max-download-attempts": 3
}

配置完，重新執行上步，就能正常拉取了?

6、訪問

http://192.168.0.5? ?

部署ollama

說明：此部分操作在虛擬機1上進行

本來有install,sh腳本可以一件部署，但是又由于網絡的限制執行不下去，于是我用了以下方法

1、下載ollama安裝包

wget https://ghproxy.com/https://github.com/ollama/ollama/releases/download/v0.9.2/ollama-linux-amd64.tgz

2、解壓，移動至二進制目錄，賦予執行權限，修改服務配置

tar -zxvf ollama-linux-amd64.tgz  mv bin/ollama  /usr/local/bin/ chmod +x /usr/local/bin/ollama  tee /etc/systemd/system/ollama.service > /dev/null <<EOF
[Unit]
Description=Ollama AI Service
After=network.target[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=5
Environment="OLLAMA_HOST=0.0.0.0:11434"[Install]
WantedBy=multi-user.target
EOF

3、 啟動ollama服務

systemctl   daemon-reloadsystemctl  enable ollama systemctl start ollamaollama  --version
ollama version is 0.9.2

4、下載大模型

?漫長的等待

ollama run deepseek-r1:7b

?下載完成

ollama  ls 
NAME                ID              SIZE      MODIFIED     
deepseek-r1:1.5b    e0979632db5a    1.1 GB    44 hours ago    
deepseek-r1:7b      755ced02ce7b    4.7 GB    2 days ago

部署ragflow

說明：此部分操作在虛擬機2上進行，在部署ragflow之前，先保證docker、docker-compose已經運行正常

1、下載ragflow安裝包，直接去對應的github上打包下載，然后傳到虛機后臺，解壓

mkdir /opt/ragflowcd /opt/ragflowunzip ragflow-main.zip

2、直接啟動

什么配置都不用改直接啟動

cd ragflow-main/docker docker compose -f docker-compose.yml -p ragflow up -d

3、訪問

http://192.168.0.7

以上就是部署過程，第二篇文章會介紹如何使用dify+ragflow搭建自己的知識庫

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/bicheng/86745.shtml
繁體地址，請注明出處：http://hk.pswp.cn/bicheng/86745.shtml
英文地址，請注明出處：http://en.pswp.cn/bicheng/86745.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！

相關文章

2025.06.24【R語言】|clusterProfiler安裝與常見報錯FAQ全解

2025.06.24【R語言】|clusterProfiler安裝與常見報錯FAQ全解

文章目錄 一、clusterProfiler安裝方法1. Bioconductor官方推薦2. Conda安裝&#xff08;個人推薦 適合服務器/依賴復雜環境&#xff09;3. 檢查安裝 二、常見依賴包安裝三、常見報錯與解決方案1. 報錯&#xff1a;could not find function "bitr"2. 報錯&#xff1a…
閱讀更多...
【轉】PostgreSql的鏡像地址

【轉】PostgreSql的鏡像地址

docker.io/postgres 項目中國可用鏡像列表 | 高速可靠的 Docker 鏡像資源 docker.io/postgrest/postgrest:v12.2.8 linux/amd64 docker.io17.34MB2025-04-04 13:14 346 docker.io/postgrest/postgrest:v12.2.12 linux/amd64 docker.io17.38MB2025-05-27 22:02 79 docker.io…
閱讀更多...
爬蟲005----Selenium框架

爬蟲005----Selenium框架

在總結爬蟲 &#x1f577; 框架之前&#xff0c;先總結一下selenium框架&#xff0c;也可以說是selenium庫&#xff0c;在自動化測試中是老生常談了&#xff08;長時間??不用&#xff0c;已經忘記了&#xff0c;實際測試工作中做UI自動化的也很少了&#xff0c;上次搞UI自動化…
閱讀更多...
記一次 Kafka 磁盤被寫滿的排查經歷

記一次 Kafka 磁盤被寫滿的排查經歷

開篇扯犢子 今天踏進辦公聽到不是同事的早安&#xff0c;而是“有一個好消息&#xff0c;一個壞消息&#xff0c;你想聽哪個&#xff1f;” 我一愣&#xff0c;心想“大早上&#xff0c;就要玩刺激的嗎&#xff1f;” 但是還是淡定的回復說“無所謂&#xff0c;哥什么場面沒見…
閱讀更多...
python多線程：各線程的輸出在控制臺中同一行原因分析

python多線程：各線程的輸出在控制臺中同一行原因分析

代碼例子 import threading import timedef error_worker():print("子線程開始")time.sleep(1)raise Exception("子線程出錯了&#xff01;")t threading.Thread(targeterror_worker) t.start()print("主線程繼續執行&#xff0c;不受子線程異常影響…
閱讀更多...
Promptify與ReActAgent

Promptify與ReActAgent

一、Promptify 定位&#xff1a;NLP 任務的「自動化流水線」 1. 解決什么問題&#xff1f; 傳統 LLM 應用開發痛點&#xff1a; 反復調試&#xff1a;需手工編寫/調整 prompt 格式&#xff08;如調整分隔符、示例數量&#xff09;兼容性差&#xff1a;不同模型需重寫適配代碼…
閱讀更多...
如何將視頻從 iPhone 發送到 Android 設備

如何將視頻從 iPhone 發送到 Android 設備

如果您想將視頻從 iPhone 發送到 Android 設備&#xff0c;尤其是視頻尺寸較大時&#xff0c;您需要一種高效的傳輸方法。本文將為您提供 7 種實用方法&#xff0c;讓您輕松發送大型視頻文件或短視頻片段&#xff0c;并且不會損失視頻質量。 第 1 部分&#xff1a;如何通過 iRe…
閱讀更多...
Stable Diffusion入門-ControlNet 深入理解 第四課：風格遷移與重繪控制模型——讓AI也有“藝術天賦”！

Stable Diffusion入門-ControlNet 深入理解 第四課：風格遷移與重繪控制模型——讓AI也有“藝術天賦”！

大家好&#xff0c;歡迎回到 Stable Diffusion入門-ControlNet 深入理解 系列的第四課&#xff01; 如果你還沒有看過上一課&#xff0c;趕緊補課哦&#xff1a;Stable Diffusion入門-ControlNet 深入理解 第三課。 上一課我們講解了 ControlNet 結構類模型&#xff0c;今天我…
閱讀更多...
國產鴻蒙系統開放應用側載，能威脅到Windows地位嗎？

國產鴻蒙系統開放應用側載，能威脅到Windows地位嗎？

上個月華為正式發布了 HarmonyOS PC 操作系統&#xff0c;關于生態方面大家其實一直蠻擔心。 例如不兼容Windows應用、不支持應用側載等。 不過&#xff0c;在最近舉行的華為開發者大會 2025 電腦分論壇上&#xff0c;華為終端 BG 平板與 PC 產品線總裁&#xff08;朱懂東&am…
閱讀更多...
Linux登錄檢查腳本

Linux登錄檢查腳本

登錄檢查腳本 提高兼容性&#xff08;適應不同Linux發行版&#xff09;增強可視化效果和可讀性增加關鍵資源警戒提示優化表格對齊和顏色使用添加系統安全狀態檢查 #!/bin/bash# 改進版系統登錄提示腳本 # 優化點&#xff1a;兼容性增強、資源警戒提示、表格美化、安全狀態檢查…
閱讀更多...
jenkinsfile調用groovy

jenkinsfile調用groovy

先決條件 gitlab存放jenkinsfile以及groovy代碼,jenkins我個人使用的是2.486具體的部署方法自己搞定,一堆文檔. gitlab創建一個devops8項目組以及my-jenkins-demo2項目用于演示過程 創建群組 這里已經創建好相關群組. 進入群組創建新項目 創建一個空白項目 配置項目選項 說明…
閱讀更多...
Ubuntu20.04離線安裝Realtek b852無線網卡驅動

Ubuntu20.04離線安裝Realtek b852無線網卡驅動

最近有個項目&#xff0c;需要在 Ubuntu20.04 LTS 下開發&#xff0c;首先是安裝 Linux&#xff0c;我們可以從下面的網址下載&#xff1a; https://releases.ubuntu.com/20.04/ 本以為一切順利&#xff0c;結果剛開始就給我整不會了。我的電腦是聯想設計師GeekPro7&#xff…
閱讀更多...
1 Studying《Computer Architecture A Quantitative Approach》5-7

1 Studying《Computer Architecture A Quantitative Approach》5-7

目錄 5 Thread-Level Parallelism 5.1 Introduction 5.2 Centralized Shared-Memory Architectures 5.3 Performance of Symmetric Shared-Memory Multiprocessors 5.4 Distributed Shared-Memory and Directory-Based Coherence 5.5 Synchronization: The Basics 5.6 M…
閱讀更多...
融智興科技： RFID超高頻柔性抗金屬標簽解析

融智興科技： RFID超高頻柔性抗金屬標簽解析

在當今科技飛速發展的時代&#xff0c; RFID技術憑借其獨特的優勢&#xff0c;在眾多領域得到了廣泛應用。然而&#xff0c;在金屬環境中&#xff0c;傳統RFID標簽往往面臨著諸多挑戰&#xff0c;如信號干擾、識別距離短等問題。融智興科技推出的RFID 超高頻柔性抗金屬標簽&…
閱讀更多...
PHP Error: 深入解析與解決策略

PHP Error: 深入解析與解決策略

PHP Error: 深入解析與解決策略 引言 PHP作為世界上最流行的服務器端腳本語言之一，在全球范圍內被廣泛使用。然而，在PHP的開發過程中，錯誤處理是一個非常重要的環節。本文將深入探討PHP錯誤處理的相關知識，包括錯誤類型、錯誤配置、錯誤日志以及常見的錯誤解決策略。 PH…
閱讀更多...
零基礎langchain實戰二：大模型輸出格式化成json

零基礎langchain實戰二：大模型輸出格式化成json

零基礎langchain實戰一&#xff1a;模型、提示詞和解析器-CSDN博客 書接上文 大模型輸出格式化 在下面例子中&#xff1a;我們需要將大模型的輸出格式化成json。 import os from dotenv import load_dotenvload_dotenv() # 加載 .env 文件 api_key os.getenv("DEEPS…
閱讀更多...
高通手機跑AI系列之——人臉變化算法

高通手機跑AI系列之——人臉變化算法

環境準備 手機 測試手機型號&#xff1a;Redmi K60 Pro 處理器&#xff1a;第二代驍龍8移動--8gen2 運行內存&#xff1a;8.0GB &#xff0c;LPDDR5X-8400&#xff0c;67.0 GB/s 攝像頭&#xff1a;前置16MP后置50MP8MP2MP AI算力&#xff1a;NPU 48Tops INT8 &&…
閱讀更多...
TortoiseSVN 安裝教程

TortoiseSVN 安裝教程

前言 TortoiseSVN 是一款流行的 免費開源 的 Subversion (SVN) 客戶端&#xff0c;專門為 Windows 操作系統 設計。它通過 Windows 資源管理器集成 提供直觀的圖形化界面&#xff0c;使用戶可以輕松管理版本控制的文件和目錄&#xff0c;無需使用命令行。 主要特點 資源管理器…
閱讀更多...
多張圖片生成PDF每張圖片生成pdf的一頁

多張圖片生成PDF每張圖片生成pdf的一頁

需要的庫 <!-- 生成pdf--><dependency><groupId>com.itextpdf</groupId><artifactId>itextpdf</artifactId><version>5.5.10</version></dependency><!-- https://mvnrepository.com/artifact/commons-net/commons-n…
閱讀更多...
Java基礎 Map集合框架 LinkedHashMap

Java基礎 Map集合框架 LinkedHashMap

LinkedHashMap LinkedHashMap類架構與繼承關系核心特性繼承自 HashMap有序性插入順序訪問順序 雙向鏈表結構非線程安全1.并發修改導致數據丟失2.并發迭代導致 ConcurrentModificationException3.并發修改導致鏈表結構破壞解決方案1. 使用 Collections.synchronizedMap&#xff…
閱讀更多...
最新文章

Copyright @ 2022~2023