一、簡介

RAGFlow 是一個基于對文檔的深入理解的開源 RAG（檢索增強生成）引擎。當與 LLM 集成時，它能夠提供真實的問答功能，并以來自各種復雜格式數據的有根據的引用為后盾。

二、安裝

1.環境要求

• CPU ≥ 4 核 （x86）;
• RAM ≥ 16 GB;
• 磁盤 ≥ 50 GB;
• Docker ≥ 24.0.0 和 Docker Compose ≥ v2.26.1；

2.系統配置

vm.max_map_count.此值設置進程可以具有的最大內存映射區域數。其默認值為 65530。雖然大多數應用程序需要的映射少于 1000 個，但減小此值可能會導致異常行為，并且當進程達到限制時，系統將引發內存不足錯誤。
操作步驟：

# 檢查vm.max_map_count
sysctl vm.max_map_count
# 臨時設置
sysctl -w vm.max_map_count=262144
# 永久設置
vim  /etc/sysctl.conf
vm.max_map_count=262144  #添加

3.docker安裝

操作步驟：

# 安裝docker及依賴
apt update
apt-get install ca-certificates curl gnupg
# 使用國內源
curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
echo \"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://mirrors.aliyun.com/docker-ce/linux/ubuntu \"$(. /etc/os-release && echo "$VERSION_CODENAME")" stable" | \sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
apt update
apt install -y docker-ce=5:27.5.1-1~ubuntu.22.04~jammy
# 啟動
systemctl start docker
systemctl status docker
systemctl enable docker
# docker-compose安裝
wget https://github.com/docker/compose/releases/download/v2.33.0/docker-compose-linux-x86_64
chmod +x docker-compose-linux-x86_64cp -r docker-compose-linux-x86_64 /usr/local/bin/docker-compose

4.安裝RAGFlow

1.下載：

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker

2.設置變量并啟動服務：

ls -a
vim .env
# 修改
RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0
# 啟動
docker-compose -f docker-compose.yml up -d

3.檢查服務運行狀態

docker logs -f ragflow-server

4.在web瀏覽器中，輸入服務器IP地址并登錄RAGFlow。

三、配置LLM

1.配置本地模型：
點擊頭像，選擇模型供應商，選擇Ollama即可；

模型類型選擇chat，并輸入本地url。

四、創建知識庫

點擊創建知識庫：

選擇文檔語言、權限、模型即可：

上傳知識文檔：

選擇解析文件：

五、創建知識庫問答

創建助理：


提示引擎、模式設置可以根據自己的需求進行微調。

測試一下啊，可以正常使用。

六、相關資料

鏈接: ragflow文檔