目錄
前言
一、什么是RAG？
二、環境準備和Ollama搭建
1、conda虛擬環境配置
2、Ollama搭建
三、LangChain-Chatchat搭建
1、框架安裝?
2、文件配置?
3、初始化知識庫
4、啟動Langchan-Chatchat
前言
????????由于LangChain-Chatchat的 0.3.0 版本已修改為支持不同模型部署框架接入，因此可在 CPU、GPU、NPU、MPS 等不同硬件條件下使用。本文用機位輕薄本，僅核顯。
一、什么是RAG？
????????所謂RAG即Retrieval-Augmented Generation，檢索增強生成。簡言之就是檢索、增強、生成，主要用于在大規模外部知識庫（如文檔庫、網頁、數據庫等）中查找相關內容，并將這些檢索到的信息作為上下文，輸入給生成式模型，以獲得更準確、豐富且可控的生成結果。
二、環境準備和Ollama搭建
1、conda虛擬環境配置
????????具體安裝配置步驟參考YOLO系列環境配置及訓練-CSDN博客?
下載配置完成之后，我們進入Anaconda Prompt，同時利用如下命令創建虛擬環境Langchain：
????????
conda create -n Langchain python=3.9注意：Langchain-Chatchat已支持在Python 3.8-3.11 環境中進行使用，所以版本可以自己選擇?
2、Ollama搭建
? ? ? ? 我們進入Ollama的github項目界面，下拉找到需要的版本點擊即可下載，例如我的是windows
安裝完成之后，Ollama會出現在電腦右下角的圖標中，為標志羊駝，之后我們以管理員身份運行cmd
?
?接下來我們需要安裝Ollma必要的模型quentinz/bge-large-zh-v1.5 和 bge-m3，其中quentinz/bge-large-zh-v1.5 主要支持中文，bge-m3則支持支持 100 多種工作語言。地址為：library
?兩個模型的下載命令分別為：
ollama pull bge-m3
ollama pull quentinz/bge-large-zh-v1.5回到剛才以“管理員身份運行”打開的cmd，進行模型拉取，出現如下輸出視為成功：
三、LangChain-Chatchat搭建
?????????完成上述環境配置后，我們開始搭建LangChain-Chatchat。LangChain-Chatchat的git倉庫地址為：chatchat-space/Langchain-Chatchat: Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 與 ChatGLM, Qwen 與 Llama 等語言模型的 RAG 與 Agent 應用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain
1、框架安裝?
?首先激活本文開始前創建的虛擬環境Langchain，之后將路徑cd至你自己選擇的一個目錄：
conda activate Langchain
接著安裝 Langchain-Chatchat
pip install langchain-chatchat -Upip install httpx==0.27.2 -U注意：?重新安裝對應的httpx是為了防止報錯?[BUG] httpx包版本錯誤 · Issue #5115 · chatchat-space/Langchain-Chatchat
設置?Langchain-Chatchat 存儲配置文件和數據文件的根目錄（可選），不選的話就是默認存在當前路徑：
set CHATCHAT_ROOT=/Langchain執行如下命令初始化，出現如下輸出視為成功：
chatchat init
2、文件配置?
找到剛才初始化存放文件的位置，例如我的為D:\Langchain，找到model_settings.yaml
我們先設置DEFAULT_LLM_MODEL和DEFAULT_EMBEDDING_MODEL，本文使用deepseek的R1模型API進行配置
?找到?platform_type并啟用，修改它的值：
?找到MODEL_PLATFORMS，修改它的auto_detect_model參數，設置為false，并配置embed_models：
下拉文件，找到openai，修改api_base_url、api_key和llm_models：
?api_key為你自己申請的deepseek的密鑰，具體申請路徑如下：進入官網右上角API平臺
?所有配置完成后，保存并關閉model_settings.yaml
3、初始化知識庫
回到虛擬環境Langchain的命令行操作界面，執行
chatchat kb -r
等待一段時間后，出現如下界面視為成功：
?4、啟動Langchan-Chatchat
在當前命令行繼續執行如下命令：
chatchat start -a你的默認瀏覽器會打開如下界面，若出現如下界面視為成功：
測試下對話功能
?
之后也可以在“知識庫管理”上傳需要的知識庫進行補充
?至此，RAG的框架就已經基本搭建完畢了
