在B站學習 圖靈程序員-諸葛 的LangChain快速入門課程之《部署FastGPT構建本地應用》。在我學習課程跟著老師實踐的過程中,踩了一些坑。這篇文章以問答的形式記錄一下學習中的一些問題,主要面向的讀者是,在學習同樣的課程的和部署FastGPT遇到各種問題的同學。
為什么下載的config.json和docker-compose.yml文件與課程視頻中的差別很大
視頻教程和官方文檔都說要從FastGPT github倉庫的main分支獲取config.json和docker-compose.yml。但FastGPT版本發布非常頻繁,導致老師視頻中展示的配置文件內容和main分支的內容差距較大。從視頻內容推測老師使用的是FastGPT 4.8.11版本,所以去下載4.8.11版本中的那兩個文件會更好一些。我最終選擇下載了4.8.11-fix版本里的文件,鏈接分別是
- https://raw.githubusercontent.com/labring/FastGPT/refs/tags/v4.8.11-fix/projects/app/data/config.json
- https://raw.githubusercontent.com/labring/FastGPT/refs/tags/v4.8.11-fix/files/docker/docker-compose-pgvector.yml
使用docker-compose命令啟動容器提示fastgpt Error manifest unknown和sandbox Error manifest unknown怎么辦?
科學上網后,直接從ghcr.io下載鏡像
docker pull ghcr.io/labring/fastgpt:v4.8.11-fix
docker pull ghcr.io/labring/fastgpt-sandbox:v4.8.11-fix
等鏡像下載完成后再次執行docker-compose命令啟動容器。其他版本的鏡像地址可以在下面這兩個網址里找到
- https://github.com/labring/FastGPT/pkgs/container/fastgpt
- https://github.com/labring/FastGPT/pkgs/container/fastgpt-sandbox
視頻教程使用了M3E這個向量模型,一定要用這個嗎?
M3E向量模型的docker鏡像大小超過了6GB,部署成本比較高,所以我沒有選擇使用這個向量模型。最終通過One API接入本地Ollama的向量模型運行了FastGPT,目前運行一切良好。
希望本文對你有所幫助。如果有遇到部署的問題,歡迎在評論區討論。