本人使用window版本上構建dify,采用docker方法啟動
1、拉取鏡像問題
windows上更改拉取鏡像倉庫地址
優化加速參考:青春不留白/Docker-hub
如果還是拉取比較慢的話,建議科學上網解決。
2、啟動問題
發生報錯Dify:failed to init dify plugin db問題,初步判斷:啟動服務的時候,db的服務還沒有啟動完成導致初始化不成功,以后服務沒辦法正常進行
分析:在dify環境中,各模塊的相互依賴關系如下:
api:db,redis
woker:db,redis
plugin_daemon:db
nginx:api,web
csdn給出一個解決方案使用 wait-for-it.sh的方法,參考見:解決Dify:failed to init dify plugin db問題
進一步分析,其實初始化只在第一次和升級的時候發生,第一次啟動正常后就不會影響,直接按照啟動保證初始化即可:docker compose up -d 服務名,啟動的時候給db啟動的時間長一點即可,驗證沒有問題。
3 ollama模型接入注意
環境變量設置:
OLLAMA_HOST設置為0.0.0.0,如果設置,dify使用localhost連接,因為在docker是監聽不到宿主機的地址
OLLAMA_MODELS:如果更改了MODELS的地址,需要更改到對應的目錄
OLLAMA_GPU_LAYER:如果要使用GPU,設置對應DEV,一般有一塊GPU設置為0即可
OLLAMA_MAX_LOADED_MODELS:如果要加載多個模型的話,需要設置并行的模型數量
說明:ollama可以運行非生成式模型以供dify調用
dify連接信息:
默認的鏈接地址: http://host.docker.internal:11434 ,官方有文檔說明