由于前期wsl默認裝在C盤,后期部署好RagFlow后C盤爆紅,在連接ollama的時候一直在轉圈圈,問其他人沒有遇到這種情況,猜測是因為內存不足無法加載模型導致,今天重新在E盤安裝wsl
使用wsl裝Ubuntu
Win11 wsl-安裝教程
如何給WSL 2擴容硬盤(即擴展虛擬大小)
wsl 命令
查內存:wsl df -h /.
啟動:wsl -d xxxx
關閉:
在Ubuntu裝docker
教程
在安裝docker時,注意配置鏡像源文件/etc/docker/daemon.json
配置完后,需要重啟docker才能生效,這個時候,就開始爆bug了,第一次裝沒遇到的Bug此時全都出來了,從網站找了各種方案都沒解決,直接卸載重新裝一遍docker就行
在Ubuntu裝ollama
1、安裝命令
sudo curl -fsSL https://ollama.com/install.sh | sh
這里我有點懷疑是不是ollama的官網有問題導致我昨天添加模型一直轉圈圈。。。。。
在國內環境下,這個方法往往會卡住
首先下載并修改安裝腳本,然后修改下載源
# 下載安裝腳本
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh# 給腳本添加執行權限
chmod +x ollama_install.sh
把下面兩個地址
https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}
https://ollama.com/download/ollama-linux-amd64-rocm.tgz${VER_PARAM}
分別改成
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64-rocm.tgz
好用的github文件加速
2、拉取模型
首先,你需要創建一個新的文件夾來存放Ollama模型
sudo mkdir /path/to/ollama/models
我的本地模型統統存在D:\04 Ollama models
確保這個目錄的權限用戶和組都是root,并且權限全開,為777。如果不是,可以用以下命令設置
sudo chown -R root:root /path/to/ollama/models
sudo chmod -R 775 /path/to/ollama/models
接下來,你需要編輯Ollama的服務文件來指定新的模型存儲路徑
sudo vim /etc/systemd/system/ollama.service
在[Service]部分下加入一行新的Environment,設置OLLAMA_MODELS環境變量指向你創建的目錄
Environment="OLLAMA_MODELS=/path/to/ollama/models" # 記得替換路徑!!!
刷新配置并重啟Ollama:保存并退出編輯器后,執行以下命令來刷新配置并重啟Ollama服務
sudo systemctl daemon-reload
sudo systemctl restart ollama.service
最后,你可以通過運行ollama list命令來檢查路徑是否設置成功
ollama的模型參數說明書
在Ubuntu部署RagFlow
sudo sysctl -w vm.max_map_count=262144
修改ragflow/docker/.env,將需要的RAGFLOW_IMAGE取消注釋
docker compose -f docker-compose.yml up -d
第一次拉鏡像賊慢,waiting~~~~~~~
11434時Ragflow分給ollama的端口,如果是第一次裝,在ragflow拉完鏡像后先進入 http://loacalhost:80進行注冊,然后再進行后續操作
檢查ollama是否運行:進入http://loacalhost:11434,正常情況顯示Ollama is running,如果ragflow沒有完全配置好,會提示網絡錯誤
可以通過打印日志來檢查ragflow服務是否正常運行,
docker logs -f ragflow-server
正常界面如下
之前我有遇到過文件丟失的情況,但實際上文件并沒有丟失,如圖
據說是因為鏡像損壞,可以更換鏡像,詳細修改參考這里
9GB的鏡像,已經拉了3.5h+了