前提條件:
1、win10系統更新到最新的版本,系統版本最好為專業版本
winver
查看系統版本,內部版本要大于19045
2、CPU開啟虛擬化
3、開啟虛擬化功能,1、2、3每步完成后均需要重啟電腦;
注:windows 虛擬機監控程序平臺不開啟的話可能導致后面docker desktop啟動不起來
開始:
1、在CMD/POWERSHELL中敲擊命令wsl --version,查看WSL版本,如果版本為1.0則執行update命令,然后切換至2的版本
#查看版本
wsl --version#更新
wsl --update#設置為wsl2
wsl --set-default-version 2#列出可用的linux發行版本
wsl --list --online#列出已安裝的 Linux 發行版
wsl --list --verbose#推薦安裝ubuntu2204,后面為安裝路徑
wsl --install Ubuntu22.04 E:\Ubuntu2204#檢查 WSL 狀態
wsl --status#關閉
wsl --shutdown#導入和導出發行版
wsl --export <Distribution Name> <FileName>
wsl --import <Distribution Name> <InstallLocation> <FileName>#導入已經存在的文件
#將指定的 .vhdx 文件導入為新的發行版。 虛擬硬盤必須采用 ext4 文件系統類型格式
wsl --import-in-place <Distribution Name> <FileName>#注銷或卸載 Linux 發行版
wsl --unregister <DistributionName>
2、安裝docker desktop,win10建議下載4.26.1,按照要求進行安裝即可,安裝完成后進行如下設置:
wsl安裝好ubtuntu之后我們是可以在dokcer desktop里面看到已經裝好的linux系統
修改配置地址
3、拉取代碼及下載模型
#下載qanything的基礎代碼
git clone https://github.com/netease-youdao/QAnything.git#下載基礎LLM,文件較大,提前下載好之后,解壓放到qanything代碼的根目錄里,文件夾為models
git clone https://www.modelscope.cn/netease-youdao/QAnything.git#千問模型可以不用下載,系統會自動拉取
更改shell腳本的回車(在windows下創建編輯的shell腳本是dos格式的,而linux卻是只能執行格式為uni格式的腳本),否則執行時會報錯,將回車符替換為空字符串
sed -i "s/\r//" scripts/run_for_local_option.sh
sed -i "s/^M//" scripts/run_for_local_option.sh
sed -i "s/\r//" scripts/run_for_cloud_option.sh
sed -i "s/^M//" scripts/run_for_cloud_option.sh
sed -i "s/\r//" run.sh
sed -i "s/^M//" run.sh
sed -i "s/\r//" close.sh
sed -i "s/^M//" close.sh
執行啟動命令
bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything
若發現npm run install報錯failed to install npm dependencies,請參考將npm換成yarn
\scripts\run_for_local_option.sh,找到npm install那里,修改一下代碼
npm config set registry https://registry.npmmirror.com
npm install -g yarn
yarn config set registry https://registry.npmmirror.comtimeout 180 yarn install
4、遷移docker-desktop-data,防止C盤文件過大
wsl --shutdownwsl --export docker-desktop-data E:\docker-desktop\docker-desktop-data.tarwsl --unregister docker-desktop-datawsl --import docker-desktop-data E:\docker-desktop\data E:\docker-desktop\docker-desktop-data.tar --version 2
參考地址:網易有道QAnything 安裝部署實踐(RAG)-CSDN博客