前置條件
用Ollama在本地CMD窗口運行deepseek大模型-CSDN博客文章瀏覽閱讀109次,點贊5次,收藏2次。首次運行需要下載deepseek的大模型包(大約5GB,根據本地網速的不同在半個小時到幾個小時之間下載完成) ,并自動運行。第二次運行就直接輸入命令。https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369下載docker并安裝Docker中文網 官網Docker中文網 官網.https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/
https://docker.p2hp.com/
docker的安裝過程全自動,不會提示選擇安裝目錄,默認就安裝在C盤了
如果不想安裝在C盤,請在docker安裝包所在目錄運行CMD執行如下命令:
start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\Program Files\Docker" --wsl-default-data-root="D:\Program Files\Docker\data" --windows-containers-default-data-root="D:\\Program Files\\Docker"
安裝后重啟電腦打開docker desktop(沒有docker賬號可以注冊一個登錄)
點擊右下角的“>_Terminal” 輸入命令
?docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
此時docker會開始安裝open-webui相關依賴包,大概要持續30分鐘左右(根據個人網速)
安裝完成后會自動啟動一個網頁,如果沒有自動啟動網頁,就退出docker重啟電腦打開docker,在下圖位置點擊啟動deepseek的網頁。
啟動后的效果,首次需要注冊下
如果提示如上,這說明還沒有運行大模型,
打開CMD窗口運行
ollama run deepseek-r1:7b
然后訪問剛才的open-webui頁面http://localhost:3000/?刷新下網頁,左上角就加載好deepseek大模型了
可以設置頁面主題
可以用上面的方式部署到服務器端,提供給外網用戶訪問,每個用戶都可以單獨對自己的聊天窗口進行自定義