目錄
deepseek一鍵部署腳本說明
0 必要前提
1 使用方法
1.1 使用默認安裝配置
1.1 .1 使用其它ds模型
1.2 使用自定義安裝
2 附錄:deepseek模型手動下載
3 腳本下載地址
deepseek一鍵部署腳本說明
0 必要前提
-
linux環境
-
python>=3.10
1 使用方法
1.1 使用默認安裝配置
不建議:這種方法安裝包自帶了8b的模型,整個包有25G。
-
下載DeepSeek-R1-one.tar.gz
-
將DeepSeek-R1-one.tar.gz壓縮包解壓到/data路徑下,包含了deepseek-r1、 deploy.sh、使用說明.pdf
-
DeepSeek-R1: DeepSeek-R1的8b模型
-
deploy.sh:安裝腳本
-
使用說明.pdf: deploy.sh的使用說明
-
-
壓縮包自帶了deepseek-r1的8b模型,確保模型所在路徑為/data/DeepSeek-R1
-
執行deploy腳本:bash deploy.sh
等待安裝完成:
后端服務api地址 : http//:ip:24444;可在瀏覽器頁面打開,查看接口文檔
自帶可視化頁面:http//:ip:6008;可在瀏覽器頁面打開,開始與ds對話。
1.1 .1 使用其它ds模型
確保模型路徑命名為/data/DeepSeek-R1
其它同1.1
1.2 使用自定義安裝
腳本下載地址
可自定義后端端口號、前端端口號、模型路徑、模型名稱、顯卡數量
-
可直接下載deploy.sh腳本文件
-
執行deploy腳本:./deploy.sh --custom
-
根據提示配置后端端口號、前端端口號、模型路徑、模型名稱
等待安裝完成:
后端服務api地址 : http//:ip:自定義端口;可在瀏覽器頁面打開,查看接口文檔
自帶可視化頁面:http//:ip:自定義端口;可在瀏覽器頁面打開,開始與ds對話。
2 附錄:deepseek模型手動下載
-
modelscope
-
huggingface
3 腳本下載地址
-
腳本下載地址
-
相關渠道聯系博主
4 其它
支持lmdeploy部署的,都可以使用該腳本