一、下載ollama軟件安裝
1、下載ollama軟件?Ollama
下載完成后可以直接進行安裝(外網,速度可能會有點慢)
2、修改安裝目錄
進去下載的目錄,使用cmd打開終端輸入OllamaSetup.exe /DIR=E:\MySoftware\Ollama
輸入完成后會自動打開安裝,直接install即可。
3、驗證是否安裝完成
使用ollama - v 查看版本號
二、 下載deepseek模型
1、進入ollama官網,選擇需要的模型文件進行復制(我這里下載的1.5版本)
2、使用ollama進行安裝
1、遠程拉取模型
使用 win+r 打開終端
輸入復制的命令?ollama run deepseek-r1:1.5b??
我這里是安裝失敗,網絡連接失敗了和網絡有關,找了好久沒有解決,所以只能添加模型鏡像了
2、模型鏡像添加?
1、進入鏡像網站下載Models - Hugging Face(外網可能需要梯子)進行下載
2、另外一個模型庫網站阿里云的魔塔ModelScope?模型庫首頁 · 魔搭社區?進行下載
3、等待下載完成,進入安裝ollama的路徑:我這里是 E:\wzk\Al? ? 創建?deepseek-1.5b.mf文件 ,名字可以自己取。
deepseek-1.5b.mf文件內容:修改FROM為自己下載的鏡像文件路徑
# Modelfile generated by "ollama show"
# To build a new Modelfile based on this, replace FROM with:
# FROM deepseek-r1:7bFROM E:\wzk\Al模型鏡像\deepseek-1.5b.gguf
TEMPLATE """{{- if .System }}{{ .System }}{{ end }}
{{- range $i, $_ := .Messages }}
{{- $last := eq (len (slice $.Messages $i)) 1}}
{{- if eq .Role "user" }}<|User|>{{ .Content }}
{{- else if eq .Role "assistant" }}<|Assistant|>{{ .Content }}{{- if not $last }}<|end▁of▁sentence|>{{- end }}
{{- end }}
{{- if and $last (ne .Role "assistant") }}<|Assistant|>{{- end }}
{{- end }}"""
PARAMETER stop <|begin▁of▁sentence|>
PARAMETER stop <|end▁of▁sentence|>
PARAMETER stop <|User|>
PARAMETER stop <|Assistant|>
3、鏡像文件安裝
打開終端輸入進行安裝:
ollama create deepseek1.5 -f E:\wzk\Al\deepseek-1.5b.mf
出現success表示安裝完成
輸入 ollama list? 查看是否安裝完成
執行deepseek模型 ollama run deepseek1.5:latest ,就可以進行對話了
三、deepseek可視化
Chatbox AI官網:辦公學習的AI好助手,全平臺AI客戶端,官方免費下載
1、下載chatbox可視化軟件進行安裝
2、配置軟件
選擇ollama api 會自動選擇我們部署完成的deepseek,保存即可