ollama
Ollama 是一款開源跨平臺的大語言模型(LLM)運行工具,旨在簡化本地部署和管理 AI 模型的流程。
下載ollama
進入官網下載https://ollama.com/
選擇需要的系統下載
下載完成后直接進行安裝
下載大模型
選擇想要部署的模型,這里部署deepseek-r1
選擇想要部署的大模型的大小,這里我選擇1.5b,因為我的電腦配置沒有很高,如果電腦配置很高可以自行選擇。
安裝模型:復制上方圖片中的內容,win+r輸入cmd打開控制面板。
輸入ollama serve打開ollama,正常下載完成后ollama會自動開啟。直接跳過這一步也可以。然后新添加一個控制面板,輸入
進行下載安裝。安裝完成后再輸入一遍上方圖片的內容就可以使用。