以下是在本地使用Ollama部署DeepSeek的詳細教程,涵蓋安裝、修改安裝目錄、安裝大模型以及刪除大模型的操作步驟。
安裝Ollama
1. 系統要求
確保你的系統滿足以下條件:
- 操作系統:macOS、Linux或者Windows。
- 足夠的磁盤空間和內存。
2. 安裝步驟
- macOS:可以通過Homebrew來安裝Ollama。
brew install ollama
- Linux:在Linux系統中,可以使用以下命令進行安裝。
curl https://ollama.com/install.sh | sh
- Windows:從Ollama的官方網站(https://ollama.com/)下載Windows版本的安裝程序,然后按照安裝向導的提示完成安裝。
- 注意:
Ollama默認安裝目錄是C盤的用戶目錄,如果不希望安裝在C盤的話(其實C盤如果足夠大放C盤也沒事),就不能直接雙擊安裝了。需要通過命令行安裝。
-命令行安裝方式如下:
在OllamaSetup.exe所在目錄打開cmd命令行,然后命令如下:
OllamaSetup.exe /DIR=你要安裝的目錄位置
修改安裝目錄
在大多數情況下,Ollama默認會將模型和相關數據存儲在特定的目錄中。若要修改安裝目錄,可在啟動Ollama時通過環境變量來指定。
Linux和macOS
編輯你的shell配置文件(如~/.bashrc
或~/.zshrc
),添加以下內容:
export OLLAMA_MODELS_DIR=/path/to/your/new/models/directory
保存文件后,使配置生效:
source ~/.bashrc # 如果你使用的是bash
source ~/.zshrc # 如果你使用的是zsh
Windows
在系統環境變量中添加一個名為OLLAMA_MODELS_DIR
的變量,其值為你想要的新安裝目錄路徑。
安裝DeepSeek大模型
在安裝好Ollama之后,你可以使用以下命令來安裝DeepSeek模型。以deepseek-coder:6.7b-base
為例:
ollama pull deepseek-coder:6.7b-base
該命令會從Ollama的模型庫中下載deepseek-coder:6.7b-base
模型,并將其存儲在之前指定的模型目錄中。
查看大模型
若要查看已安裝的大模型,可以使用以下命令:
ollama list
刪除大模型
若要刪除已安裝的大模型,可以使用以下命令:
ollama rm deepseek-coder:6.7b-base
此命令會從本地刪除deepseek-coder:6.7b-base
模型,釋放相應的磁盤空間。
驗證安裝
安裝完成后,你可以使用以下命令來驗證模型是否正常工作:
ollama run deepseek-coder:6.7b-base "你的輸入內容"
將你的輸入內容
替換為你想要詢問模型的具體問題,模型會輸出相應的回答。
通過以上步驟,你就可以在本地使用Ollama部署DeepSeek模型,并對模型進行管理。