【deepseek第一課】從0到1介紹 采用ollama安裝deepseek私有化部署,并實現頁面可視化
- 1. ollama安裝
- 1.1 linux安裝
- 1.2 windows安裝
- 2. deepSeek支持的7種蒸餾模型
- 2.1 蒸餾模型介紹
- 2.2 7種模型特點
- 2.3 安裝deepseek-r1:14b模型
- 3. openwebui圖形化頁面安裝
- 4. java連接大模型的三種方式
- 5.注意事項
1. ollama安裝
ollama的定義:相當于管理大模型的docker
https://ollama.com/download/linux
按照官網指引,安裝
1.1 linux安裝
curl -fsSL https://ollama.com/install.sh | sh
bashrc末尾修改,變更模型目錄,防止系統盤滿,改到大的非系統盤:
export OLLAMA_MODELS=/home/ollama/models
[root@node1 ~]# ollama --version
ollama version is 0.5.12Redirecting to /bin/systemctl status ollama.service
● ollama.service - Ollama ServiceLoaded: loaded (/etc/systemd/system/ollama.service; enabled; vendor preset: disabled