模型部署
模型下載表:
deepseek-r1
win安裝ollama
注意去官網下載ollama,這個win和linux差別不大,win下載exe
linux安裝ollama
采用docker方式進行安裝:
OLLAMA_HOST=0.0.0.0:11434 \
docker run -d \--gpus all \-p 11434:11434 \--name ollama \-v ollama:/root/.ollama \ollama/ollama
docker exec -it ollama bin/bash
ollama pull qwen3:32b
ollama run qwen3:32b