這是目錄
- linux下載ollama
- 模型文件下載到本地,打包遷移到k8s等無網絡環境使用
- 下載打包ollama鏡像
- 非k8s環境使用
- k8s部署
- 訪問方式
- 非ollama運行deepseek模型
linux下載ollama
下載后可存放其他服務器
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
解壓后將ollama二進制文件放到/usr/bin/下
做成systemd管理方式參考
[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"[Install]