?前置說明

linux服務器版本：CentOS10

ollama版本：v0.11.6

下載安裝包

下載安裝包

官網地址：Ollama

下載地址：Download Ollama

選擇linux平臺，由于使用官網提供的腳本直接安裝容易失敗，這里選擇手動下載安裝包進行安裝，直接去github下載安裝包：https://github.com/ollama/ollama/tags

選擇對應安裝的版本，這里以v0.11.6為例，選擇對應平臺的安裝包下載

下載好安裝包之后上傳到服務器，或者直接使用以下命令將安裝包下載到服務器

wget https://github.com/ollama/ollama/releases/download/v0.11.6/ollama-linux-amd64.tgz

解壓

壓縮包直接解壓到/usr目錄下，可以省去配置環境變量的步驟

tar -xvf ollama-linux-amd64.tgz -C /usr

查看版本號

ollama -v

創建用戶組

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $(whoami)

關閉防火墻

systemctl stop firewalld.service
systemctl disable firewalld.service

添加為系統服務

vim /etc/systemd/system/ollama.service

內容如下

[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11434"[Install]
WantedBy=multi-user.target

啟動ollama 服務、設置開機自啟

systemctl daemon-reload
systemctl enable ollama
systemctl start ollama

查看服務運行狀態

systemctl status ollama