環境:
Win10專業版
Ubuntu20.04
問題描述:
在另外一臺可以科學下載的電腦用ollama下載模型后,怎么導入到另外一臺服務器的ollama使用,原電腦win10上的ollama下載的模型,復制到ubuntu20.04的ollama上推理
解決方案:
一、Windows端模型文件定位與提取
- 定位模型存儲路徑
Windows默認路徑:C:\Users\[用戶名]\.ollama\models
需復制兩個核心目錄:
?blobs
:存放所有模型二進制文件(文件名以sha256哈希值命名)
?manifests
:包含模型元數據(路徑為manifests/registry.ollama.ai/library/[模型名]/版本文件
)
-
選擇性提取文件
二、Ubuntu端模型部署
- 目錄準備與權限設置
/usr/share/ollama/.ollama/models/chmod -R a+w /usr/share/ollama/.ollama/models
- 文件傳輸
找到對應模型文件
上傳到服務器
三、服務驗證
-
重啟Ollama服務(一般不重啟,沒讀到再重啟試試)
sudo systemctl restart ollama
-
模型狀態檢查
# 查看模型列表 ollama list
就會出現新遷移的模型,最后run一下試試
四、常見問題處理
問題現象 | 解決方案 |
---|---|
模型列表不顯示 | 檢查manifests 目錄結構是否為registry.ollama.ai/library/[模型名]/版本文件 |
推理時報權限錯誤 | 執行sudo chmod -R 755 /usr/share/ollama/.ollama/models |
服務啟動失敗 | 檢查systemd配置:sudo journalctl -u ollama.service -b |
顯存不足導致推理中斷 | 改用較小參數模型(如1.5b替代7b),或添加swap空間 |
遷移驗證要點:
- 對比Windows與Ubuntu的blobs目錄文件哈希值(使用
sha256sum
命令) - 確保manifest文件中的digest值與實際blobs文件對應
- 通過
ollama ps
查看模型加載狀態