參考鏈接
https://blog.csdn.net/imwaters/article/details/145489543
https://modelscope.cn/models/modelscope/ollama-linux
1. ollama安裝
# 安裝ModelScope工具包,用于下載和管理AI模型
pip install modelscope# 下載Ollama的Linux版本安裝包
# --model 指定要下載的模型ID
# --local_dir 指定下載到本地的目錄
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux# 進入下載好的ollama-linux目錄
cd ollama-linux# 給安裝腳本添加執行權限
# chmod 777表示賦予所有用戶讀、寫、執行的權限
sudo chmod 777 ./ollama-modelscope-install.sh# 執行安裝腳本,該腳本會自動安裝Ollama服務
# 安裝過程包括:解壓文件、配置環境變量、設置系統服務等
./ollama-modelscope-install.sh
這個安裝流程主要完成以下幾個步驟:
- 安裝ModelScope工具,它是一個用于AI模型管理的Python庫
- 使用ModelScope下載Ollama的Linux安裝包
- 為安裝腳本添加執行權限
- 運行安裝腳本,完成Ollama的系統級安裝
安裝完成后,Ollama服務會在系統中注冊,可以通過命令行直接調用。
2. 下載并啟動模型
ollama run qwen2.5:0.5b