這里寫自定義目錄標題
- 環境搭建
- 下載Ollama
- 安裝olama
- 修改模型下載位置(可以不設置)
- 通過ollama下載/啟動模型
- 常用命令
- 其他
環境搭建
下載Ollama
安裝olama
默認安裝位置是c盤
安裝到指定位置使用以下命令
OllamaSetup.exe /DIR="d:\Ollama"
修改模型下載位置(可以不設置)
模型默認c盤->用戶->用戶名-> .ollama->models文件夾下。
指定模型下載位置:
找到這個文件夾,移動到復制到指定文件夾,如“D:\ollama”;模型就會下載到這里。
#各環境默認安裝位置
Linux: /var/lib/ollama/models
Windows : C:\Users\用戶名>\.ollama\models
macOs: /Library/Application Support/0llama/models
通過ollama下載/啟動模型
第一次執行該命令會先下載模型,如果已經下載過則會啟動模型
ollama run llama3
下載截圖
啟動成功如下圖
輸入指令可以正常溝通
常用命令
- ollama list:顯示模型列表;
- 顯示模型的信息:ollama show:
- ollama pu11:拉取模型;此命令也可以用于更新本地模型,只會拉取差異部分。
- ollama push:推送模型;
- ollama cp:拷貝一個模型
- ollama rm:刪除一個模型;
- ollama run:運行一個模型;
- ollama start 啟動服務;
- ollama serve 在不運行桌面應用程序的情況下啟動 ollama;
- ollama models 查看模型列表;
- ollama model details[模型名稱]獲取更詳細的模型信息,包括模型的描述、版本、大小等
- ollama models查看模型列表
其他
默認地址和端口:Ollama API 的默認地址是http://localhost:11434,
可以在安裝 Ollama 的系統中直接調用。
參考:
Ollama 使用指南
Ollama 永久調整默認下載模型文件的位置