分享記錄一下本地部署大模型步驟。
大模型應用部署可以選擇 ollama 或者 LM Studio。本文介紹ollama本地部署
ollama官網為:https://ollama.com/
進入官網,下載ollama。
ollama是一個模型管理工具和平臺,它提供了很多國內外常見的模型,我們可以在其官網上搜索自己需要的模型:
https://ollama.com/search
案例以deepseek-r1 為模型。
在ollama會給出運行模型的命令
下載完成ollama后,進行運行deepseek模型
ollama run deepseek-r1:7b
至此,就可以本地模型進行聊天了。
退出聊天