本地部署一個DeepSeek大語言模型 研究學習一下。
本地快速部署大模型的一個工具 先根據操作系統版本下載Ollama客戶端
1.Ollama安裝
ollama是一個開源的大型語言模型(LLM)本地化部署與管理工具,旨在簡化在本地計算機上運行和管理大語言模型的流程。它支持多種主流開源模型(如Llama、Mistral、DeepSeek、Qwen等),并通過命令行工具、API接口及豐富的社區生態,為開發者、研究人員和愛好者提供了高效、靈活的本地AI應用開發環境。
下載地址
Download Ollama on Windows
官網地址下載較慢 可以使用以下地址?ollama官方下載最新版-ollama安裝包下載v0.5.12.0 windows國內鏡像中文版-2265安卓網
github地址
https://github.com/ollama/ollama
ollama可以用來快速安裝各種模型
ollama可以安裝的模型列表如下
https://github.com/ollama/ollama?tab=readme-ov-file
下載完 本地安裝
2.DeepSeek安裝
DeepSeek各版本說明
各模型版本硬件說明
B代表“billion”(十億)
這里先安裝模型?ollama run deepseek-r1? 7B
安裝完成 嘗嘗鮮
3.ChatBox安裝
上述命令行交互太low? 可以使用本地AI模型交互客戶端 chatBox
官網地址?Chatbox AI官網:辦公學習的AI好助手,全平臺AI客戶端,官方免費下載
按照說明配置一下
可以與本地大模型交互一下
至此本地DeepSeek模型就安裝完成了