文章目錄
- 前言
- 軟件下載
- DeepSeek部署
- ChatBox集成
前言
最近這段時間,“DeepSeek”(深度求索)人工智能平臺非常的火爆,正確的使用可以幫我們做很多很多事情,通常我們是在瀏覽器網頁或手機APP使用,但是有時會受到本地網絡或者遠程服務器等限制,導致使用卡頓或無回復。
本文介紹在個人電腦本地部署DeepSeek-R1模型,部署完成之后,就可以在本地離線使用,而無需網絡連接,能夠為用戶提供更高效的解決方案。
軟件下載
為了能在我們個人電腦本地部署DeepSeek,需要先下載兩個軟件,這兩個軟件都是免費下載使用的。
- Ollama
Ollama 是一個開源的本地大語言模型運行框架,專為在本地機器上便捷部署和運行大型語言模型(LLM)而設計。Ollama 支持多種操作系統,包括 macOS、Windows、Linux 以及通過 Docker 容器運行。Ollama 提供對模型量化的支持,可以顯著降低顯存要求,使得在普通家用計算機上運行大型模型成為可能。
官方下載地址:Download Ollama
https://ollama.com/download/windows
支持主流的三大平臺,這里我們選擇Windows系統,目前(2025-03-08)最新版本是0.5.13,安裝包大小是0.97GB。
- ChatBox
Chatbox AI 是一款 AI 客戶端應用和智能助手,支持眾多先進的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和網頁版上使用。
官方下載地址:Chatbox AI官網
https://chatboxai.app/zh
同樣支持多種平臺,目前最新版本是1.10.4,安裝包大小為146MB。
DeepSeek部署
下載完成之后,直接雙擊安裝包進行安裝。
Ollama默認無法修改安裝路徑,默認安裝在C盤,可以通過命令行的方式來自定義安裝位置,由于涉及到環境變量等操作,這里我們不做介紹,采用默認的雙擊安裝方式。
目前DeepSeek為了滿足不同性能平臺的需求,有多種參數量的模型庫可供選擇,有1.5b、7b、8b、14b、32b、70b和671b,b代表十億參數量。1.5b版本模型庫文件最小,只有1.1GB。
安裝完成之后,打開CMD窗口,輸入如下命令來安裝DeepSeek-R1 1.5b:
ollama run deepseek-r1:1.5b
部署進度和網絡情況有關:
等待安裝完成后,關閉cmd窗口。
至此,DeepSeek-R1 1.5b版本就已經被部署到我們的電腦本地了,即時斷開網絡連接也可以正常使用,下面我們來簡單體驗一下,打開CMD窗口,輸入如下命令運行DeepSeek模型:
ollama run deepseek-r1:1.5b
輸入我們的問題后按回車鍵,就會得到DeepSeek給我們的回應。
ChatBox集成
雖然我們可以通過CMD窗口進行對話,但是相對不那么直觀,我們可以通過第三方客戶端來實現對話聊天的效果。
打開ChatBox軟件,選擇使用自己的本地模型
。
模型提供方選擇Ollama
配置我們剛才下載的DeepSeek-R1:1.5b模型文件。
好了,盡情的使用DeepSeek吧!
雖然官方推薦的顯卡要求是RTX3060及以上,但是在我筆記本電腦(MX450顯卡)上也可以正常運行。