文章目錄
- 前言
- 1.安裝Container Manager
- 2. 啟動ssh功能
- 3. ssh連接黑群暉
- 4. 安裝Ollama
- 5. 安裝deepseek模型
- 6. 安裝open-webui圖形界面
- 7. 安裝內網穿透
- 7.1 下載cpolar套件
- 7.2 配置群輝虛擬機
- 7.3 配置公網地址
- 小結
- 7.4 配置固定公網地址
- 總結
前言
在追求自建網絡存儲方案的極客群體中,開源群暉系統已成為廣泛應用的搭建方式。通過改造現有硬件資源構建的自定義存儲平臺,不僅解決了基礎的數據管理需求,更賦予了技術實踐的獨特價值。當生成式AI技術的快速發展推動DeepSeek成為行業焦點時,該模型對計算資源的高需求確實帶來了挑戰。本文將探討如何在自建存儲架構中實現DeepSeek模型的部署優化,幫助用戶構建個性化的AI應用環境。特別值得關注的是,借助內網穿透技術,即便在沒有公網IP地址的情況下,也能實現對本地服務的遠程訪問。現在讓我們進入實踐環節,開啟這場技術整合的創新之旅。
1.安裝Container Manager
首先,我們需要準備好一臺安裝了黑群暉系統的主機,不會安裝的小伙伴可以參考一下這篇文章,從零開始在Windows使用VMware虛擬機安裝黑群暉7.2系統并實現遠程訪問
首先訪問黑群暉web管理界面(http://黑群暉主機IP+端口號)打開群暉的套件中心,先安裝好Container Manager:
2. 啟動ssh功能
打開群暉控制面板,終端機和SNMP,在“啟動SSH功能”處打勾,端口號默認22,點擊應用:
3. ssh連接黑群暉
在電腦上打開CMD或Powershell等SSH工具,填寫黑群暉的IP地址,SSH端口,群暉管理員賬號,輸入管理員密碼登錄:
PS:黑群暉的IP在群暉助手中查看:
然后輸入 sudo -i
回車,再次輸入管理員密碼回車,進入root狀態下;
4. 安裝Ollama
在終端中執行下方命令即可啟動Ollama容器:
docker run --name ollama -d \
--restart always \
--net=host \
-v /volume1/docker/ollama:/root/.ollama \
ollama/ollama:latest
其中/volume1/docker/ollama是提前在NAS中創建好的AI模型的下載路徑,請根據自己實際路徑填寫。
Ollama容器啟動完畢后,打開群暉Container Manager,點擊容器:
可以看到ollama容器確實已經在運行中:
5. 安裝deepseek模型
右鍵打開終端機:
然后點擊新增–通過命令行啟動:
本教程安裝的是deepseek-r1 1.5B的模型,復制下方命令:
ollama run deepseek-r1:1.5b
如果你想安裝別的模型,可以把命令中的1.5b換成你想安裝的模型名稱(字母用小寫)
ollama官網deepseek模型下載地址:https://ollama.com/library/deepseek-r1
點擊確定:
安裝中,請耐心等待:
當看到有顯示 success 的時候,表示deepseek模型已經安裝成功:
我們現在就可以在終端中對deepseek提問進行聊天了:
但是在終端界面中聊天可能不是很美觀,而且在復制回答時也不太方便,我們可以通過安裝一個Web UI界面來解決這個問題。
6. 安裝open-webui圖形界面
打開群暉file station,在非中文、沒有特殊符號的文件夾中,建立一個名稱為open-webui的子文件夾,
右鍵open-webui的文件夾,點屬性,復制這里顯示的路徑:
打開cmd或powershell等終端工具,執行下方命令安裝open-webui圖形界面:
docker run --name open-webui -d --restart always --net=bridge -p 3000:8080 -e OLLAMA_BASE_URL="http://192.168.50.142:11434" -v /volume1/wdgx/tool/open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main
注意:上邊命令中的IP需要替換為你的黑群暉主機IP,/volume1/wdgx/tool/open-webui路徑需要替換為你實際創建的open-webui路徑。
open-webui容器啟動后,在瀏覽器打開http://群暉的IP:3000,即可看到open-webui的登錄界面:
輸入信息創建管理員賬號后,即可跳轉到web聊天界面,并能看到已經默認選擇了剛才本地部署的deepseek-r1模型:
現在我們就能在網頁中和deepseek聊天了,和剛才在終端對比,不僅增加了更多功能,界面也更加美觀了:
7. 安裝內網穿透
我們現在已經實現了在本地黑群暉NAS中部署Ollama并接入Deepseek-R1模型,并快速搭建Open WebUI界面實現同一局域網內用戶都能在網頁中與AI模型聊天。
但如果你的主機配置很不錯,想讓異地好友或者同事也能遠程使用你在本地黑群暉NAS中部署的deepseek大模型應該怎么辦呢?
雖然黑群暉沒有quickconnect功能(無法公網環境遠程訪問),但只要安裝一個cpolar內網穿透工具就能輕松實現遠程訪問內網主機中部署的服務了,他人無需二次部署,節約成本,提高效率,接下來介紹一下如何安裝cpolar內網穿透。
cpolar官網地址: https://www.cpolar.com
7.1 下載cpolar套件
群暉系統的軟件安裝程序與在windows系統有很大不同,首先,我們下載cpolar的群暉系統套件。
首先登錄cpolar的官網(https://www.cpolar.com/),點擊網頁上方的“下載”按鈕:
在cpolar下載頁面找到“NAS群暉”選項,點擊“立即下載”。
進入cpolar的NAS群暉下載頁面后,在下拉菜單中選擇NAS群暉型號,以及群暉系統版本。
本教程中,我們可以通過群暉搜索助手看到型號是:DS3622xs+
回到cpolar群暉下載頁面,選擇好型號、版本、點擊下載:
下載后的cpolar安裝文件為:cpolar_x64-7.0_3.2.92-1.spk
回到群暉系統中,點擊進入“套件中心”,點選右側的“手動安裝”按鈕:
此時會出現一個“上傳套件”的頁面,在這里點擊“瀏覽”按鈕,選擇我們下載的cpolar套件位置,下一步:
點擊同意:
點擊完成:
只需等待很短時間,cpolar就能安裝完成,此時回到套件中心主頁,就能看到cpolar已經加入了“已安裝”列表內。
此時我們點擊cpolar,就能進入cpolar軟件信息頁。在這里,我們能找到訪問cpolar客戶端的URL(cpolar客戶端采用Web-UI界面,因此是URL地址)
在新開的Cpolar Web-UI界面中,可以通過該頁面下方的“免費注冊”鏈接,快速輕松的獲得cpolar賬號。
7.2 配置群輝虛擬機
我們在文章第2步已經啟動了ssh功能,可以跳過這步了,但還是再提一遍如何操作吧!
要讓群暉系統接受遠程操作和訪問,我們還需要進行幾個簡單設置。首先在群暉的控制面板內找到“終端機和SNMP”選項:
進入“終端機和SNMP”項后,勾選“啟動SSH功能”,如果想要更改端口,必須將端口號記牢,避免之后cpolar設置時端口號錯誤(注:由于群暉周邊套件占用了大量端口,若無必要盡量不要修改默認端口號)。
7.3 配置公網地址
打開cpoalr套件,點擊:9200鏈接:
輸入Cpolar郵箱賬號與密碼進行登錄:
在cpolar管理界面,點擊左側儀表盤的隧道管理——創建隧道,創建一個的公網地址隧道!
- 隧道名稱:可自定義命名,我這里使用了 openwebui 注意不要與已有的隧道名稱重復
- 協議:選擇 http
- 本地地址:3000
- 域名類型:免費選擇隨機域名
- 地區:選擇China Top
點擊創建
隧道創建成功后,點擊左側的狀態——在線隧道列表,查看所生成的公網訪問地址,有兩種訪問方式,一種是http 和https。
使用上面cpolar生成的公網地址可以看到成功的訪問到了open webui的界面當中了:
輸入剛才創建的管理員郵箱密碼即可正常登錄使用deepseek或其他部署在本地的大模型了:
小結
為了更好地演示,我們在前述過程中使用了cpolar生成的隧道,其公網地址是隨機生成的。這種隨機地址的優勢在于建立速度快,可以立即使用。然而,它的缺點是網址由隨機字符生成,不太容易記憶(例如:3ad5da5.r10.cpolar.top)。另外,這個地址在24小時內會發生隨機變化,更適合于臨時使用。
我一般會使用固定二級子域名來為本地部署的服務配置公網地址,這樣將網址發送給同事或客戶時,它是一個固定、易記的公網地址(例如:linuxsystem.cpolar.cn),這樣更顯正式,便于流交協作。
7.4 配置固定公網地址
如果有長期遠程訪問本地黑群暉NAS,或者異地訪問與使用其他本地部署的服務的需求,但又不想每天重新配置公網地址,還想讓公網地址好看又好記并體驗更多功能與更快的帶寬,那我推薦大家選擇使用固定的二級子域名方式來配置公網地址。
登錄cpolar官網 https://www.cpolar.com,點擊左側的預留,選擇保留二級子域名,設置一個二級子域名名稱,點擊保留:
保留成功后復制保留的二級子域名名稱:myopen
返回登錄Cpolar web UI管理界面,點擊左側儀表盤的隧道管理——隧道列表,找到所要配置的隧道openwebui,點擊右側的編輯:
修改隧道信息,將保留成功的二級子域名配置到隧道中
- 域名類型:選擇二級子域名
- Sub Domain:填寫保留成功的二級子域名
點擊更新
(注意,點擊一次更新即可,不要重復點擊)
更新完成后,打開在線隧道列表,此時可以看到公網地址已經發生變化,地址名稱也變成了固定的二級子域名的名稱域名:
最后,我們使用任意一個cpolar生成的固定公網地址訪問,可以看到同樣成功訪問open webui界面,這樣一個固定且永久不變的公網地址就設置好了!
總結
本指南完整解析了基于黑群暉NAS平臺,利用容器化技術實現Ollama與Deepseek-R1模型的模塊化部署,并創建可視化操作界面的具體方法。該部署方案有效緩解了云端AI服務常見的服務延遲問題,使用戶無需依賴第三方公共接口即可實現穩定的本地AI服務調用。特別值得注意的是,采用內網穿透技術后,本地交互平臺獲得了可靠的公網接入能力,成功突破了地域限制,實現了遠程訪問功能。無論用戶身處任何位置,均可通過標準網絡協議與私有AI服務建立無縫連接。誠邀各位在討論區分享您的部署心得或創新應用場景,共同探索NAS架構與人工智能技術的融合潛力,將黑群暉系統升級為智能化生活的核心控制中樞。