黑群暉NAS部署DeepSeek模型與內網穿透實現本地AI服務

在這里插入圖片描述

文章目錄

    • 前言
    • 1.安裝Container Manager
    • 2. 啟動ssh功能
    • 3. ssh連接黑群暉
    • 4. 安裝Ollama
    • 5. 安裝deepseek模型
    • 6. 安裝open-webui圖形界面
    • 7. 安裝內網穿透
      • 7.1 下載cpolar套件
      • 7.2 配置群輝虛擬機
      • 7.3 配置公網地址
        • 小結
      • 7.4 配置固定公網地址
    • 總結

前言

在追求自建網絡存儲方案的極客群體中,開源群暉系統已成為廣泛應用的搭建方式。通過改造現有硬件資源構建的自定義存儲平臺,不僅解決了基礎的數據管理需求,更賦予了技術實踐的獨特價值。當生成式AI技術的快速發展推動DeepSeek成為行業焦點時,該模型對計算資源的高需求確實帶來了挑戰。本文將探討如何在自建存儲架構中實現DeepSeek模型的部署優化,幫助用戶構建個性化的AI應用環境。特別值得關注的是,借助內網穿透技術,即便在沒有公網IP地址的情況下,也能實現對本地服務的遠程訪問。現在讓我們進入實踐環節,開啟這場技術整合的創新之旅。

image-20250314173033529

1.安裝Container Manager

首先,我們需要準備好一臺安裝了黑群暉系統的主機,不會安裝的小伙伴可以參考一下這篇文章,從零開始在Windows使用VMware虛擬機安裝黑群暉7.2系統并實現遠程訪問

首先訪問黑群暉web管理界面(http://黑群暉主機IP+端口號)打開群暉的套件中心,先安裝好Container Manager:

image-20250314153450736

image-20250314153739711

2. 啟動ssh功能

打開群暉控制面板,終端機和SNMP,在“啟動SSH功能”處打勾,端口號默認22,點擊應用:

image-20250314153853797

3. ssh連接黑群暉

在電腦上打開CMD或Powershell等SSH工具,填寫黑群暉的IP地址,SSH端口,群暉管理員賬號,輸入管理員密碼登錄:

image-20250314154112732

PS:黑群暉的IP在群暉助手中查看:

image-20250314154207561

然后輸入 sudo -i 回車,再次輸入管理員密碼回車,進入root狀態下;

image-20250314154250854

4. 安裝Ollama

在終端中執行下方命令即可啟動Ollama容器:

docker run --name ollama -d \
--restart always \
--net=host \
-v /volume1/docker/ollama:/root/.ollama \
ollama/ollama:latest

其中/volume1/docker/ollama是提前在NAS中創建好的AI模型的下載路徑,請根據自己實際路徑填寫。

image-20250314155427016

image-20250314162432169

Ollama容器啟動完畢后,打開群暉Container Manager,點擊容器:

image-20250314162543601

可以看到ollama容器確實已經在運行中:

image-20250314162603154

5. 安裝deepseek模型

右鍵打開終端機:

image-20250314162726254

然后點擊新增–通過命令行啟動:

image-20250314162817387

本教程安裝的是deepseek-r1 1.5B的模型,復制下方命令:

ollama run deepseek-r1:1.5b

如果你想安裝別的模型,可以把命令中的1.5b換成你想安裝的模型名稱(字母用小寫)

ollama官網deepseek模型下載地址:https://ollama.com/library/deepseek-r1

image-20250314163037096

點擊確定:

image-20250314163247852

安裝中,請耐心等待:

image-20250314163317900

當看到有顯示 success 的時候,表示deepseek模型已經安裝成功:

image-20250314164043001

我們現在就可以在終端中對deepseek提問進行聊天了:

image-20250314164208733

但是在終端界面中聊天可能不是很美觀,而且在復制回答時也不太方便,我們可以通過安裝一個Web UI界面來解決這個問題。

6. 安裝open-webui圖形界面

打開群暉file station,在非中文、沒有特殊符號的文件夾中,建立一個名稱為open-webui的子文件夾,

image-20250314164523902

右鍵open-webui的文件夾,點屬性,復制這里顯示的路徑:

image-20250314164621282

打開cmd或powershell等終端工具,執行下方命令安裝open-webui圖形界面:

docker run --name open-webui -d --restart always --net=bridge -p 3000:8080 -e OLLAMA_BASE_URL="http://192.168.50.142:11434" -v /volume1/wdgx/tool/open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

注意:上邊命令中的IP需要替換為你的黑群暉主機IP,/volume1/wdgx/tool/open-webui路徑需要替換為你實際創建的open-webui路徑。

image-20250314171024699

open-webui容器啟動后,在瀏覽器打開http://群暉的IP:3000,即可看到open-webui的登錄界面:

cb871721d452e6ca02f1b0db5beff1e

輸入信息創建管理員賬號后,即可跳轉到web聊天界面,并能看到已經默認選擇了剛才本地部署的deepseek-r1模型:

image-20250314172738659

現在我們就能在網頁中和deepseek聊天了,和剛才在終端對比,不僅增加了更多功能,界面也更加美觀了:

image-20250314172943488

7. 安裝內網穿透

我們現在已經實現了在本地黑群暉NAS中部署Ollama并接入Deepseek-R1模型,并快速搭建Open WebUI界面實現同一局域網內用戶都能在網頁中與AI模型聊天。

但如果你的主機配置很不錯,想讓異地好友或者同事也能遠程使用你在本地黑群暉NAS中部署的deepseek大模型應該怎么辦呢?

雖然黑群暉沒有quickconnect功能(無法公網環境遠程訪問),但只要安裝一個cpolar內網穿透工具就能輕松實現遠程訪問內網主機中部署的服務了,他人無需二次部署,節約成本,提高效率,接下來介紹一下如何安裝cpolar內網穿透。

cpolar官網地址: https://www.cpolar.com

7.1 下載cpolar套件

群暉系統的軟件安裝程序與在windows系統有很大不同,首先,我們下載cpolar的群暉系統套件。

首先登錄cpolar的官網(https://www.cpolar.com/),點擊網頁上方的“下載”按鈕:

20230303102329

在cpolar下載頁面找到“NAS群暉”選項,點擊“立即下載”。

20230303102330

進入cpolar的NAS群暉下載頁面后,在下拉菜單中選擇NAS群暉型號,以及群暉系統版本。

image-20250304161703129

本教程中,我們可以通過群暉搜索助手看到型號是:DS3622xs+

image-20250304161806791

回到cpolar群暉下載頁面,選擇好型號、版本、點擊下載:

image-20250304161855850

下載后的cpolar安裝文件為:cpolar_x64-7.0_3.2.92-1.spk

回到群暉系統中,點擊進入“套件中心”,點選右側的“手動安裝”按鈕:

image-20250304162127519

此時會出現一個“上傳套件”的頁面,在這里點擊“瀏覽”按鈕,選擇我們下載的cpolar套件位置,下一步:

image-20250304162327392

點擊同意:

image-20250304162359785

點擊完成:

image-20250304162422671

只需等待很短時間,cpolar就能安裝完成,此時回到套件中心主頁,就能看到cpolar已經加入了“已安裝”列表內。

image-20250304162451418

此時我們點擊cpolar,就能進入cpolar軟件信息頁。在這里,我們能找到訪問cpolar客戶端的URL(cpolar客戶端采用Web-UI界面,因此是URL地址)

image-20250314174016204

在新開的Cpolar Web-UI界面中,可以通過該頁面下方的“免費注冊”鏈接,快速輕松的獲得cpolar賬號。

7.2 配置群輝虛擬機

我們在文章第2步已經啟動了ssh功能,可以跳過這步了,但還是再提一遍如何操作吧!

要讓群暉系統接受遠程操作和訪問,我們還需要進行幾個簡單設置。首先在群暉的控制面板內找到“終端機和SNMP”選項:

image-20250304162907179

進入“終端機和SNMP”項后,勾選“啟動SSH功能”,如果想要更改端口,必須將端口號記牢,避免之后cpolar設置時端口號錯誤(注:由于群暉周邊套件占用了大量端口,若無必要盡量不要修改默認端口號)。

image-20250304162940677

7.3 配置公網地址

打開cpoalr套件,點擊:9200鏈接:

image-20250314174328811

輸入Cpolar郵箱賬號與密碼進行登錄:

image-20250314174634322

在cpolar管理界面,點擊左側儀表盤的隧道管理——創建隧道,創建一個的公網地址隧道!

  • 隧道名稱:可自定義命名,我這里使用了 openwebui 注意不要與已有的隧道名稱重復
  • 協議:選擇 http
  • 本地地址:3000
  • 域名類型:免費選擇隨機域名
  • 地區:選擇China Top

點擊創建

image-20250314174806141

隧道創建成功后,點擊左側的狀態——在線隧道列表,查看所生成的公網訪問地址,有兩種訪問方式,一種是http 和https。

image-20250314174918958

使用上面cpolar生成的公網地址可以看到成功的訪問到了open webui的界面當中了:

image-20250314175051367

輸入剛才創建的管理員郵箱密碼即可正常登錄使用deepseek或其他部署在本地的大模型了:

image-20250314175205598

小結

為了更好地演示,我們在前述過程中使用了cpolar生成的隧道,其公網地址是隨機生成的。這種隨機地址的優勢在于建立速度快,可以立即使用。然而,它的缺點是網址由隨機字符生成,不太容易記憶(例如:3ad5da5.r10.cpolar.top)。另外,這個地址在24小時內會發生隨機變化,更適合于臨時使用。

我一般會使用固定二級子域名來為本地部署的服務配置公網地址,這樣將網址發送給同事或客戶時,它是一個固定、易記的公網地址(例如:linuxsystem.cpolar.cn),這樣更顯正式,便于流交協作。

7.4 配置固定公網地址

如果有長期遠程訪問本地黑群暉NAS,或者異地訪問與使用其他本地部署的服務的需求,但又不想每天重新配置公網地址,還想讓公網地址好看又好記并體驗更多功能與更快的帶寬,那我推薦大家選擇使用固定的二級子域名方式來配置公網地址。

登錄cpolar官網 https://www.cpolar.com,點擊左側的預留,選擇保留二級子域名,設置一個二級子域名名稱,點擊保留:

image-20250314175519752

保留成功后復制保留的二級子域名名稱:myopen

image-20250314175545608

返回登錄Cpolar web UI管理界面,點擊左側儀表盤的隧道管理——隧道列表,找到所要配置的隧道openwebui,點擊右側的編輯:

image-20250314175626775

修改隧道信息,將保留成功的二級子域名配置到隧道中

  • 域名類型:選擇二級子域名
  • Sub Domain:填寫保留成功的二級子域名

點擊更新(注意,點擊一次更新即可,不要重復點擊)

image-20250314175706667

更新完成后,打開在線隧道列表,此時可以看到公網地址已經發生變化,地址名稱也變成了固定的二級子域名的名稱域名:

image-20250314175747709

最后,我們使用任意一個cpolar生成的固定公網地址訪問,可以看到同樣成功訪問open webui界面,這樣一個固定且永久不變的公網地址就設置好了!

image-20250314180020489

總結

本指南完整解析了基于黑群暉NAS平臺,利用容器化技術實現Ollama與Deepseek-R1模型的模塊化部署,并創建可視化操作界面的具體方法。該部署方案有效緩解了云端AI服務常見的服務延遲問題,使用戶無需依賴第三方公共接口即可實現穩定的本地AI服務調用。特別值得注意的是,采用內網穿透技術后,本地交互平臺獲得了可靠的公網接入能力,成功突破了地域限制,實現了遠程訪問功能。無論用戶身處任何位置,均可通過標準網絡協議與私有AI服務建立無縫連接。誠邀各位在討論區分享您的部署心得或創新應用場景,共同探索NAS架構與人工智能技術的融合潛力,將黑群暉系統升級為智能化生活的核心控制中樞。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/84642.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/84642.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/84642.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Rust 學習筆記:處理任意數量的 future

Rust 學習筆記:處理任意數量的 future Rust 學習筆記:處理任意數量的 future競爭的 future將控制權交給運行時構建我們自己的異步抽象 Rust 學習筆記:處理任意數量的 future 當兩個 future 切換到三個 future 時,我們也必須從使用…

2025年TCP洪水攻擊防護實戰全解析:從協議對抗到AI智能防御

一、2025年TCP洪水攻擊的新特征與挑戰 AI驅動的自適應攻擊 攻擊者利用生成式AI動態調整SYN報文特征(如載荷內容、發送頻率),使攻擊流量與正常業務流量的差異率低至0.5%,傳統基于規則引擎的防御策略完全失效。 混合協議打擊常態化…

二、集成開發環境(IDE)

上節我們在終端演示了python虛擬環境的用法,但終端不方便代碼編寫和調試,本節介紹兩種常用的python集成開發環境:Pycharm和Jupter Notebook。Pycharm是最流行的Python IDE,下載網址:下載 PyCharm:JetBrains…

芯片電感需求趨勢及選型關鍵因素

隨著AI產業的快速發展,數據中心、AI芯片、服務器等算力基礎設施對于芯片電感等電子元件的要求不斷提升。另一方面,電子產品向高功率密度和小型化方向發展,電源模塊趨于小型化、低電壓、大電流,也對芯片電感提出了小型化、輕量化、…

Vue3+Element Plus表單驗證實戰:從零實現用戶管理

前言 在Vue3項目開發中,表單驗證是保證數據完整性和準確性的重要環節。Element Plus作為Vue3的流行UI組件庫,提供了強大的表單驗證功能。本文將基于一個用戶管理模塊的實戰案例,詳細介紹Vue3中如何使用Element Plus實現完整的表單驗證流程。…

力扣上C語言編程題:合并區間(涉及數組)

一. 簡介 本文記錄力扣網上涉及數組方面的編程題,主要以 C語言實現。 二. 力扣上C語言編程題:合并區間(涉及數組) 以數組 intervals 表示若干個區間的集合,其中單個區間為 intervals[i] [starti, endi] 。請你合并所…

SEO長尾詞與關鍵詞優化實戰

內容概要 在SEO優化體系中,核心關鍵詞與長尾詞的協同作用直接影響流量獲取效率與用戶觸達精度。本文將從基礎概念切入,系統梳理核心關鍵詞的篩選標準與競爭強度評估方法,并深入探討長尾詞在細分場景下的價值定位。通過分析用戶搜索行為與意圖…

博圖SCL語言教程:靈活加、減計數制作自己的增減計數器(CTUD)

博圖SCL語言教程:使用SCL實現增減計數器(CTUD) 一、什么是增減計數器(CTUD)? 增減計數器(Up-Down Counter)是PLC編程中的基礎功能塊,具有以下特性: CU (Count Up):上升沿觸發計數值增加 CD (…

Android 應用被kill問題排查和處理

一、背景 博主有一款應用市場應用,同樣的應用,在Android 10上開啟三個下載正常,在Android 14上開啟下載安裝,很頻繁被kill。首先想到的是,是不是應用內存太高,導致被kill,通過工具分析內存也不高,后面就想到是不是系統本身分配給應用的內存就不高,后來通過排查,確實是和系統的…

從代碼學習深度強化學習 - 多臂老虎機 PyTorch版

文章目錄 前言創建多臂老虎機環境多臂老虎機算法基本框架(基類)1. ε-貪心算法 (Epsilon-Greedy)2. 隨時間衰減的ε-貪婪算法 (Decaying ε-Greedy)3. 上置信界算法 (Upper Confidence Bound, UCB)4. 湯普森采樣算法 (Thompson Sampling)總結前言 歡迎來到“從代碼學習深度強化…

Android學習之Window窗口

Android Window機制學習筆記 在使用Window Flag實現界面全屏功能時,發現自身對Android Window機制缺乏系統認知,因此進行了專項學習與整理。 本文主要參考以下優質資料: Android的Window詳解Android官方Window文檔 Window基本概念 1. Win…

華為云 Flexus+DeepSeek 征文|搭建部署Dify-LLM推理引擎,賦能AI Agent智能體實現動態聯網搜索能力

華為云 Flexus 云服務器 X 實例專門為 AI 應用場景設計。它提供了強大的計算能力,能夠滿足 DeepSeek 模型以及后續搭建 AI Agent 智能體過程中對于數據處理和模型運行的高要求。在網絡方面,具備高速穩定的網絡帶寬,這對于需要頻繁聯網搜索信息…

Python 100個常用函數全面解析

Python 100個常用函數全面解析 1. 類型轉換函數 1.1 int() 將字符串或數字轉換為整數。 # 基本用法 int(123) # 123 int(3.14) # 3# 指定進制轉換 int(1010, 2) # 10 (二進制轉十進制) int(FF, 16) # 255 (十六進制轉十進制)# 臨界值處理 int() # ValueError: …

分享在日常開發中常用的ES6知識點【面試常考】

前言 在日常的業務開發中,可以熟悉運用掌握的知識點快速解決問題很重要。這篇分享JS相關的知識點,主要就是對數據的處理。 注意:本篇分享的知識點,只是起到一個拋磚引玉的作用,詳情的使用和更多的ES6知識點還請參考官…

CHI協議驗證中的異常及邊界驗證

CHI協議驗證中的異常及邊界驗證 針對 CHI 協議的錯誤注入工具、覆蓋率衡量方法及實際項目中的投入平衡 CHI 協議作為多核系統中復雜的緩存一致性協議,驗證其行為需要強大的工具和方法來執行錯誤注入和邊界條件測試,并衡量測試覆蓋率。以下詳細討論常用工具、覆蓋率評估方法及…

技術專欄|LLaMA家族——模型架構

LLaMA的模型架構與GPT相同,采用了Transformer中的因果解碼器結構,并在此基礎上進行了多項關鍵改進,以提升訓練穩定性和模型性能。LLaMA的核心架構如圖 3.14 所示,融合了后續提出的多種優化方法,這些方法也在其他模型&a…

電腦插入多塊移動硬盤后經常出現卡頓和藍屏

當電腦在插入多塊移動硬盤后頻繁出現卡頓和藍屏問題時,可能涉及硬件資源沖突、驅動兼容性、供電不足或系統設置等多方面原因。以下是逐步排查和解決方案: 1. 檢查電源供電問題 問題原因:多塊移動硬盤同時運行可能導致USB接口供電不足&#x…

Go 語言實現高性能 EventBus 事件總線系統(含網絡通信、微服務、并發異步實戰)

前言 在現代微服務與事件驅動架構(EDA)中,事件總線(EventBus) 是實現模塊解耦與系統異步處理的關鍵機制。 本文將以 Go 語言為基礎,從零構建一個高性能、可擴展的事件總線系統,深入講解&#…

npm ERR! @biomejs/biome@1.9.4 postinstall: `node scripts/postinstall.js`

npm install 報錯如下, npm ERR! code ELIFECYCLE npm ERR! errno 1 npm ERR! @biomejs/biome@1.9.4 postinstall: `node scripts/postinstall.js` npm ERR! Exit status 1 npm ERR! npm ERR! Failed at the @biomejs/biome@1.9.4 postinstall script. npm ERR! This is pro…

APMPlus × veFaaS 一鍵開啟函數服務性能監控,讓函數運行全程可觀測

資料來源:火山引擎-開發者社區 近年來,無服務器架構(Serverless)的崛起讓開發者得以從基礎設施的復雜性中解放,專注于業務邏輯創新。但隨著采用率提升,新的問題開始出現——函數實例的短暫生命周期、動態變…