DeepSeek-R1國產大模型實戰:從私有化部署到內網穿透遠程使用全攻略

文章目錄

    • 前言
    • 1. 安裝Ollama
    • 2. 安裝DeepSeek-r1模型
    • 3. 安裝圖形化界面
      • 3.1 Windows系統安裝Docker
      • 3.2 Docker部署Open WebUI
      • 3.3 添加Deepseek模型
    • 4. 安裝內網穿透工具
    • 5. 配置固定公網地址

前言

最近,國產AI界的黑馬——Deepseek,簡直火得一塌糊涂。不過,你是不是已經對手機APP和網頁版的體驗感到膩了?別擔心,今天就帶你玩點新鮮的!咱們來解鎖一個超級炫酷的操作:在你的Windows電腦上本地部署Deepseek。這不僅讓你享受極速流暢的互動快感,還能讓你瞬間變身AI圈的技術大神!整個過程簡單到令人發指,跟著我一步步來吧。

image-20250205165349645

1. 安裝Ollama

首先訪問Ollama的官網:Download Ollama on Windows

下載適配你的操作系統的客戶端,我這里使用的是Windows11系統,點擊下載即可:

image-20250205152613479

下載好之后,雙擊打開:

image-20250205153517007

點擊Install安裝:

PS:默認是安裝在C盤,需要預留2G以上的存儲空間。

image-20250205153557206

安裝好之后,我們按住Win+R鍵,在運行框中輸入cmd打開Windows系統自帶的終端界面:

image-20250205154133040

然后輸入ollama回車,看到下面信息即為安裝成功!

image-20250205154055584

2. 安裝DeepSeek-r1模型

回到 Ollma 官網,點擊 Model:

頁面跳轉后可以看到第一個就是DeepSeek-r1模型:

image-20250205154710576

然后,點擊它,在打開的頁面中我們可以選擇想要下載的各種量級的模型,右側則是對應的模型下載命令:

image-20250205154929276

我這里下載1.5b的輕量級deepseek模型進行演示,大家可以根據自己喜好選擇其他量級的模型:

它的下載命令是:

ollama run deepseek-r1:1.5b

在剛才打開的cmd終端中,執行這行命令:

PS:同樣需要預留2G以上存儲空間

稍等一會兒就能看到deepseek模型已經下載到了本地電腦,并提示我們可以發送信息進行交互了!

image-20250205155421941

輸入問題,馬上就能收到回答,速度挺快的:

image-20250205155724879

3. 安裝圖形化界面

現在我們已經能夠在本地Windows電腦上正常使用deepseek-r1模型與AI進行聊天了,但像開頭說的那樣,這個界面可能不是很美觀,在復制回答時也不太方便,我們可以通過安裝一個GUI界面來解決這個問題。

本教程以Open WebUI這個項目為例,使用Docker進行安裝,它以前的名字就叫 Formerly Ollama WebUI。可以理解為一開始就是專門適配Ollama的WebUI,它的界面也對用慣了chatgpt的小伙伴來說更相似一些。當然,大家也可以選擇其他的WebUI。

3.1 Windows系統安裝Docker

如果大家之前未安裝過Docker,可以參考下方教程進行安裝:

首先,選擇要安裝的Docker版本進行安裝:

下載地址

  1. 國內用戶優先下載地址
  2. [適用于Windows的Docker桌面 – x86_64](https://desktop.docker.com/win/main/amd64/Docker Desktop Installer.exe?utm_source=docker&utm_medium=webreferral&utm_campaign=docs-driven-download-win-amd64&_gl=1rjke9f_gcl_auMjAxNTA4ODQwMy4xNzI1ODYzMTMx_gaMTc3ODM4NTkyMy4xNzI0MDM2OTcw_ga_XJWPQMJYHQ*MTczMDI2OTA1NC42LjEuMTczMDI2OTQwNC4zOC4wLjA)
  3. [適用于Windows的Docker Desktop Arm(測試版)](https://desktop.docker.com/win/main/arm64/Docker Desktop Installer.exe?utm_source=docker&utm_medium=webreferral&utm_campaign=docs-driven-download-win-arm64&_gl=118eu5gs_gcl_auMjAxNTA4ODQwMy4xNzI1ODYzMTMx_gaMTc3ODM4NTkyMy4xNzI0MDM2OTcw_ga_XJWPQMJYHQ*MTczMDI2OTA1NC42LjEuMTczMDI2OTQwNi4zNi4wLj)

可選: 如果想自己指定安裝目錄,可以使用命令行的方式 參數 –installation-dir=D:\Docker可以指定安裝位置

start /w "" "Docker Desktop Installer.exe" install --installation-dir=D:\Docker

然后點擊任務欄搜索功能,啟用”適用于Linux的Windows子系統” 、”虛擬機平臺”

image.png

然后使用管理員權限打開命令提示符,安裝wsl2:

wsl --set-default-version 2
wsl --update --web-download

等待wsl安裝成功:

image.png

然后再次重啟電腦,重啟后點擊桌面的Docker Desktop圖標:選擇先不注冊直接登錄即可。

image-20240412135009554

打開Docker Desktop后,左下角顯示是綠色的running就代表我們成功了:

image-20240412135830591

PS:**Windows配置鏡像站:**如無科學上網情況,可手動配置鏡像站:
Setting->Docker Engine->添加上換源的那一段,如下圖:image.png保存后即可正常使用Docker.

也可以打開終端,比如powershell,然后輸入docker,回車:

image-20240412143329625

可以看到這個命令成功運行,同樣說明docker安裝成功。

3.2 Docker部署Open WebUI

然后訪問Open WebUI的github頁面 https://github.com/open-webui/open-webui

可以看到,如果你的Ollama和Open WebUI在同一臺主機,那使用下面顯示的這一行命令在cmd終端中就可以在本地快速進行部署:

image-20240412140749937

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

將上邊在docker中部署Open WebUI的命令復制后粘貼到終端中,回車:

image-20240412143603992

然后等待安裝完畢即可:如下圖所示:

image-20240412144132799

安裝完成后,在Docker Desktop中可以看到Open WebUI的web界面地址為:https://localhost:3000

image-20240412144401182

點擊后,會在瀏覽器打開登錄界面:

image-20240412144744192

點擊sign up注冊,賬號,郵箱,密碼記好,下次登錄時需要用到郵箱和密碼登錄:

image-20240412144927140

然后點擊create account創建賬號即可:然后就能在瀏覽器中使用類似chatgpt界面的Open WebUI了!

image-20250205162722922

3.3 添加Deepseek模型

點擊右上角的設置,可以修改當前界面的語言為簡體中文:然后點擊保存即可。

image-20240412145306289

image-20240412145337352

點擊上方選擇一個模型旁邊的加號+可以增加大模型,點擊下拉按鈕可以選擇當前使用哪一個已安裝的模型,這里選擇剛才安裝的DeepSeek-r1:1.5b,接下來就可以愉快的跟DeepSeek-r1大模型在網頁中聊天了!

image-20250205162855286

image-20250205163120653

到這里就成功部署了DeepSeek并使用Open WebUI在網頁中與AI交互,之后你可以根據自己的需求訓練 DeepSeek,將 DeepSeek 訓練成自己專用AI助手。

4. 安裝內網穿透工具

但如果想實現不在同一網絡環境下,也能隨時隨地在線使用Open WebUI與本地部署的DeepSeek-r1大模型在網頁中聊天,那就需要借助cpolar內網穿透工具來實現公網訪問了!接下來介紹一下如何安裝cpolar內網穿透,過程同樣非常簡單:

首先進入cpolar官網:

cpolar官網地址: https://www.cpolar.com

點擊免費使用注冊一個賬號,并下載最新版本的cpolar:

img

登錄成功后,點擊下載cpolar到本地并安裝(一路默認安裝即可)本教程選擇下載Windows版本。

image-20240319175308664

cpolar安裝成功后,在瀏覽器上訪問http://localhost:9200,使用cpolar賬號登錄,登錄后即可看到配置界面,結下來在WebUI管理界面配置即可。

img

接下來配置一下 Open WebUI 的公網地址,

登錄后,點擊左側儀表盤的隧道管理——創建隧道,

  • 隧道名稱:deepseek1(可自定義命名,注意不要與已有的隧道名稱重復)
  • 協議:選擇 http
  • 本地地址:3000 (本地訪問的地址)
  • 域名類型:選擇隨機域名
  • 地區:選擇China Top

image-20250205163908347

隧道創建成功后,點擊左側的狀態——在線隧道列表,查看所生成的公網訪問地址,有兩種訪問方式,一種是http 和https:

image-20250205163938117

使用上面的任意一個公網地址,在手機或任意設備的瀏覽器進行登錄訪問,即可成功看到 Open WebUI 界面,這樣一個公網地址且可以遠程訪問就創建好了,使用了cpolar的公網域名,無需自己購買云服務器,即可到隨時在線訪問Open WebUI來在網頁中使用本地部署的Deepseek大模型了!

image-20250205164201330

image-20250205164242912

小結

為了方便演示,我們在上邊的操作過程中使用cpolar生成的HTTP公網地址隧道,其公網地址是隨機生成的。這種隨機地址的優勢在于建立速度快,可以立即使用。然而,它的缺點是網址是隨機生成,這個地址在24小時內會發生隨機變化,更適合于臨時使用。

如果有長期遠程訪問Open WebUI使用DeepSeek,或者異地訪問與使用其他本地部署的服務的需求,但又不想每天重新配置公網地址,還想讓公網地址好看又好記并體驗更多功能與更快的帶寬,那我推薦大家選擇使用固定的二級子域名方式來為Open WebUI配置一個公網地址。

5. 配置固定公網地址

接下來演示如何為其配置固定的HTTP公網地址,該地址不會變化,方便分享給別人長期查看你部署的項目,而無需每天重復修改服務器地址。

登錄cpolar官網,點擊左側的預留,選擇保留二級子域名,設置一個二級子域名名稱,點擊保留,保留成功后復制保留的二級子域名名稱:

image-20250205164651212

保留成功后復制保留成功的二級子域名的名稱:mydpsk,大家也可以設置自己喜歡的名稱。

image-20250205164733794

返回Cpolar web UI管理界面,點擊左側儀表盤的隧道管理——隧道列表,找到所要配置的隧道:deepseek1,點擊右側的編輯:

image-20250205164821363

修改隧道信息,將保留成功的二級子域名配置到隧道中

  • 域名類型:選擇二級子域名
  • Sub Domain:填寫保留成功的二級子域名:mydpsk

點擊更新(注意,點擊一次更新即可,不需要重復提交)

image-20250205164907143

更新完成后,打開在線隧道列表,此時可以看到公網地址已經發生變化,地址名稱也變成了固定的二級子域名名稱的域名:

image-20250205164940415

最后,我們使用固定的公網https地址訪問,可以看到訪問成功,這樣一個固定且永久不變的公網地址就設置好了,可以隨時隨地在公網環境異地在線訪問本地部署的Open WebUI來使用DeepSeek模型了!

image-20250205165142086

看完這篇攻略,是不是覺得本地部署Deepseek簡直是小菜一碟?現在你不僅能享受到絲滑般的交互體驗,還能給你的電腦加上一個超酷的‘私人訂制’標簽。當然了,如果在實操過程中遇到什么難題或者腦洞大開的想法,歡迎隨時來‘吐槽’交流!畢竟,技術這事兒嘛,不玩出點花樣來怎么對得起自己?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/73886.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/73886.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/73886.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

openwrt24.10.0版本上安裝istoreOS的屏幕監控插件

lcdsimple 插件支持在軟路由下面顯示統計信息到 HDMI 或者 VGA 上。 手動安裝方法: 保證 quickstart 版本大于 0.9.7 安裝 lcdsimple 具體方法: opkg update opkg install quickstart opkg install lcdsimple 手動下載 QUICKSTART 跟 LCD SIMPLE&…

卷積神經網絡 - ResNet(殘差網絡)

殘差網絡(Residual Network,ResNet)通過給非線性的卷積層增加直連邊 (Shortcut Connection)(也稱為殘差連接(Residual Connection))的方式來提高信息的傳播效率。 這是一種特殊的深度神經網絡結構,由 Kaiming He 等人在 2015 年提出,目的是解…

質因數個數--歐拉函數中統計純素數

和互質數不同&#xff0c;這里統計的是純素數部分 就是x/i那一部分 #include<bits/stdc.h> using namespace std; #define N 100011 typedef long long ll; typedef pair<ll,int> PII; int n,m,k; ll eular(ll x) { ll an0;ll px;for(ll i2;i*i<x;i){if(x%i…

2025年3月電子學會c++五級真題

結繩 #include <bits/stdc.h> using namespace std;int n,a[10010];int main() {cin>>n;for(int i 0;i<n;i){cin>>a[i];}sort(a0,an);//將a數組從小到大排序double sum 0;for(int i 0;i<n;i){sum (suma[i])/2;}cout<<(int)sum;return 0; } 最…

用Nginx實現負載均衡與高可用架構(整合Keepalived)

前言 在分布式架構中&#xff0c;負載均衡和高可用是保障系統穩定性的兩大核心能力。本文將深入講解如何通過Nginx實現七層負載均衡&#xff0c;并結合Keepalived構建無單點故障的高可用架構。文末附完整配置模板&#xff01; 一、Nginx負載均衡實現方案 1. 核心原理 Nginx通…

springBoot與ElementUI配合上傳文件

以下是使用Vue CLI創建的Vue項目&#xff0c;結合Element UI來實現文件上傳功能的完整示例。 步驟 創建Vue項目&#xff1a;確保你已經安裝了Vue CLI&#xff0c;若未安裝&#xff0c;可使用以下命令安裝&#xff1a; npm install -g vue/cli然后創建一個新的Vue項目&#x…

黑盒測試的測試用例構成的八點要素

測試用例: 是為測試項目而設計的執行文檔 作用&#xff1a; 防止漏測實施測試的標準 編寫格式&#xff1a; 用例編號:項目 模塊 編號用例標題:預期結果(測試點)模塊/項目:所屬項目或模塊優先級:表示用例的重要程度或者影響力P0~p4(P0最高)前置條件:要執行此條用例&#xf…

藍橋刷題note11(好數)

1&#xff0c;好數 一個整數如果按從低位到高位的順序&#xff0c;奇數位 (個位、百位、萬位 ?? ) 上的數字是奇數&#xff0c;偶數位 (十位、千位、十萬位 ?? ) 上的數字是偶數&#xff0c;我們就稱之為 “好數”。 給定一個正整數 NN&#xff0c;請計算從 1 到 NN 一共…

Keil編譯生成的axf文件的介紹

在 Keil 開發環境&#xff08;如 Keil MDK&#xff09;中&#xff0c;.axf 文件是一種 可執行文件格式&#xff0c;主要用于 ARM 處理器的嵌入式開發。它的作用類似于 ELF&#xff08;Executable and Linkable Format&#xff09;格式&#xff0c;包含了可執行代碼、調試信息、…

C#:第一性原理拆解屬性(property)

目錄 第一步&#xff1a;從最基本的需求出發 第二步&#xff1a;引入控制需求 第三步&#xff1a;優化訪問方式 第四步&#xff1a;剖析屬性的本質 第五步&#xff1a;進一步簡化和演化 第六步&#xff1a;總結屬性的第一性原理 我們用第一性原理&#xff08;First Prin…

-PHP 應用文件上傳函數缺陷條件競爭二次渲染黑白名單JS 繞過

#學習前必讀&#xff1a; 1 、課前一定要明白&#xff1a; 無文件解析安全問題上&#xff0c;格式解析是一對一的&#xff08;不能 jpg 解析 php &#xff09; 換句話來說有解析錯誤配置或后綴解析漏洞時才能實現格式差異解析 2 、文件上傳安全指的是攻擊者通過利用上傳…

C++的模板(十四):更多的自動內存管理

在前文《C的模板(八)&#xff1a;子系統》class DMM&#xff0c;給出了一個自動動態內存管理的例子。https://blog.csdn.net/aaasssdddd96/article/details/139921880 它使用了一個list容器&#xff0c;把兩個類型兼容的指針存放在一起。在new的時候&#xff0c;隨即就把得到的…

Windows下VSCode的安裝

前言 VSCode的安裝看起來平平無奇&#xff0c;但也不是輕輕松松的。筆者將最新的Windows下安裝VSCode&#xff0c;以及運行最簡單的C程序的過程記錄下來&#xff0c;供后續的自己和大家參考。 一、官網下載安裝包 Visual Studio Code - Code Editing. Redefined 二、安裝 直接…

Matlab教程004:Matlab矩陣的拼接重構重排以及矩陣的運算

文章目錄 1.4.3 矩陣的拼接重構重排1.4.3.1 橫向拼接1.4.3.2 縱向拼接1.4.3.3 矩陣的重構重排 1.4.4 矩陣的運算1.4.4.1 算數運算1.4.4.2 矩陣加減1.4.4.3 矩陣乘法1.4.4.4 矩陣轉置 1.4.3 矩陣的拼接重構重排 1.4.3.1 橫向拼接 A和B的行數相同&#xff0c;那么使用[A,B]、[A …

Python小練習系列 Vol.3:生成有效括號組合(回溯 + DFS)

&#x1f9e0; Python小練習系列 Vol.3&#xff1a;生成有效括號組合&#xff08;回溯 DFS&#xff09; &#x1f44b; 本期我們來刷一道 LeetCode 熱門經典題&#xff0c;借此掌握回溯算法的精髓 —— 生成有效括號組合&#xff0c;是學習遞歸 & DFS 的黃金題型&#xff…

實戰經驗深度解析 | 博睿數據制造行業精選案例集發布!

近年來&#xff0c;我國制造業加速邁向高端化、智能化、綠色化&#xff0c;為經濟高質量發展注入新動能。放眼全球&#xff0c;制造業正加速數字化、智能化轉型&#xff0c;5G、人工智能、邊緣計算等技術與生產全流程深度融合&#xff0c;有力推動柔性化生產與產業鏈協同創新發…

[創業之路-344]:戰略的本質是選擇、聚焦, 是成本/效率/低毛利優先,還是差易化/效益/高毛利優先?無論是成本優先,還是差易化戰略,產品聚焦是前提。

前言&#xff1a; 一、戰略的本質是選擇、聚焦 關于戰略的本質&#xff0c;觸及了商業競爭的核心矛盾&#xff1a;選擇成本優先&#xff08;效率/低毛利&#xff09;還是差異化&#xff08;效益/高毛利&#xff09;&#xff0c;本質上是對企業戰略方向的終極拷問。 1、戰略選…

項目代碼第10講【數據庫運維知識——如何優化數據庫查詢效率?】:各種日志查看;主從復制;分庫分表(MyCat);讀寫分離;區別數據分區、分表、分庫

01. 運維-課程介紹_嗶哩嗶哩_bilibili 一、各種日志查看 二、主從復制 三、分庫分表&#xff08;MyCat&#xff09; 四、讀寫分離 五、區別數據分區、分表、分庫 1、數據庫分區 上圖中的ibd文件&#xff0c;是分區表的數據文件&#xff0c;可以分布在不同的物理設備上&…

OpenCV圖像拼接(10)用于實現圖像拼接過程中的時間流逝(timelapse)效果的一個類cv::detail::Timelapser

操作系統&#xff1a;ubuntu22.04 OpenCV版本&#xff1a;OpenCV4.9 IDE:Visual Studio Code 編程語言&#xff1a;C11 算法描述 cv::detail::Timelapser 是 OpenCV 庫中用于實現圖像拼接過程中的時間流逝&#xff08;timelapse&#xff09;效果的一個類。它通常用于將一系列…

Transformer 通關秘籍2:利用 BERT 將文本 token 化

前面兩節分別通過兩個代碼示例展示了模型將文本轉換為 token 之后是什么樣的&#xff0c;希望你可以對此有一個感性的認識。 本節來簡要介紹一下將一個連續的文本轉換為 token 序列的大致過程&#xff0c;這個過程被稱為分詞&#xff0c;也叫 tokenization。 在你沒了解這方面…