【Mac電腦本地部署Deepseek-r1:詳細教程與Openwebui配置指南】

文章目錄

    • 前言
      • 電腦配置:
      • 安裝的Deepseek版本:
      • 使用的UI框架:
      • 體驗效果展示:
      • 本地部署體驗總結
    • 部署過程
      • Ollama部署
      • 拉取模型
      • 運行模型
      • Openwebui部署
      • 運行Ollama服務
      • 在Openwebui中配置ollama的服務
    • 后話

前言

deepseek最近火的一塌糊涂,誰還不知道deepseek感覺就已經是上古時期的人了,趁著有時間我趕緊研究了一下本地部署,deepseek有很多蒸餾版的模型,對硬件要求不是很高,這就讓本地部署變成了可能,于是我迫不及待的在我的mac電腦上試了一下,嘿,還挺絲滑。

現在將部署的過程分享如下:

電腦配置:

芯片 Apple M1 pro

內存 16G

macOs Sequoia 版本15.3.1

安裝的Deepseek版本:

Deepseek-r1:8b(我之前裝的是8b版本)

Deepseek-r1:7b(為了演示截圖,我再裝一個7b版本)

使用的UI框架:

Openwebui(基于docker部署的)

體驗效果展示:

deepseek本地部署聊天界面

deepseek調用comfyui繪畫

deepseek調用文心一言api

openwebui調用文生圖api生成圖片

調用文生圖api生成的圖片

支持聯網搜索功能

整體來說部署到本地是可以玩的,響應的速度也在可以接受的范圍內,配合上openwebui,還可以有文生圖,聯網搜索,調用API接口等玩法。

本地部署體驗總結

由于機器配置有限,我僅僅部署了7b的模型,智商非常有限,所以僅限于玩玩了,如果有比較土豪的大佬,部署更大參數的模型,那部署在本地,作為生產力工具也是可以的。

但是真正的處理工作啥的,我建議還是老實用線上版本,畢竟線上是滿血版,不是咱們這些小破電腦能跑起來的。

deepseek線上版:https://chat.deepseek.com/

如果老是顯示服務器繁忙,也可以找平替,有很多大廠都已經接入了deepseek,響應速度都還非常不錯,比如:

百度搜索:https://chat.baidu.com/

騰訊元寶:https://yuanbao.tencent.com/(默認是混元大模型,需要自己手動切換成deepseek-r1)

秘塔AI搜索:https://metaso.cn/

360納米AI搜索:https://www.n.cn/

天工AI:https://www.tiangong.cn/

部署過程

廢話不多說,直接來跟著我一步步進行部署:

Ollama部署

直接上官網:https://ollama.com/download,然后下載自己電腦適合的版本,安裝即可。

下載完成后,解壓,然后安裝:

安裝成功后,即可在終端進行調用了。

# 查看 Ollama 版本
ollama --version
# Ollama 命令幫助
ollama -h

如此,ollama的安裝就搞定了。

接下來我們就來拉取deepseek的模型

拉取模型

# 拉取模型(我這里用的是先拉取,再運行)
ollama pull deepseek-r1:7b

運行模型

等待拉取結束,運行模型

#運行 deepseek-r1:7b模型
ollama run deepseek-r1:7b

可以看到已經模型已經正常運行了,可以正常進行對話了。輸入 /bye 可以結束在終端的對話。

此時已經成功將deepseek-r1:7b模型在本地跑起來了,但是這和別人用的都不太一樣,而且在終端對話始終不是那么的方便,那么怎么辦呢?

Openwebui部署

接下來就祭出 Openwebui,相對可玩性比較高的一個大語言模型的UI框架,我們來用ollama作為服務端,Openwebui作為前端,部署起來進行訪問。

這里我只介紹使用docker進行部署,因為比較方便,其他方式有興趣的朋友自己研究即可。

什么?電腦沒有安裝docker?mac電腦安裝docker可以說是有手就會,我就不過多介紹了,實在不會的,參考這個教程:https://www.runoob.com/docker/macos-docker-install.html

docker安裝成功后,我們來使用docker安裝Openwebui

# 拉取鏡像并映射端口運行
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v $HOME/Documents/myDockerData/openwebui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

可以看到 已經拉取鏡像成功,并且端口映射好,而且啟動起來了

此時訪問 http://localhost:3000/ 就可以進入到Openwebui的界面了。

首次進入可能需要稍微等待幾分鐘,然后就會出來界面,

點擊開始使用,然后進行注冊,登錄即可使用。首次注冊的賬號即為管理員賬號。

運行Ollama服務

我們需要使用Ollama作為后端,提供API接口的服務,所以需要將這個服務啟動起來。

#啟動ollama服務,默認監聽端口是11434
ollama serve

訪問http://localhost:11434/可以看到服務是否啟動成功:

顯示Ollama is running 說明服務已經成功啟動了。

在Openwebui中配置ollama的服務

在個人頭像-設置-管理員面板-外部連接頁面,打開Ollama API的開關,填寫API的地址:http://host.docker.internal:11434

注意:由于此處是在docker中進行運行的Openwebui,但是ollama是在本地直接運行的,所以配置到這里必須這樣配置才可以生效,如果配置為localhost:3000 是不起作用的。

配置完成之后,就可以測試聊天了。

選擇相應的模型,然后直接開始對話即可。

至此,大功告成!你已經可以在本地運行大模型,并且可以使用網頁進行對話了。

后話

至于文章開始展示的集成本地文生圖模型、調用api文生圖功能,或者調用api接口chat,以及調用聯網搜索功能的這些分支,還需要再逐一進行講解。

如果你有以上某方面的需要,請在評論區進行留言,我將視情況再做后續的文章更新。

感謝各位大佬的觀看~ 下期再見~

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/72119.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/72119.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/72119.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

給小白的oracle優化工具,了解一下

有時懶得分析或語句太長,可以嘗試用oracle的dbms_sqldiag包進行sql優化, --How To Use DBMS_SQLDIAG To Diagnose Query Performance Issues (Doc ID 1386802.1) --診斷SQL 性能 SET ECHO ON SET LINESIZE 132 SET PAGESIZE 999 SET LONG 999999 SET SER…

YOLO11改進加入ResNet網絡

文章目錄 1.改進目的2.demo引入2.1代碼2.2 結果展示2.3 BottleNeck詳解 1.改進目的 原始YOLO11模型訓練好以后,檢測結果mAP結果很低,視頻檢測結果很差,于是想到改進網絡,這里介紹改進主干網絡。 2.demo引入 2.1代碼 # File: 2…

Spring MVC流程

SpringMVC啟動流程 啟動流程父子容器請求處理MultipartFile 解析參數傳遞返回值處理HandlerInterceptor 啟動流程 啟動Tomcat解析web.xml創建DispatcherServlet調用DIspatcherServlet的init方法 4.1 創建Spring容器 4.2 發布ContextRefresheEvent 4.3 在OnRefreshed方法中觸發…

【大數據】ClickHouse常見的錯誤及解決方式

ClickHouse 是一款高性能的列式數據庫,但在使用過程中難免會遇到一些錯誤。本文將介紹一些 ClickHouse 常見的錯誤及其解決方式,幫助您更好地使用 ClickHouse。 1、錯誤:DB::Exception 錯誤信息 DB::Exception:Table engine Distributed d…

物理競賽中的線性代數

線性代數 1 行列式 1.1 n n n 階行列式 定義 1.1.1:稱以下的式子為一個 n n n 階行列式: ∣ A ∣ ∣ a 11 a 12 ? a 1 n a 21 a 22 ? a 2 n ? ? ? ? a n 1 a n 2 ? a n n ∣ \begin{vmatrix}\mathbf A\end{vmatrix} \begin{vmatrix} a_{11…

IP-----動態路由OSPF

這只是IP的其中一塊內容,IP還有更多內容可以查看IP專欄,前一章內容為GRE和MGRE ,可通過以下路徑查看IP-------GRE和MGRE-CSDN博客,歡迎指正 注意!!!本部分內容較多所以分成了兩部分在下一章 5.動態路由OS…

數字內容體驗未來趨勢:交互升級與用戶深耕

智能技術重塑內容交互 隨著數字內容體驗進入深度智能化階段,AI驅動的內容生成與智能推薦算法正在重構用戶與信息的交互范式。基于自然語言處理技術的內容創作工具,已實現從文本自動生成到多模態內容適配的跨越,企業能夠以分鐘級速度產出符合…

2025年2月21日優雅草內測分發站全新升級-測試運營-優雅草內測分發站新用戶提供免費100下載點-2月28日正式運營并且提供私有化部署版本

2025年2月21日優雅草內測分發站全新升級-測試運營-優雅草內測分發站新用戶提供免費100下載點-2月28日正式運營并且提供私有化部署版本 說明 優雅草內測分發站新用戶提供免費100下載點,優雅草分運營站和demo測試站 運營站:www.youyacao.cn 提供免費100…

動態內存池設計與環形緩沖區實現詳解

一、動態內存池設計 在嵌入式系統中,頻繁使用 malloc 和 free 會導致內存碎片和性能問題。動態內存池通過預分配固定大小的內存塊,并統一管理分配與釋放,顯著提高內存使用效率和實時性。 1. 核心設計思路 預分配內存:將內存劃分…

015--基于STM32F103ZET6的智能風扇設計

1.實物視頻演示 智能風扇演示視頻 2.程序代碼講解 STM32F103ZET6智能風扇_嗶哩嗶哩_bilibili 3源代碼獲取 https://download.csdn.net/download/weixin_41011452/90440545

【洛谷貪心算法】P1106刪數問題

這道題可以使用貪心算法來解決,核心思路是盡量讓高位的數字盡可能小。當我們逐步刪除數字時,會優先刪除高位中相對較大的數字。具體做法是從左到右遍歷數字序列,當發現當前數字比它后面的數字大時,就刪除當前數字,直到…

開源PDF解析工具olmOCR

olmOCR 是由 Allen Institute for Artificial Intelligence (AI2) 的 AllenNLP 團隊開發的一款開源工具,旨在將PDF文件和其他文檔高效地轉換為純文本,同時保留自然的閱讀順序。它支持表格、公式、手寫內容等。 olmOCR 經過學術論文、技術文檔和其他文檔…

基因型—環境兩向表數據分析——品種生態區劃分

參考資料:農作物品種試驗數據管理與分析 用于品種生態區劃分的GGE雙標圖有兩種功能圖:試點向量功能圖和“誰贏在哪里”功能圖。雙標圖的具體模型基于SD定標和h加權和試點中心化的數據。本例中籽粒產量的GGE雙標圖僅解釋了G和GE總變異的53.6%,…

HTTP~文件 MIME 類型

MIME(Multipurpose Internet Mail Extensions)類型,即多用途互聯網郵件擴展類型,是一種標準,用來表示文檔、文件或字節流的性質和格式。最初是為了在電子郵件系統中支持非 ASCII 字符文本、二進制文件附件等而設計的&a…

降維攻擊!PCA與隨機投影優化高維KNN

引言:高維數據的“冰山困境” 假設你正在處理一個電商平臺的商品圖片分類任務:每張圖片被提取為1000維的特征向量,100萬條數據的距離計算讓KNN模型陷入“維度地獄”——計算耗時長達數小時,且內存占用超過10GB。 破局關鍵&#…

Rust 是什么

Rust 是什么 Rust 是一種由 Mozilla 開發的系統級編程語言,它于 2010 年首次亮相,在 2015 年發布 1.0 版本,此后迅速發展并受到廣泛關注。 內存安全:Rust 最大的亮點之一是它在編譯階段就能夠避免常見的內存錯誤,如空指針引用、數據競爭和內存泄漏等。它通過所有權(Owne…

網絡變壓器的主要電性參數與測試方法(2)

Hqst盈盛(華強盛)電子導讀:網絡變壓器的主要電性參數與測試方法(2).. 今天我們繼續來看看網絡變壓器的2個主要電性參數與它的測試方法: 1. 線圈間分布電容Cp:線圈間雜散靜電容 測試條件:100KHz/0.1…

UniApp 中封裝 HTTP 請求與 Token 管理(附Demo)

目錄 1. 基本知識2. Demo3. 拓展 1. 基本知識 從實戰代碼中學習,上述實戰代碼來源:芋道源碼/yudao-mall-uniapp 該代碼中,通過自定義 request 函數對 HTTP 請求進行了統一管理,并且結合了 Token 認證機制 請求封裝原理&#xff…

初階數據結構習題【3】(1時間和空間復雜度)——203移除鏈表元素

1. 題目描述 力扣在線OJ——移除鏈表元素 給你一個鏈表的頭節點 head 和一個整數 val ,請你刪除鏈表中所有滿足 Node.val val 的節點,并返回 新的頭節點 。 示例1: 輸入:head [1,2,6,3,4,5,6], val 6 輸出:[1,2,3…

互聯網+房產中介+裝修設計+物料市場+智能家居一體化平臺需求書

一、項目概述 1.1 項目背景 隨著互聯網技術的飛速發展以及人們生活品質的顯著提升,傳統房產交易、裝修設計、家居購物等領域暴露出諸多問題。信息不對稱使得用戶難以獲取全面準確的信息,在房產交易中可能高價買入或低價賣出,裝修時可能遭遇…