DeepSeek R1本地化部署 Ollama + Chatbox 打造最強 AI 工具

🌈 個人主頁:Zfox_
🔥 系列專欄:Linux

目錄

  • 一:🔥 Ollama
    • 🦋 下載 Ollama
    • 🦋 選擇模型
    • 🦋 運行模型
    • 🦋 使用 && 測試
  • 二:🔥 Chatbox
    • 🦋 創建你的專屬 GPTs
  • 三:🔥 共勉

一:🔥 Ollama

🦋 下載 Ollama

🧑?💻 https://ollama.com/

  • Ollama 是一個用于管理和部署機器學習模型的工具。
  • 目前 Ollama 支持 macOS、Linux、Windows,選擇相應的系統下載即可。
    在這里插入圖片描述

🦁 💻 安裝后運行軟件,在任務欄確認在右上角出現這只 小羊駝🦙 圖標
在這里插入圖片描述

🦋 選擇模型

🧑?💻 點擊Search models 搜索框,第一條就是 deepseek-r1 模型。

在這里插入圖片描述
這里我們發現了多個不同大小的模型,文件大小適配不同的設備

DeepSeek R1提供多個版本,參數量越大,模型通常越強大,但也需要更多的計算資源。

比如1.5B代表有15億個參數。

在這里插入圖片描述
🎁 借助網上大佬們整理的表格供大家參考,來確認你的電腦可以運行哪個模型:
在這里插入圖片描述

🦋 運行模型

運行模型很簡單:確定模型后,復制這條指令到終端里
加粗樣式
💻 當進度條跑滿時,恭喜🎉,你的電腦已經擁有了頂級的推理能力

🦋 使用 && 測試

📚 這里我已經提前下好了,使用 ollama 提供的終端指令 ollama list 可以看我們電腦上已經部署了哪些模型,然后使用 ollama run 對應的模型 就可以了

在這里插入圖片描述

輸入 /bye即可退出

在這里插入圖片描述

📚 ollama 命令查看

admin@admindeMacBook-Pro ~ % ollama
Usage:ollama [flags]ollama [command]Available Commands:serve       Start ollamacreate      Create a model from a Modelfileshow        Show information for a modelrun         Run a modelstop        Stop a running modelpull        Pull a model from a registrypush        Push a model to a registrylist        List modelsps          List running modelscp          Copy a modelrm          Remove a modelhelp        Help about any commandFlags:-h, --help      help for ollama-v, --version   Show version informationUse "ollama [command] --help" for more information about a command.

🧑?💻 雖然這里終端已經可以使用了,但是還是不太方便。

  • 這里就有人要問博主了,你推薦的模型確實挺不錯的,但是還是太吃操作了,有沒有更加方便的使用方式呢?
  • 有的兄弟有的,像更方便的使用方式那么就是 Chatbox

二:🔥 Chatbox

🧑?💻 瀏覽器搜索 Chatbox 并下載客戶端或者網頁版都可以

  1. 設置語言為中文并保存
    在這里插入圖片描述
  2. 點擊設置選擇模型為 OLLAMA API
    在這里插入圖片描述
    為了確保可以連接到本地服務,大家按照提供的教程設置一下,不同的操作系統設置不太一樣,然后選擇 R1模型并保存
  • 連接到本地服務教程跳轉
    在這里插入圖片描述
    🦁 現在你就可以在 瀏覽器/客戶端 上流暢的使用 R1 了。

🦋 創建你的專屬 GPTs

🧑?💻 點擊我的搭檔,創建搭檔,給ai角色設定人格,你也可以選擇現有的搭檔,一個資深的行業專家就出現了。
在這里插入圖片描述

三:🔥 共勉

😋 以上就是我對 DeepSeek R1本地化部署 Ollama + Chatbox 打造最強 AI 工具 的理解,覺得這篇博客對你有幫助的,可以點贊收藏關注支持一波~ 😉
在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/894441.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/894441.shtml
英文地址,請注明出處:http://en.pswp.cn/news/894441.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

【linux網絡(5)】傳輸層協議詳解(下)

目錄 前言1. TCP的超時重傳機制2. TCP的流量控制機制3. TCP的滑動窗口機制4. TCP的擁塞控制機制5. TCP的延遲應答機制6. TCP的捎帶應答機制7. 總結以及思考 前言 強烈建議先看傳輸層協議詳解(上)后再看這篇文章. 上一篇文章講到TCP協議為了保證可靠性而做的一些策略, 這篇文章…

DeepSeek 遭 DDoS 攻擊背后:DDoS 攻擊的 “千層套路” 與安全防御 “金鐘罩”

當算力博弈升級為網絡戰爭:拆解DDoS攻擊背后的技術攻防戰——從DeepSeek遇襲看全球網絡安全新趨勢 在數字化浪潮席卷全球的當下,網絡已然成為人類社會運轉的關鍵基礎設施,深刻融入經濟、生活、政務等各個領域。從金融交易的實時清算&#xf…

二、CSS筆記

(一)css概述 1、定義 CSS是Cascading Style Sheets的簡稱,中文稱為層疊樣式表,用來控制網頁數據的表現,可以使網頁的表現與數據內容分離。 2、要點 怎么找到標簽怎么操作標簽對象(element) 3、css的四種引入方式 3.1 行內式 在標簽的style屬性中設定CSS樣式。這種方…

第三篇:模型壓縮與量化技術——DeepSeek如何在邊緣側突破“小而強”的算力困局

——從算法到芯片的全棧式優化實踐 隨著AI應用向移動終端與物聯網設備滲透,模型輕量化成為行業核心挑戰。DeepSeek通過自研的“算法-編譯-硬件”協同優化體系,在保持模型性能的前提下,實現參數量與能耗的指數級壓縮。本文從技術原理、工程實…

C++編程語言:抽象機制:泛型編程(Bjarne Stroustrup)

泛型編程(Generic Programming) 目錄 24.1 引言(Introduction) 24.2 算法和(通用性的)提升(Algorithms and Lifting) 24.3 概念(此指模板參數的插件)(Concepts) 24.3.1 發現插件集(Discovering a Concept) 24.3.2 概念與約束(Concepts and Constraints) 24.4 具體化…

DeepSeek-R1本地部署實踐

一、下載安裝 --Ollama Ollama是一個開源的 LLM(大型語言模型)服務工具,用于簡化在本地運行大語言模型,降低使用大語言模型的門檻,使得大模型的開發者、研究人員和愛好者能夠在本地環境快速實驗、管理和部署最新大語言…

AI技術路線(marked)

人工智能(AI)是一個非常廣泛且充滿潛力的領域,它涉及了讓計算機能夠執行通常需要人類智能的任務,比如感知、推理、學習、決策等。人工智能的應用已經滲透到各行各業,從自動駕駛到醫療診斷,再到推薦系統和自…

【leetcode詳解】T598 區間加法

598. 區間加法 II - 力扣(LeetCode) 思路分析 核心在于將問題轉化, 題目不是要求最大整數本身,而是要求解最大整數的個數 結合矩陣元素的增加原理,我們將抽象問題轉為可操作的方法,其實就是再找每組ops中…

【最后203篇系列】004 -Smarklink

說明 這個用來替代nginx。 最初是希望用nginx進行故障檢測和負載均衡,花了很多時間,大致的結論是:nginx可以實現,但是是在商業版里。非得要找替代肯定可以搞出來,但是太麻煩了(即使是nginx本身的配置也很煩…

完全卸載mysql server步驟

1. 在控制面板中卸載mysql 2. 打開注冊表,運行regedit, 刪除mysql信息 HKEY_LOCAL_MACHINE-> SYSTEM->CurrentContolSet->Services->EventLog->Application->Mysql HKEY_LOCAL_MACHINE-> SYSTEM->CurrentContolSet->Services->Mysql …

1. 【.NET Aspire 從入門到實戰】--理論入門與環境搭建--引言

在當前軟件開發領域,云原生和微服務架構已經成為主流趨勢,傳統的單體應用正逐步向分布式系統轉型。隨著業務需求的不斷變化與用戶規模的迅速擴大,如何在保證高可用、高擴展性的同時,還能提高開發效率與降低維護成本,成…

Ubuntu 22.04系統安裝部署Kubernetes v1.29.13集群

Ubuntu 22.04系統安裝部署Kubernetes v1.29.13集群 簡介Kubernetes 的工作流程概述Kubernetes v1.29.13 版本Ubuntu 22.04 系統安裝部署 Kubernetes v1.29.13 集群 1 環境準備1.1 集群IP規劃1.2 初始化步驟(各個節點都需執行)1.2.1 主機名與IP地址解析1.…

基于SpringBoot的新聞資訊系統的設計與實現(源碼+SQL腳本+LW+部署講解等)

專注于大學生項目實戰開發,講解,畢業答疑輔導,歡迎高校老師/同行前輩交流合作?。 技術范圍:SpringBoot、Vue、SSM、HLMT、小程序、Jsp、PHP、Nodejs、Python、爬蟲、數據可視化、安卓app、大數據、物聯網、機器學習等設計與開發。 主要內容:…

每日一題——包含min函數的棧

包含min函數的棧 題目數據范圍:示例C語言代碼實現解釋1. push(value)2. pop()3. top()4. min() 總結大小堆 題目 定義棧的數據結構,請在該類型中實現一個能夠得到棧中所含最小元素的 min 函數,輸入操作時保證 pop、top 和 min 函數操作時&am…

RDP協議詳解

以下內容包含對 RDP(Remote Desktop Protocol,遠程桌面協議)及其開源實現 FreeRDP 的較為系統、深入的講解,涵蓋協議概要、歷史沿革、核心原理、安全機制、安裝與使用方法、擴展與未來發展趨勢等方面, --- ## 一、引…

【Linux系統】計算機世界的基石:馮諾依曼架構與操作系統設計

文章目錄 一.馮諾依曼體系結構1.1 為什么體系結構中要存在內存?1.2 馮諾依曼瓶頸 二.操作系統2.1 設計目的2.2 系統調用與庫函數 一.馮諾依曼體系結構 馮諾依曼體系結構(Von Neumann Architecture)是計算機的基本設計理念之一,由…

消息隊列應用示例MessageQueues-STM32CubeMX-FreeRTOS《嵌入式系統設計》P343-P347

消息隊列 使用信號量、事件標志組和線標志進行任務同步時,只能提供同步的時刻信息,無法在任務之間進行數據傳輸。要實現任務間的數據傳輸,一般使用兩種方式: 1. 全局變量 在 RTOS 中使用全局變量時,必須保證每個任務…

【NLP251】Transformer精講 殘差鏈接與層歸一化

精講部分,主要是對Transformer的深度理解方便日后從底層邏輯進行創新,對于僅應用需求的小伙伴可以跳過這一部分,不影響正常學習。 1. 殘差模塊 何凱明在2015年提出的殘差網絡(ResNet),Transformer在2016年…

Android學習制作app(ESP8266-01S連接-簡單制作)

一、理論 部分理論見arduino學習-CSDN博客和Android Studio安裝配置_android studio gradle 配置-CSDN博客 以下直接上代碼和效果視頻,esp01S的收發硬件代碼目前沒有分享,但是可以通過另一個手機網絡調試助手進行模擬。也可以直接根據我的代碼進行改動…

圖書管理系統 Axios 源碼__新增圖書

目錄 功能介紹 核心代碼解析 源碼:新增圖書功能 總結 本項目基于 HTML、Bootstrap、JavaScript 和 Axios 開發,實現了圖書的增刪改查功能。以下是新增圖書的功能實現,適合前端開發學習和項目實踐。 功能介紹 用戶可以通過 模態框&#xf…