生活電子常識-deepseek-r1本地化部署+ui界面搭建

前言

deepseek-r1 14b模型,32b模型部署在本地電腦上也能實現非常好的性能。
因此有興趣研究了下如何在本地部署。
同時最新流行mauns工作流,他們提供一句話實現網頁端任意應用的能力。實際上,你也可以用本地的模型來實現離線的ai工作流功能。
不過這里講述本地如何首先搭建大模型,一步步來
具體的實現原理,操作步驟如下

原理

1.安裝ollama

作用是提供大模型的運行環境,以及提供外部的大模型調用api接口
你沒看錯,本地部署的大模型也可以提供api接口,這也是后來我們可以使用其他ui界面來訪問這個本地大模型的基礎
訪問https://ollama.com/,下載ollama.exe
在這里插入圖片描述
安裝后,然后在命令框中查看是否可用,可用如圖所示
在這里插入圖片描述

2.選擇模型下載

如圖所見,可以選擇qwn32b模型,deepseekr1模型等等
在這里插入圖片描述

3.使用命令配置模型,等待下載好即可

在這里插入圖片描述
命令敲入cmd框中,模型將會自動下載,等待下載好即可。

4.查看可用模型列表,啟動模型

可以根據如圖片中命令,查看已經安裝的模型名稱,然后啟動即可
在這里插入圖片描述

5.啟動模型,對話

ollama run deepseek-r1:14b

6.設置ui界面對話

去chorme擴展商店中搜索page assist插件,安裝
在設置中勾選簡體中文,即可展示
同時因為ollama為其安裝的模型提供了api接口,這個ui插件,也可以訪問那些大模型,進行流暢對話
在這里插入圖片描述
在這里插入圖片描述
同時,也可以為模型構建知識庫,讓其回答的更加貼合知識庫語料
在這里插入圖片描述
同時,局域網內,別人訪問你的大模型api也可以訪問你本地的大模型進行交流
在這里插入圖片描述

6.1另外一款ui軟件

如圖所配置即可,chatbox為模型提供了圖片和文檔上傳功能,更加符合日常使用需求。
在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/73258.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/73258.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/73258.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

mac絲滑安裝Windows操作系統【絲滑簡單免費】

mac絲滑安裝Windows操作系統【絲滑&簡單&免費】 記錄mac絲滑安裝windows系統1、安裝免費版 VMware fusion 132、安裝Windows鏡像文件3、跳過聯網安裝(完成1后將2拖入1 點點點 即可來到3的環節)4、 安裝vmware 工具【非常重要,涉及聯網…

基于Spring Boot的企業內管信息化系統的設計與實現(LW+源碼+講解)

專注于大學生項目實戰開發,講解,畢業答疑輔導,歡迎高校老師/同行前輩交流合作?。 技術范圍:SpringBoot、Vue、SSM、HLMT、小程序、Jsp、PHP、Nodejs、Python、爬蟲、數據可視化、安卓app、大數據、物聯網、機器學習等設計與開發。 主要內容:…

Pytorch實現之對稱卷積神經網絡結構實現超分辨率

簡介 簡介:針對傳統的超分辨率重建技術所重建的圖像過于光滑且缺乏細節的問題,作者提出了一種改進的生成對抗圖像超分辨率網絡。 該改進方法基于深度神經網絡,其生成模型包含多層卷積模塊和多層反卷積模塊,其中在感知損失基礎上增加了跳層連接和損失函數。 該判別模型由多…

Scikit-learn模型構建全流程解析:從數據預處理到超參數調優

模型選擇與訓練步驟及示例 1. 數據準備與探索 步驟說明:加載數據并初步探索其分布、缺失值、異常值等。 注意事項: 檢查數據類型(數值/類別)、缺失值和異常值。對類別型特征進行編碼(如獨熱編碼)。 實例&…

001-JMeter的安裝與配置

1.前期準備 下載好JMeter : https://jmeter.apache.org/download_jmeter.cgi 下載好JDK : :Java Downloads | Oracle 中國 下載圖中圈藍的JMeter和JDK就行,讓它邊下載,我們邊往下看 2.為什么要下載并安裝JDK ? JMeter 是基于 Java 開發的工具&#…

第2.2節 Android Jacoco插件覆蓋率采集

JaCoCo(Java Code Coverage)是一款開源的代碼覆蓋率分析工具,適用于Java和Android項目。它通過插樁技術統計測試過程中代碼的執行情況,生成可視化報告,幫助開發者評估測試用例的有效性。在github上開源的項目&#xff…

特征工程自動化(FeatureTools實戰)

目錄 特征工程自動化(FeatureTools實戰)1. 引言2. 項目背景與意義2.1 特征工程的重要性2.2 自動化特征工程的優勢2.3 工業級數據處理需求3. 數據集生成與介紹3.1 數據集構成3.2 數據生成方法4. 自動化特征工程理論基礎4.1 特征工程的基本概念4.2 FeatureTools庫簡介4.3 關鍵公…

Scikit-learn模型評估全流程解析:從數據劃分到交叉驗證優化

模型評估的步驟、scikit-learn函數及實例說明 1. 數據劃分(Train-Test Split) 函數:train_test_split使用場景:將數據分為訓練集和測試集,避免模型過擬合。作用:確保模型在未見過的數據上驗證性能。示例&…

Spring AI相關的面試題

以下是150道Spring AI相關的面試題目及答案: ### Spring AI基礎概念類 **1. 什么是Spring AI?** Spring AI是Spring框架的擴展,旨在簡化人工智能模型在Java應用中的集成與使用,提供與Spring生態無縫銜接的工具和抽象&#xff0c…

C++ 學習筆記(四)—— 類和對象

1、this指針 class Date { public:void Init(Date* this, int year, int month, int day){this->_year year;this->_month month;this->_day day;this->Print();// 這就是this指針,是編譯器自己加的,是用來讓成員函數找到成…

SpringMVC全局異常處理機制

異常處理機制 異常處理的兩種方式: 編程式異常處理:是指在代碼中顯式地編寫處理異常的邏輯。它通常涉及到對異常類型的檢測及其處理,例如使用 try-catch 塊來捕獲異常,然后在 catch 塊中編寫特定的處理代碼,或者在 f…

深入LangChain:LLM交互機制與RAG集成的技術

本文將聚焦于 LangChain 如何集成檢索增強生成(RAG),了解其架構、主要組件,以及與 LLM 的交互 LangChain 架構概覽 1、基礎層 這是與各類 LLM 對接的 “橋梁”。LangChain 支持多種流行的 LLM,如 OpenAI 的系列模型、H…

本地部署 LangManus

本地部署 LangManus 0. 引言1. 部署 LangManus2. 部署 LangManus Web UI 0. 引言 LangManus 是一個社區驅動的 AI 自動化框架,它建立在開源社區的卓越工作基礎之上。我們的目標是將語言模型與專業工具(如網絡搜索、爬蟲和 Python 代碼執行)相…

SQL注入(SQL Injection)攻擊原理與防御措施

SQL是一種代碼注入技術,可使攻擊者修改應用程序向數據庫提供的查詢。 迄今為止,最常見和最嚴重的應用 程序安全威脅總是隱藏在與數據庫有某些連接的網絡應用 程序中。 通過這種 SQL 注入,攻擊者可以繞過登錄程序,獲取、更改甚至更…

【算法】十大排序算法(含時間復雜度、核心思想)

以下是 **十大經典排序算法** 的時間復雜度、空間復雜度及穩定性總結,適用于面試快速回顧:排序算法對比表 排序算法最佳時間復雜度平均時間復雜度最差時間復雜度空間復雜度穩定性核心思想冒泡排序O(n)O(n)O(n)O(1)穩定相鄰元素交換,大數沉底…

LVS的 NAT 模式實現 3 臺RS的輪詢訪問

使用LVS的 NAT 模式實現 3 臺RS的輪詢訪問 1.配置 RS(NAT模式)2. 配置 LVS 主機(僅主機、NAT模式)2.1 配置僅主機網卡(192.168.66.150/24 VIP )2.2 配置 NAT 網卡(192.168.88.6/24 DIP&#xff…

一、MySQL8的my.ini文件

MySQL8.0.11的安裝版本my.ini配置文件默認存放在:C:/Program Files/MySQL/MySQL Server 8.0/ 目錄下;而MySQL8.0.11綠色免安裝版本是沒有my.ini配置文件,用戶可以自行構建后,再通過my.ini進行數據庫的相關配置 一、MySQL8.0.11默…

微調這件小事:訓練集中的輸入數據該作為instruction還是input?從LLaMA-Factory的源碼中尋找答案吧~

在之前的博文中,我們已經了解了LLaMA-Factory框架執行各類任務的流程。今天,我們將深入探討SFT微調過程中關于數據集的兩個關鍵問題: 數據集中的instruction和input是如何結合起來生成大模型可以理解的輸入的?instruction是不是就是system prompt呢?(之所以會問這個問題,…

nacos-actuator漏洞

1、nacos配置文件添加以下配置 vim application.properties# 添加以下配置項 management.endpoints.enabled-by-defaultfalse management.server.port-12、重啟Nacos systemctl restart nacos3、驗證 打開地址http://ip:port/nacos/actuator查看是否有敏感信息輸出&#xff0…

extern關鍵字的用法

目錄 總述 一、聲明外部變量 二、聲明外部函數 三、實現模塊化編程 四、與"C" 連用,實現C和C的混合編程 五、注意事項 六、疑點補充(你可能會有和我一樣的疑問?) 總述 在C和C中,extern關鍵字用于聲明外…