本地部署DeepSeek大模型

環境:nuc工控機器 x86架構? ubuntu20.04

1、瀏覽器打開Download Ollama on Linux,復制命令。

2.打開終端,輸入命令。

curl -fsSL https://ollama.com/install.sh | sh

?等待安裝,安裝完成后,終端輸入?ollama,輸入以下參數列表,說明ollama安裝成功了。

2.下載DeepSeek R1模型:

在ollama官網左上角點擊 Models 選項卡,

選擇一個模型,這里選擇7B模型,7B模型運行起來占大概5G的顯存,復制指令。

正在下載7B的DeepSeek R1模型了。

?

3.在VScode中配置

安裝 continue -*, 側邊欄出現圖標。

點擊圖標,

將?continue -* 移至右側,不影響工作區的內容。

按照上圖所示,選擇deepseek-r1 7b。

測試:

終端打開 ollama ps,可以看到deepseek-r1 7b正在運行。

使用??ollama stop deepseek-r1:7b,關閉deepseek-r1 7b。

切換模型:

?

?

?

重新打開VScode,選擇 qwen2.5 模型

?

?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/895955.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/895955.shtml
英文地址,請注明出處:http://en.pswp.cn/news/895955.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Nginx 常用命令和部署詳解及案例示范

一、Nginx常用命令 1.1 啟動 Nginx 要啟動 Nginx 服務,可以使用以下命令: sudo systemctl start nginx1.2 停止 Nginx 如果需要停止 Nginx 服務,可以使用以下命令: sudo systemctl stop nginx1.3 重啟 Nginx 在修改了 Nginx…

2025鴻蒙開發面試題匯總——通俗易懂

問題和通俗易懂的答案,覆蓋鴻蒙開發的核心知識點和實際場景,方便面試時快速評估候選人能力: 一、基礎概念(必問) 鴻蒙和安卓最大的區別是什么?舉個實際例子。 答案:鴻蒙是“分布式操作系統”&am…

Kotlin 優雅的接口實現

1. 日常遇到的冗余的接口方法實現 日常開發中,經常會要實現接口,但是很多場景中,只需要用到其中一兩個方法,例如 ActivityLifecycleCallbacks,它有很多個接口需要實現,但是很多時候我們只需要用到其中的一…

Java List 自定義對象排序 Java 8 及以上版本使用 Stream API

從 Java 8 開始,你可以使用 Stream API 對 List 進行排序,這種方式更加簡潔和靈活。 以下是一個示例代碼: import java.util.ArrayList; import java.util.Comparator; import java.util.List; import java.util.stream.Collectors;// 自定…

【Spring詳解一】Spring整體架構和環境搭建

一、Spring整體架構和環境搭建 1.1 Spring的整體架構 Spring框架是一個分層架構,包含一系列功能要素,被分為大約20個模塊 Spring核心容器:包含Core、Bean、Context、Expression Language模塊 Core :其他組件的基本核心&#xff…

Linux內核讀寫鎖與讀寫信號量的區別及選用

在Linux內核中,讀寫鎖(rwlock_t)和讀寫信號量(struct rw_semaphore)是兩種不同的同步機制,適用于不同的場景。以下是它們的區別和選用建議: 核心區別 特性讀寫鎖 (rwlock_t)讀寫信號量 (struct…

用openresty和lua實現壁紙投票功能

背景 之前做了一個隨機壁紙接口,但是不知道大家喜歡對壁紙的喜好,所以干脆在實現一個投票功能,讓用戶給自己喜歡的壁紙進行投票。 原理說明 1.當訪問http://demo.com/vote/時,會從/home/jobs/webs/imgs及子目錄下獲取圖片列表&…

LLaMA 3.1 模型在DAMODEL平臺的部署與實戰:打造智能聊天機器人

文章目錄 前言 一、LLaMA 3.1 的特點 二、LLaMA3.1的優勢 三、LLaMA3.1部署流程 (一)創建實例 (二)通過JupyterLab登錄實例 (3)部署LLaMA3.1 (4)使用教程 總結 前言 LLama3…

【Python爬蟲(25)】解鎖Python爬蟲:數據存儲的最優選擇與高效策略

【Python爬蟲】專欄簡介:本專欄是 Python 爬蟲領域的集大成之作,共 100 章節。從 Python 基礎語法、爬蟲入門知識講起,深入探討反爬蟲、多線程、分布式等進階技術。以大量實例為支撐,覆蓋網頁、圖片、音頻等各類數據爬取&#xff…

【復現DeepSeek-R1之Open R1實戰】系列8:混合精度訓練、DeepSpeed、vLLM和LightEval介紹

這里寫目錄標題 1 混合精度訓練1.1 FP16和FP321.2 優點1.3 存在的問題1.4 解決辦法 2 DeepSpeed3 vLLM3.1 存在的問題3.2 解決方法3.2.1 PagedAttention3.2.2 KV Cache Manager3.2.3 其他解碼場景 3.3 結論 4 LightEval4.1 主要功能4.2 使用方法4.3 應用場景 本文繼續深入了解O…

使用 FFmpeg 剪輯視頻指南

FFmpeg 是一個功能強大的多媒體處理工具,可以進行視頻和音頻的剪輯、合并、轉碼等操作。本文將詳細介紹如何使用 FFmpeg 進行視頻剪輯,并通過實例幫助你快速掌握剪輯技巧。我們會從最基礎的剪切功能講起,再延伸到一些高級操作,如指…

【分布式理論15】分布式調度1:分布式資源調度的由來與過程

文章目錄 一、操作系統的資源調度:從單核到多核二、 分布式系統的資源調度:從單臺服務器到集群三、 固定資源映射四、 動態資源分配:靈活的任務-資源匹配五、 資源調度過程:從申請到執行 本文主要討論主題: 從操作系統…

【Linux C/C++開發】Linux系統輕量級的隊列緩存mqueue

前言 開發設計時,通常會對業務流程進行模塊化,有些流程之間,不要求同步,但又需要傳遞信息時,如果存儲到數據庫,效率降低很多,如果是存放在內存是最好的。此時可以選擇系統的IPC(進程…

Vue 實現通過URL瀏覽器本地下載 PDF 和 圖片

1、代碼實現如下: 根據自己場景判斷 PDF 和 圖片,下載功能可按下面代碼邏輯執行 const downloadFile async (item: any) > {try {let blobUrl: any;// PDF本地下載if (item.format pdf) {const response await fetch(item.url); // URL傳遞進入i…

計算機網絡基礎雜談(局域網、ip、子網掩碼、網關、DNS)

目錄 1. 簡單局域網的構成 2. IP 地址 3. 子網掩碼 4. IP地址詳解自定義IP 5. IP 地址詳解 6. 網關 7. DNS 域名解析 8. ping 1. 簡單局域網的構成 交換機是組建局域網最重要的設備,換句話說,沒有交換機就沒法搭建局域網 交換機不能讓局域網連…

Thor: 統一AI模型網關的革新之選

項目價值 Thor(雷神托爾)作為一個強大的AI模型管理網關,解決了當前AI領域一個關鍵痛點:不同AI服務商的API格式各異,集成成本高。Thor通過將各種AI模型的獨特格式統一轉換為OpenAI格式,顯著降低了開發者的使用門檻和維護成本。 核…

25年2月通信基礎知識補充:多普勒頻移與多普勒擴展、3GPP TDL信道模型

看文獻過程中不斷發現有太多不懂的基礎知識,故長期更新這類blog不斷補充在這過程中學到的知識。由于這些內容與我的研究方向并不一定強相關,故記錄不會很深入請見諒。 【通信基礎知識補充7】25年2月通信基礎知識補充1 一、多普勒頻移與多普勒擴展傻傻分不…

【Python】Python入門——筆記合集

哈哈 00、環境搭建 學習Python,首先需要搭建一個本地開發環境,或是使用線上開發環境(各類練習網站),這篇博客里主要記錄了本地開發環境的配置方法。內容包括python解釋器的安裝以及pycharm的安裝、漢化等。 博客地…

為什么mvcc中?m_ids 列表并不等同于 min_trx_id 和 max_trx_id 之間的所有事務 ID

首先我們要明確 m_ids 表示創建 ReadView 時,系統中所有活躍(未提交)事務的事務 ID 列表。 僅包含當前未提交的事務,與事務 ID 的數值范圍無關。 min_trx_id 是 m_ids 中的最小值。若 m_ids 為空,則 min_trx_id 等于…

使用 Spark NLP 實現中文實體抽取與關系提取

在自然語言處理(NLP)領域,實體抽取和關系提取是兩個重要的任務。實體抽取用于從文本中識別出具有特定意義的實體(如人名、地名、組織名等),而關系提取則用于識別實體之間的關系。本文將通過一個基于 Apache Spark 和 Spark NLP 的示例,展示如何實現中文文本的實體抽取和…