DeepSeek-R1大模型本地化部署

前言

Ollama作為一個輕量級、易上手的工具,可以幫助你在自己的電腦上快速部署和運行大型語言模型,無需依賴云端服務。通過加載各種開源模型,比如LLaMA、GPT-J等,并通過簡單的命令行操作進行模型推理和測試。

此小結主要介紹使用ollama作為基礎平臺,并拉取對應的開源大模型后在本地搭設測試環境;
這樣子就可以直接在本機運行大模型;

此部分僅介紹命令行下的本地大模型部署,后續將會介紹如何封裝接口創建Web端以及移動端應用


關注ZhillerDev微信號,獲取文章Markdown&PDF文件,快速構建個人知識庫!!!

十分鐘快速部署本地DeepSeek大模型!

在這里插入圖片描述

文章目錄

  • 前言
  • 基本部署
    • 安裝ollama
    • 安裝大模型
    • 修改安裝地址
  • 測試大模型
  • 總結


基本部署

安裝ollama

Ollama 是一個開源工具,專門為開發者設計,用于簡化大語言模型(LLM)的本地化部署和管理。它的核心目標是將復雜的模型部署過程變得簡單易用,同時提供高效的推理服務。Ollama 不僅支持模型的加載和運行,還提供了模型管理、性能監控、參數配置等功能,幫助開發者在本地環境中快速搭建和優化大語言模型服務。

前往ollama官方網站下載,選擇對應的平臺下載安裝包后安裝即可
我這邊圖方便用的是windows,下載完成后會得到一個msi安裝包,打開后直接一路下一步即可完成安裝
在這里插入圖片描述

安裝大模型

此部分將帶領你安裝最新的DeepSeek-R1:1.5b 大模型

點擊此鏈接前往ollama官網的模型搜索界面:點擊前往
直接搜索deepseek即可,我們這里要測試的大模型是deepseek-r1,點擊進去即可
在這里插入圖片描述

為便于測試,這里直接就選擇一個最小的模型。
該模型是1.5b的,選擇完畢后點擊復制右側的命令
在這里插入圖片描述

打開任意一個命令行(win+r打開運行界面,然后輸入cmd后回車運行即可)
輸入我們剛剛復制的命令然后運行即可下載對應的大模型了!

ollama run deepseek-r1:1.5b

修改安裝地址

當然,下載的模型默認存儲在C盤,這很不合理,你可以使用下面的代碼把模型下載地址更改為你想要的位置;
請注意,修改完畢后務必重新啟動ollama使得路徑生效;

set OLLAMA_MODELS="D:\your\custom\path"

下載完畢后我們使用該代碼看一下目前以及安裝了那些大模型:
加上我之前為了測試下載的tinyllama包括現在下載的deepseek,一共兩個大模型

ollama list

在這里插入圖片描述


測試大模型

最后直接使用此方法在命令行運行大模型即可(千萬注意模型的名字必須和我們上面列出來的名字完全一致,特別是我這邊下載的是1.5b版本,如果不帶上這個后綴的話,那么ollama就會因為找不到模型而重新下載一個其他的模型!!!)
之后就可以愉快的開始對話了~
在這里插入圖片描述


總結

主要介紹如何使用ollama搭設本地大模型平臺,快速使用DeepSeek-R1大模型

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/67759.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/67759.shtml
英文地址,請注明出處:http://en.pswp.cn/web/67759.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

【小白學AI系列】NLP 核心知識點(五)Transformer介紹

Transformer Transformer 是一種基于自注意力機制(Self-Attention Mechanism)的深度學習模型,首次由 Vaswani 等人于 2017 年在論文《Attention is All You Need》中提出。與 RNN 和 LSTM 不同,Transformer 不需要依靠序列順序進…

【高級篇 / IPv6】(7.6) ? 03. 寬帶IPv6 - ADSL撥號寬帶上網配置 ? FortiGate 防火墻

【簡介】大部分ADSL撥號寬帶都支持IPv6,這里以ADSL撥號寬帶為例,演示在FortiGate防火墻上的配置方法。 準備工作 同上篇文章一樣,為了兼顧不熟悉FortiGate防火墻的朋友,我們從基礎操作進行演示,熟練的朋友可以跳過這一…

【Elasticsearch】_all 查詢

在 Elasticsearch 中,_all 查詢是一種特殊的查詢方式,用于在多個索引或數據流中執行搜索操作,而無需顯式指定每個目標索引或數據流的名稱。以下是關于 _all 查詢的詳細說明: _all 查詢概述 用途:_all 查詢允許您在多個…

Linux第104步_基于AP3216C之I2C實驗

Linux之I2C實驗是在AP3216C的基礎上實現的,進一步熟悉修改設備樹和編譯設備樹,以及學習如何編寫I2C驅動和APP測試程序。 1、AP3216C的原理圖 AP3216C集成了一個光強傳感器ALS,一個接近傳感器PS和一個紅外LED,為三合一的環境傳感…

基于單片機的盲人智能水杯系統(論文+源碼)

1 總體方案設計 本次基于單片機的盲人智能水杯設計,采用的是DS18B20實現杯中水溫的檢測,采用HX711及應力片實現杯中水里的檢測,采用DS1302實現時鐘計時功能,采用TTS語音模塊實現語音播報的功能,并結合STC89C52單片機作…

高清種子資源獲取指南 | ??@seedlinkbot

在如今的數字時代,高清影視、音樂、游戲等資源的獲取方式不斷豐富。對于追求高質量資源的用戶而言,一個高效的資源分享平臺至關重要。而 ??seedlinkbot 正是這樣一個便捷的資源獲取工具,為用戶提供高質量的種子資源索引和下載信息。 1. ??…

[paddle] 矩陣相關的指標

行列式 det 行列式定義參考 d e t ( A ) ∑ i 1 , i 2 , ? , i n ( ? 1 ) σ ( i 1 , ? , i n ) a 1 , i 1 a 2 , i 2 , ? , a n , i n det(A) \sum_{i_1,i_2,\cdots,i_n } (-1)^{\sigma(i_1,\cdots,i_n)} a_{1,i_1}a_{2,i_2},\cdots, a_{n,i_n} det(A)i1?,i2?,?,in?…

Spring Boot項目如何使用MyBatis實現分頁查詢

寫在前面:大家好!我是晴空?。如果博客中有不足或者的錯誤的地方歡迎在評論區或者私信我指正,感謝大家的不吝賜教。我的唯一博客更新地址是:https://ac-fun.blog.csdn.net/。非常感謝大家的支持。一起加油,沖鴨&#x…

【論文筆記】Fast3R:前向并行muti-view重建方法

眾所周知,DUSt3R只適合做稀疏視角重建,與sapnn3r的目的類似,這篇文章以并行的方法,擴展了DUSt3R在多視圖重建中的能力。 abstract 多視角三維重建仍然是計算機視覺領域的核心挑戰,尤其是在需要跨不同視角實現精確且可…

本地部署DeepSeek教程(Mac版本)

第一步、下載 Ollama 官網地址:Ollama 點擊 Download 下載 我這里是 macOS 環境 以 macOS 環境為主 下載完成后是一個壓縮包,雙擊解壓之后移到應用程序: 打開后會提示你到命令行中運行一下命令,附上截圖: 若遇…

deepseek本地部署會遇到哪些坑

在本地部署DeepSeek(或其他類似AI模型)時,可能會遇到以下常見問題及解決方案: 1. 硬件資源不足 問題表現: GPU不兼容(如型號過舊)、顯存不足(OOM錯誤)或CPU模式性能極低。解決方案: 確認GPU支持CUDA,檢查顯存需求(如至少16GB顯存)。使用nvidia-smi監控顯存,通過降…

微機原理與接口技術期末大作業——4位搶答器仿真

在微機原理與接口技術的學習旅程中,期末大作業成為了檢驗知識掌握程度與實踐能力的關鍵環節。本次我選擇設計并仿真一個 4 位搶答器系統,通過這個項目,深入探索 8086CPU 及其接口技術的實際應用。附完整壓縮包下載。 一、系統設計思路 &…

解決國內服務器 npm install 卡住的問題

在使用國內云服務器時,經常會遇到 npm install 命令執行卡住的情況。本文將分享一個典型案例以及常見的解決方案。 問題描述 在執行以下命令時: mkdir test-npm cd test-npm npm init -y npm install lodash --verbose安裝過程會卡在這個狀態&#xf…

【Redis】Redis 經典面試題解析:深入理解 Redis 的核心概念與應用

Redis 是一個高性能的鍵值存儲系統,廣泛應用于緩存、消息隊列、排行榜等場景。在面試中,Redis 是一個高頻話題,尤其是其核心概念、數據結構、持久化機制和高可用性方案。 1. Redis 是什么?它的主要特點是什么? 答案&a…

昆侖萬維Java開發面試題及參考答案

進程和線程的區別是什么? 進程和線程都是操作系統中非常重要的概念,它們在多個方面存在顯著的區別。 從定義上看,進程是操作系統進行資源分配和調度的基本單位。每個進程都有自己獨立的內存空間,包括代碼段、數據段、堆棧段等。例如,當你在電腦上同時打開瀏覽器和音樂播放…

Visual Studio Code應用本地部署的deepseek

1.打開Visual Studio Code,在插件中搜索continue,安裝插件。 2.添加新的大語言模型,我們選擇ollama. 3.直接點connect,會鏈接本地下載好的deepseek模型。 參看上篇文章:deepseek本地部署-CSDN博客 4.輸入需求生成可用…

DeepSeek技術深度解析:從不同技術角度的全面探討

DeepSeek技術深度解析:從不同技術角度的全面探討 引言 DeepSeek是一個集成了多種先進技術的平臺,旨在通過深度學習和其他前沿技術來解決復雜的問題。本文將從算法、架構、數據處理以及應用等不同技術角度對DeepSeek進行詳細分析。 一、算法層面 深度學…

SpringBoot 整合 Mybatis:注解版

第一章&#xff1a;注解版 導入配置&#xff1a; <groupId>org.mybatis.spring.boot</groupId><artifactId>mybatis-spring-boot-starter</artifactId><version>1.3.1</version> </dependency> 步驟&#xff1a; 配置數據源見 Druid…

[Linux]如何將腳本(shell script)轉換到系統管理服務器(systemd service)來運行?

[InfluxDB]Monitor Tem. and Volt of RaspberryPi and Send Message by Line Notify 在Linux中&#xff0c;shell腳本(shell script)常用於運行各種自動化的流程&#xff0c;包含API串接&#xff0c;設置和啟動應用服務等等&#xff0c;腳本語法也相對易學易讀&#xff0c;因此…

2025年最新在線模型轉換工具優化模型ncnn,mnn,tengine,onnx

文章目錄 引言最新網址地點一、模型轉換1. 框架轉換全景圖2. 安全的模型轉換3. 網站全景圖 二、轉換說明三、模型轉換流程圖四、感謝 引言 在yolov5&#xff0c;yolov8&#xff0c;yolov11等等模型轉換的領域中&#xff0c;時間成本常常是開發者頭疼的問題。最近發現一個超棒的…