親測有效!使用Ollama本地部署DeepSeekR1模型,指定目錄安裝并實現可視化聊天與接口調用

文章目錄

  • 一、引言
  • 二、準備工作(Ollama 工具介紹與下載)
    • 2.1 Ollama介紹
    • 2.2 Ollama安裝
  • 三、指定目錄安裝 DeepSeek R1
  • 四、Chatbox 可視化聊天搭建
    • 4.1 Chatbox下載安裝
    • 4.2 關聯 DeepSeek R1 與 Chatbox 的步驟
  • 五、使用 Ollama 調用 DeepSeek 接口
    • 5.1 請求接口(無上下文記憶)
    • 5.2 請求接口(有上下文記憶)
    • 5.2 請求體參數解釋

一、引言

在人工智能技術飛速發展的當下,本地部署語言模型為我們帶來了隱私保護、快速響應以及自定義等諸多優勢。DeepSeek R1 作為一款備受矚目的模型,擁有強大的自然語言處理能力,可應用于聊天機器人、文本生成等多個領域 。
而 Ollama 則是一款優秀的 AI 模型管理工具,它能讓我們在本地輕松運行大型語言模型。如果你想擁有一個完全掌控在自己手中,可指定目錄安裝,還能實現可視化聊天,并且可以靈活調用接口的 DeepSeek R1 模型,那這篇文章就是你的不二之選。
接下來,我將一步步帶你完成利用 Ollama 本地部署 DeepSeek R1 的全過程,無論是調整模型的安裝目錄,還是通過 Chatbox 實現可視化聊天,又或是熟練運用 Ollama 調用 DeepSeek 接口,所有的操作步驟和細節都將毫無保留地呈現,助你快速搭建屬于自己的高效 AI 環境。

二、準備工作(Ollama 工具介紹與下載)

2.1 Ollama介紹

Ollama 是一款專為本地運行 AI 模型設計的開源工具,它的出現極大地簡化了模型部署流程,無論你是專業開發者還是 AI 愛好者,都能借助其輕松上手復雜的模型操作。其跨平臺特性支持在 Windows、Mac 以及 Linux 系統上無縫運行,打破了系統壁壘。

2.2 Ollama安裝

ollama官網:ollama
進入官網后點擊Download下載
ollama官網
點擊Download for Windows進行安裝,這里以Windows系統示例
安裝ollama
在Ollama官網中可以選擇自己要安裝的模型,復制右邊的命令,后續我們要使用這個命令來進行安裝DeepSeek R1模型
選擇模型安裝

三、指定目錄安裝 DeepSeek R1

ollama默認將模型安裝到C盤,這可能會導致C盤的磁盤不足從而影響到計算機的整體性能,在C盤頻繁進行大文件的讀寫操作也會增加系統崩潰的幾率。所以這個時候我們就需要將DeepSeek R1模型安裝到其他容量足夠的磁盤中,從而減輕系統的壓力。

指定目錄安裝DeepSeek R1模型全步驟:

  1. 在指定盤符中創建Ollama文件夾,這里我們以D盤示例

  2. C:\Users目錄下找到.ollama文件夾剪切復制到新建的D:\Ollama目錄中(.ollama中存儲的有配置文件,緩存數據,日志文件,機器學習模型資源)

  3. D:\Ollama中新建一個文件夾models用于存儲安裝的模型

  4. D:\Ollama目錄中打開終端DOS窗口,運行ollama --version查看ollama是否安裝成功(如果顯示版本號則證明安裝成功)

  5. 在系統變量中新增OLLAMA_MODELS,變量值是存儲模型的目錄D:\Ollama\models
    配置ollama系統變量

  6. 重啟電腦后在終端輸入ollama --version查看環境變量是否生效

  7. D:\Ollama\models目錄中打開終端DOS窗口,輸入命令ollama run deepseek-r1:1.5b進行安裝DeepSeek R1模型
    安裝DeepSeek R1模型
    安裝完成后提示success則證明安裝成功,接下來就可以流暢使用DeepSeek啦!

四、Chatbox 可視化聊天搭建

4.1 Chatbox下載安裝

Chatbox AI 是一款 AI 客戶端應用和智能助手,支持眾多先進的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和網頁版上使用。
Chatbox官網:Chatbox
進入官網后點擊免費下載(for Windows)進行下載安裝
Chatbox下載安裝

4.2 關聯 DeepSeek R1 與 Chatbox 的步驟

關聯 DeepSeek R1 與 Chatbox
選擇剛剛安裝的模型,然后點擊保存
關聯 DeepSeek R1 與 Chatbox
使用模型

五、使用 Ollama 調用 DeepSeek 接口

5.1 請求接口(無上下文記憶)

這里我們使用ApiFox來簡單給大家示例一下,后續大家可以在程序中調用接口
請求方式: POST
請求接口: http://localhost:11434/api/chat
請求內容:

{"model": "deepseek-r1:1.5b","messages": [{"role": "system","content": "你是一名高級Java程序員,擅長處理各種BUG以及編寫高質量代碼"},{"role": "user","content": "請幫我使用Java寫一個HelloWorld示例"}],"stream": true,"options": {"temperature": 0.2}
}

ApiFox調用DeepSeek接口

5.2 請求接口(有上下文記憶)

請求內容:

{"model": "deepseek-r1:1.5b","messages": [{"role": "system","content": "你是一名高級Java程序員,擅長處理各種BUG以及編寫高質量代碼"},{"role": "user","content": "請幫我使用Java寫一個HelloWorld示例"},{"role": "assistant","content": "\n\n好的!以下是一個基本的 `HelloWorld` 示例:\n\n```java\npublic class HelloWorld {\n    public static void main(String[] args) {\n        System.out.println(\"Hello World\");\n    }\n}\n```\n\n這個示例展示了如何使用 Java 的 `main` 方法來執行一個簡單的輸出打印語句。你可以將 `Hello World` 替換為其他內容,比如:\n\n```java\nSystem.out.println(\"Hello and Me\");\n```\n\n如果你有其他需求或問題,請隨時告訴我!"},{"role": "user","content": "剛剛我問你的是什么?"}],"stream": true,"options": {"temperature": 0.2}
}

5.2 請求體參數解釋

在這個請求體中,每一個參數都有其特定的功能:

  1. model:

    • : "deepseek-r1:1.5b"
    • 作用: 指定要使用的具體模型版本。在這里,它使用的是名為 deepseek-r1 的版本,規模為 1.5b,這可能意味著該模型有 1.5 billion (15 億) 參數。
  2. messages:

    • 作用: 這是一個對話歷史的數組,描述了在當前請求中系統和用戶之間的交流。
    • 內容: 數組中的每一個對象代表一次交流,包括角色(role)和內容(content)。
      • role: 指定交流的角色,可以是 "system"(系統)、"user"(用戶)或 "assistant"(助手)。
      • content: 是該角色在該輪次中所說的話或指令。在對話管理中用于保持對話的上下文。

    具體內容:

    • 第一條消息由 system 提供,描述助手在對話中應扮演的角色——在這里,是一名高級Java程序員。
    • 第二條消息是用戶的請求,要求助手寫一個 HelloWorld 示例。
    • 第三條消息是助手回應用戶請求,提供了一個 Java 的 HelloWorld 示例代碼。
    • 第四條消息是用戶再次提問,明確他們的問題。
  3. stream:

    • : true
    • 作用: 一般用于指示助手是否應該進行流式響應。這通常用于實時傳輸數據或進行連續的對話流,以便用戶能更快地接受到部分響應。
  4. options:

    • 作用: 配置與模型交互的附加選項。
    • temperature:
      • : 0.2
      • 作用: 控制生成文本輸出的多樣性。較低的溫度(例如,0.2)會使輸出更為確定和直接,而較高的溫度會增加生成文本的隨機性和多樣性。0.2 的值意味著在生成時更傾向于確定性,且生成的回應會較為穩定且一致。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/895746.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/895746.shtml
英文地址,請注明出處:http://en.pswp.cn/news/895746.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

期權隱含波動率是什么意思?

財順小編本文主要介紹期權隱含波動率是什么意思?期權隱含波動率(Implied Volatility)是根據當前期權市場價格,利用期權定價模型(如Black-Scholes模型)推導出的關于合約標的理論上的價格波動率。它反映了市場…

Python 面向對象的三大特征

前言:本篇講解面向對象的三大特征(封裝,繼承,多態),還有比較細致的(類屬性類方法,靜態方法),分步驟講解,比較適合理清楚三大特征的思路 面向對象的…

Jmeter如何計算TPS

1.在jmeter中計算出接口請求的個數 1175 1172 1172 174 200 416 384 1174 5867 2.計算接口平均響應時間 計算每個接口的請求次數乘以平均響應時間,所有接口相加,然后除以所有接口的數量總和,得到接口的平均響應時間 (1175*18191172*…

github上文件過大無法推送問題

GitHub 對文件大小有限制,超過 100 MB 的文件無法直接推送到倉庫中。 解決思路: 使用 Git Large File Storage (Git LFS) 來管理大文件不上傳對應的大文件 使用Git LFS: 1. 安裝 Git LFS 首先,你需要安裝 Git LFS。可以按照以…

Httprint 指紋識別技術:網絡安全的關鍵洞察

引言 Http指紋識別現在已經成為應用程序安全中一個新興的話題,Http服務器和Http應用程序安全也已經成為網絡安全中的重要一部分。從網絡管理的立場來看,保持對各種web服務器的監視和追蹤使得Http指紋識別變的唾手可得,Http指紋識別可以使得信…

docker push鏡像到阿里云

阿里云賬號 阿里云-計算,為了無法計算的價值 開通個人鏡像容器 進入控制臺,試用容器 實例列表界面 點擊上圖中的個人,個人版特性 創建個人版: 個人版實例界面: 設置密碼 個人版實例: 創建鏡像倉庫 如上…

【C#零基礎從入門到精通】(二十六)——C#三大特征-多態詳解

【C#零基礎從入門到精通】(二十六)——C#三大特征-多態詳解 在 C# 中,多態是面向對象編程的重要特性之一,它允許不同的對象對同一消息做出不同的響應。多態可以分為靜態多態和動態多態,下面將詳細介紹它們以及各自包含的知識點。 多態概述 多態性使得代碼更加靈活、可擴展…

大模型與智能體:螺旋共生,繪就智能新藍圖

大模型與智能體:螺旋共生,繪就智能新藍圖 在人工智能的前沿領域,大模型與智能體宛如兩顆璀璨的星辰,以一種精妙的螺旋共生關系,重塑著智能世界的格局,深刻影響著我們生活與工作的方方面面。 大模型&#x…

第2章 信息技術發展(一)

2.1 信息技術及其發展 2.1.1 計算機軟硬件 計算機硬件(Computer Hardware)是指計算機系統中由電子、機械和光電元件等組成的各種物理裝置的總稱。 計算機軟件 (Computer Software)是指計算機系統中的程序及其文檔,程序是計算任務的處理對象和處理規則的描述; 文檔…

藍橋杯篇---超聲波距離測量頻率測量

文章目錄 簡介第一部分:超聲波的簡介工作原理1.發射超聲波2.接收反射波3.計算時間差4.計算距離 硬件連接1.Trig2.Echo 示例代碼代碼說明注意事項1.聲速2.延時精度3.硬件連接 第二部分:頻率測量簡介頻率測量原理1.信號輸入2.計數3.計算頻率 硬件連接示例代…

CentOS系統docker配置鏡像加速registry-mirrors,配置阿里云和道客

1.可用倉庫 1.1.阿里云 2022年之后的鏡像缺失(因為被墻了),但是網速極快 https://g4f7bois.mirror.aliyuncs.com1.2.上海道客 持續更新,但是網速極慢 https://docker.m.daocloud.io2.CentOS配置腳本 注意順序。阿里云的放前…

DeepSeek24小時寫作機器人,持續創作高質量文案

內容創作已成為企業、自媒體和創作者的核心競爭力。面對海量的內容需求,人工創作效率低、成本高、質量參差不齊等問題日益凸顯。如何在有限時間內產出高質量內容?DeepSeek寫作機器人,一款24小時持續創作的智能工具,為企業和個人提…

【Elasticsearch】simple_query_string

Elasticsearch 的simple_query_string查詢是一種靈活且容錯性較強的查詢方式,它允許用戶通過簡單的語法構造查詢字符串,以實現對文檔的搜索。以下是關于simple_query_string查詢的詳細說明: 1.基本概念 simple_query_string查詢是一種基于字…

CPP集群聊天服務器開發實踐(五):nginx負載均衡配置

1 負載均衡器的原理與功能 單臺Chatserver可以容納大約兩萬臺客戶端同時在線聊天,為了提升并發量最直觀的辦法需要水平擴展服務器的數量,三臺服務器可以容納六萬左右的客戶端。 負載均衡器的作用: 把client的請求按照負載均衡算法分發到具體…

MYSQL中的性能調優方法

MySQL性能調優是數據庫管理的重要工作之一,目的是通過調整系統配置、優化查詢語句、合理設計數據庫架構等方法,提高數據庫的響應速度和處理能力。以下是常見的MySQL性能調優方法,結合具體的案例進行說明。 1. 優化查詢語句 查詢語句是數據庫…

【論文筆記】Transformer^2: 自適應大型語言模型

Code repo: https://github.com/SakanaAI/self-adaptive-llms 摘要 自適應大型語言模型(LLMs)旨在解決傳統微調方法的挑戰,這些方法通常計算密集且難以處理多樣化的任務。本文介紹了Transformer(Transformer-Squared)…

HTTP的“對話”邏輯:請求與響應如何構建數據橋梁?

一、前言 作為現代互聯網通信的基石,HTTP協議定義了客戶端與服務器之間的“對話規則”。每一次網頁加載、API調用或文件傳輸的背后,都離不開精心構造的HTTP請求與響應。請求中封裝了用戶的意圖——從請求方法、資源路徑到提交的數據;響應則承…

安裝 Docker Desktop 修改默認安裝目錄到指定目錄

Docker Desktop安裝目錄設置 Docker Desktop 默認安裝位置 (C:\Program Files\Docker\Docker) 是這個 ,導致系統盤占用過大,大概2G ; 那么如何安裝到其他磁盤呢? 根據docker desktop 官網 Docker Desktop install 我們可以看到&a…

基于實例詳解pytest鉤子pytest_generate_tests動態生成測試的全過程

關注開源優測不迷路 大數據測試過程、策略及挑戰 測試框架原理,構建成功的基石 在自動化測試工作之前,你應該知道的10條建議 在自動化測試中,重要的不是工具 作為一名軟件開發人員,你一定深知有效測試策略的重要性,尤其…

Kotlin Lambda

Kotlin Lambda 在探索Kotlin Lambda之前,我們先回顧下Java中的Lambda表達式,Java 的 Lambda 表達式是 Java 8 引入的一項強大的功能,它使得函數式編程風格的代碼更加簡潔和易于理解。Lambda 表達式允許你以一種更簡潔的方式表示實現接口&…