本地部署deepseek-r1建立向量知識庫和知識庫檢索實踐【代碼】

目錄

一、本地部署DS

二、建立本地知識庫

1.安裝python和必要的庫

2.設置主目錄工作區

3.編寫文檔解析腳本

4.構建向量數據庫

三、基于DS,使用本地知識庫檢索


本地部署DS,其實非常簡單,我寫了一篇操作記錄,我終于本地部署了DeepSeek-R1(圖文全過程)-CSDN博客

安裝了本地DS,我肯定是想建立本地的知識庫,還要能結合本地知識庫來查詢了,不然本地部署,并沒有太大的意義,用戶主要是不想把提問的附件和知識庫送到服務器上,不管怎么樣,辛辛苦苦寫的論文,做的實驗數據,還是不想哪天莫名其妙的被別人檢索到的。

有興趣,或者不想走彎路的朋友,可以看看。運行DS,肯定是很考驗機器的,但并不是多么的可怕,沒有GPU不要緊,CPU也能跑。我用一臺Windows 10pro,沒有GPU,跑起來雖然風扇呼呼的,但8b沒有什么問題,7b估計更順滑一些。我把網線拔了也實驗了,確實是本地哈哈!上面的文章中,也給了不同版本DeepSeek-R1所需要的電腦配置清單,以及一個檢測工具,還是挺好用的。

(我這臺電腦的配置)

手頭也沒有什么好文章,于是就去問DS(滿血版)自己,DS對于自己部署自己,給的代碼和方式,不是模塊不全,就是代碼不對,要么是路徑錯誤,把我這好久不碰代碼的人,弄得迷迷糊糊,好在調程序的修養還在,不跑通,不出結果,心里癢癢的不行,于是反復提問DS,反復檢查,終于也算是初步能看到結果了。

本文給出了解析本地知識庫PDF文件、建立向量知識庫、集成deepseek-r1:8b版本查詢的全過程。

距離真正的商用,當然有距離,代碼和示例的偽代碼差不多,沒有什么保護、架構可言,做一個記錄,知行合一,自我啟發是夠用了。

一、本地部署DS

我部署的是8b版本,基于ollama部署的,很簡單。

我終于本地部署了DeepSeek-R1(圖文全過程)-CSDN博客

部署后,由于要運行python,所以我同時用的powershell和cmd

啟動:

ollama run deepseek-r1:8b

很快就可以看到,deepseek-r1:8b版本,就開始運行 。

可以看一下版本。

如果不習慣命令行窗口,想要圖形界面,大家還可以下載Docker,運行WebUI,可以試試。我的電腦windows一開始沒有升級,無法安裝最新的Docker,要升級到19045以上。

剛剛升級了windows,試了下安裝成功!

WSL也同時被安裝和升級。

這段后續再給大家分享。

二、建立本地知識庫

我直接問的DS:

我用ollama已經在windows10環境下部署了deepseek-r1,現在想在本地建設知識庫,把我的PDF和WORD等文件裝入知識庫,我該下載哪些工具和軟件,執行哪些操作,需要清晰且可執行性強。我沒有nvidia顯卡,是共享的顯存,但是我的deepseek可以運行,我不求效率和速度,能跑通就可以。

我真是要求不高了,因為確實害怕誤導了它,給我放什么大招,我的小筆記本承受不住。

(以下很多內容是反復核實驗勘誤后的,DS的回答經常有問題。即使是滿血版本。)

1.安裝python和必要的庫

https://www.python.org/downloads/windows/

我安裝的版本是

Pyth

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/898431.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/898431.shtml
英文地址,請注明出處:http://en.pswp.cn/news/898431.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

String、StringBuffer、StringBuiler的區別

可變性 String是不可變的,這是因為String內部用于存儲數據的char[]數組用了final關鍵字修飾,而且是private的,并且沒有對外提供修改數組的方法。 StringBuffer和StringBuilder是可變的,它們內部的char數組沒有用final關鍵字修飾。…

Certd自動化申請和部署SSL證書并配置https

服務器使用的華為云,之前SSL證書通過配置Cloudflare的DNS實現的,最近華為云備案提示需修改解析至境內華為云IP,若解析境外IP,域名無需備案,需注銷或取消接入備案信息,改為使用Certd自搭建證書管理工具&…

git tag以及git

git tag 以及git 一、先說收獲吧 1. git bash 在windows上 類似于linux的bash提供的shell命令行窗口,可以執行很多linux命令,cd pwd ls vim cat touch mkdir,還可以用正則匹配查看標簽。相當于在windows上裝了一個小的linux。git init myproj…

ESP8266通過AT指令配置雙向透傳

一、固件燒錄 IO0接地后上電,進入燒錄模式,燒錄完成后去掉即可 二、參數配置 1、服務器端 ATCWMODE_DEF2 ATCWSAP_DEF"ESP8266","12345678",5,3 ATSAVETRANSLINK1,"192.168.4.2",9090,"UDP",8080 2、客戶端…

【3D模型】【游戲開發】【Blender】Blender模型分享-獅頭木雕附導入方法

導入方法: [Blender] 如何導入包含紋理的 .blend 模型文件 在 3D 建模和渲染工作中,Blender 是一款功能強大的免費開源軟件。很多時候,我們需要導入 .blend 后綴的模型文件,同時確保紋理(textures)文件夾…

C# | 超簡單CSV表格讀寫操作(輕松將數據保存到CSV,并支持讀取還原)

C# | 超簡單CSV表格讀寫操作(輕松將數據保存到CSV,并支持讀取還原) 文章目錄 C# | 超簡單CSV表格讀寫操作(輕松將數據保存到CSV,并支持讀取還原)一、上位機開發中的CSV應用背景二、CSV讀寫實戰教學1. 基本對…

Git push后撤銷提交

一、介紹 當某次更改完工程后,push了本地倉庫到云端,但是發現有地方改錯了,想撤銷這次推送,或者某次提交就更改了很小一部分,想和本地這次修改的合并為一次推送,省的在云端顯示特別多次提交,顯得…

Unity導出WebGL,無法顯示中文

問題:中文無法顯示 默認字體無法顯示中文 在編輯器中設置了中文和英文的按鈕,中文按鈕無法顯示 導出后無法顯示中文 解決辦法: 自己添加字體,導入項目,并引用 示例 下載一個字體文件,這里使用的阿里…

閱讀《Vue.js設計與實現》 -- 02

接上一篇文章:閱讀《Vue.js設計與實現》 – 01 文章目錄 第二章提升用戶的開發體驗tips 控制框架代碼的體積Tree-Shaking副作用 框架應該輸出怎樣的構建產物?注意這兩個文件有什么區別? 特性開關如何實現? 處理錯誤TS支持 第二章 …

Mac:Ant 下載+安裝+環境配置(詳細講解)

📌 下載 Ant 下載地址:https://ant.apache.org/bindownload.cgi 📌 無需安裝 Apache官網下載 Ant 壓縮包,無需安裝,下載解壓后放到自己指定目錄下即可。 按我自己的習慣,我會在用戶 jane 目錄下新建了個…

qt圖表背景問題

從代碼來看,這段代碼涉及到設置背景透明度和背景可見性的操作,主要是在一個基于Qt框架的圖形界面程序中對某個圖表控件(fontChart)和視圖控件(fontChartView)進行操作。以下是每行代碼的作用以及它們之間的…

藍橋杯國賽子串2023動態規劃,暴力

#include <bits/stdc.h> using namespace std; // string ss; #define int long long string s; //該方法通過動態規劃&#xff0c;找到2023字串&#xff0c;而2023等于202加3&#xff0c;202等于202&#xff0c;20等于20&#xff1b; int f2() {int dp[4]{0};//dp[0]代表…

uni-app——網絡API

uni-app 網絡API 在 uni-app 開發中&#xff0c;網絡請求是獲取數據與和服務器交互的重要手段。以下介紹 uni-app 中常見的網絡 API&#xff0c;包括發起請求、上傳和下載以及 WebSocket、UDP 通信等方面。 發起請求 在 uni-app 里&#xff0c;使用uni.request(OBJECT)來發起…

計算機網絡筆記再戰——理解幾個經典的協議HTTP章3

理解幾個經典協議——HTTP章3 返回結果的HTTP狀態碼 ? 我們知道&#xff0c;ICMP可以傳遞IP通信時候的狀態如何。HTTP雖然沒有輔助的解析&#xff0c;但是它可以使用狀態碼來表達我們的HTTP請求的結果&#xff0c;標記服務器端的處理是否正常、通知出現的錯誤等工作。這就是…

國產編輯器EverEdit - Hex Dump插件:看到文本的另一面!

1 Hex Dump插件 1.1 應用場景 有時可能需要顯示字母的ASCII編碼&#xff0c;或其他文字的字節編碼&#xff0c;可以使用Hex Dump插件來完成 1.2 使用方法 安裝Hex Dump插件&#xff0c;安裝插件方法參考&#xff1a;擴展管理 在編輯器中選中文本&#xff0c;選擇擴展 -> …

《駕馭MXNet:深度剖析分布式深度學習訓練的高效之道》

在深度學習的迅猛發展進程中&#xff0c;模型的規模和復雜性持續攀升&#xff0c;對計算資源的需求也愈發苛刻。單機訓練在面對大規模數據集和復雜模型結構時&#xff0c;常常顯得力不從心。分布式深度學習訓練成為解決這一困境的關鍵途徑&#xff0c;而MXNet作為一款強大的開源…

Vue3項目開發:狀態管理實踐指南

# Vue3項目開發&#xff1a;狀態管理實踐指南 一、引言 背景介紹 在Vue項目中&#xff0c;狀態管理是一個非常重要的話題。合理的狀態管理能夠幫助我們更好地組織和管理數據&#xff0c;提升項目的可維護性和可擴展性。本文將深入探討Vue3項目中狀態管理的最佳實踐&#xff0c;…

網絡安全漏洞與修復 網絡安全軟件漏洞

文章目錄 一、軟件漏洞的概念 1、信息安全漏洞簡述2、軟件漏洞3、軟件漏洞概念4、軟件漏洞的成因分析 二、軟件漏洞標準化管理 1、軟件漏洞分類2、軟件漏洞分級3、安全漏洞管理規范 一、軟件漏洞的概念 1、信息安全漏洞簡述 信息安全漏洞是信息安風險的主要根源之一&…

SpringBoot項目controller層接收對應格式請求的相關RequestMapping配置

目錄 &#xff08;1&#xff09; &#xff08;2&#xff09; &#xff08;3&#xff09; 注&#xff1a;此情況注意和&#xff08;4&#xff09;中情況進行區分 &#xff08;4&#xff09; 在幾個springboot項目開發后&#xff0c;我總結了以下的一些常見的接收對應請求的…

2025年圖生視頻模型技術全景解析

一、開源圖生視頻模型 阿里通義萬象Wan2.1系列 I2V-14B-480P&#xff1a; 14B參數基礎模型支持480P分辨率圖生視頻顯存需求16GB以上 I2V-14B-720P&#xff1a; 高清增強版模型采用分幀渲染技術&#xff0c;輸出分辨率達1280720 技術特性&#xff1a; 支持中文提示詞自動解析內置…