目錄
一、本地部署DS
二、建立本地知識庫
1.安裝python和必要的庫
2.設置主目錄工作區
3.編寫文檔解析腳本
4.構建向量數據庫
三、基于DS,使用本地知識庫檢索
本地部署DS,其實非常簡單,我寫了一篇操作記錄,我終于本地部署了DeepSeek-R1(圖文全過程)-CSDN博客
安裝了本地DS,我肯定是想建立本地的知識庫,還要能結合本地知識庫來查詢了,不然本地部署,并沒有太大的意義,用戶主要是不想把提問的附件和知識庫送到服務器上,不管怎么樣,辛辛苦苦寫的論文,做的實驗數據,還是不想哪天莫名其妙的被別人檢索到的。
有興趣,或者不想走彎路的朋友,可以看看。運行DS,肯定是很考驗機器的,但并不是多么的可怕,沒有GPU不要緊,CPU也能跑。我用一臺Windows 10pro,沒有GPU,跑起來雖然風扇呼呼的,但8b沒有什么問題,7b估計更順滑一些。我把網線拔了也實驗了,確實是本地哈哈!上面的文章中,也給了不同版本DeepSeek-R1所需要的電腦配置清單,以及一個檢測工具,還是挺好用的。
(我這臺電腦的配置)
手頭也沒有什么好文章,于是就去問DS(滿血版)自己,DS對于自己部署自己,給的代碼和方式,不是模塊不全,就是代碼不對,要么是路徑錯誤,把我這好久不碰代碼的人,弄得迷迷糊糊,好在調程序的修養還在,不跑通,不出結果,心里癢癢的不行,于是反復提問DS,反復檢查,終于也算是初步能看到結果了。
本文給出了解析本地知識庫PDF文件、建立向量知識庫、集成deepseek-r1:8b版本查詢的全過程。
距離真正的商用,當然有距離,代碼和示例的偽代碼差不多,沒有什么保護、架構可言,做一個記錄,知行合一,自我啟發是夠用了。
一、本地部署DS
我部署的是8b版本,基于ollama部署的,很簡單。
我終于本地部署了DeepSeek-R1(圖文全過程)-CSDN博客
部署后,由于要運行python,所以我同時用的powershell和cmd
啟動:
ollama run deepseek-r1:8b
很快就可以看到,deepseek-r1:8b版本,就開始運行 。
可以看一下版本。
如果不習慣命令行窗口,想要圖形界面,大家還可以下載Docker,運行WebUI,可以試試。我的電腦windows一開始沒有升級,無法安裝最新的Docker,要升級到19045以上。
剛剛升級了windows,試了下安裝成功!
WSL也同時被安裝和升級。
這段后續再給大家分享。
二、建立本地知識庫
我直接問的DS:
我用ollama已經在windows10環境下部署了deepseek-r1,現在想在本地建設知識庫,把我的PDF和WORD等文件裝入知識庫,我該下載哪些工具和軟件,執行哪些操作,需要清晰且可執行性強。我沒有nvidia顯卡,是共享的顯存,但是我的deepseek可以運行,我不求效率和速度,能跑通就可以。
我真是要求不高了,因為確實害怕誤導了它,給我放什么大招,我的小筆記本承受不住。
(以下很多內容是反復核實驗勘誤后的,DS的回答經常有問題。即使是滿血版本。)
1.安裝python和必要的庫
https://www.python.org/downloads/windows/
我安裝的版本是
Pyth