本期筆者帶給大家部署一個本地私有化知識庫,簡單明了,直接步入主題,需要讀者可以繼續關注支持一下啊!
目錄
- 背景
- 步驟
-
- 一、環境準備
- 二、Ollama環境部署
- 三、AnythingLLM安裝
- 總結
開始下載應用:
操作系統:Windows 10
安裝包:Ollama、AnythingLLM
官網:Ollama
官網:
??????https://anythingllm.com/
這個下載安裝就行了
二、Ollama環境部署
1、安裝
雙擊安裝包文件OllamaSetup.exe,一鍵安裝。默認安裝路徑為C:\Users\用戶名\AppData\Local\Programs\Ollama。AppData目錄為隱藏目錄,勾選“隱藏的項目”選項,即可查看到。
設置模型環境變量:新建系統變量,像我這樣:變量名:OLLAMA_MODELS
下面那個路徑你們自己設置一個路徑就可以了。比如變量值(路徑):E:\soft\ollama
創建完環境變量后,把Ollama停止,然后進入C盤–>用戶–>你自己的電腦名稱–>.ollama–>剪切整個models到剛剛上面新建的存儲目錄下。
任務管理器關閉ollama進程,打開cmd重新輸入ollama重啟程序。
最重要的任務管理器有兩個這個進程,需要同時都結束。有一個是.exe結尾的,有一個就是ollama
cmd輸入ollama list查看模型顯示正常則遷移完成。
啟動運行:ollama run 模型的名稱就是那個name
3、檢驗安裝
打開瀏覽器URL地址輸入localhost:11434,頁面顯示“Ollama is running”,如圖 4 ollama運行成功,即可確認ollama安裝運行成功。
圖 9 ollama運行成功
或者命令行輸入ollama
4、安裝Deepseek模型
cmd窗口輸入以下安裝命令
ollama run deepseek-r1:1.5b
安裝成功后,輸入ollama list命令顯示如圖 10 deepseek模型所示,代表deepseek安裝成功。
三、AnythingLLM安裝
1、安裝
雙擊安裝包文件AnythingLLMDesktop.exe,一鍵安裝。
進去 配置,
提問好了 關注一下喲!