ollama+open-webui本地部署自己的模型到d盤+兩種open-webui部署方式(詳細步驟+大量貼圖)

一、ollama準備

1.官網下載ollama:https://ollama.com/download

2.在 d 盤創建 ollama 文件夾,把軟件包放進去

3.管理員身份運行黑窗口

win + r 彈出運行窗口

輸入 cmd 后, ctrl + shift + 回車,以管理員身份打開

3.切換到 d 盤,添加系統環境變量(如果直接運行安裝文件,模型文件會自動保存在C盤。時間久了,C盤很容易存滿)

d: 回車

setx OLLAMA_MODELS d:\ollama\models /M

OLLAMA_MODELS: 環境變量名稱,d:\ollama\models: 變量值,/M: 創建的是系統環境變量)

作用展示:

4.切換到 ollama 目錄,安裝ollama程序到指定目錄

cd ollama

ollamaSetup.exe /dir=d:\ollama

在彈出的安裝界面中,點 Install 后, 等待完成

5.關閉原來的 CMD,打開一個新的 CMD,讓配置生效,并查看ollama是否安裝成功

ollama -v

二、拉取并運行模型

1.官網搜索想要的模型:https://ollama.com

點擊models 菜單項,進入模型列表頁面

2.找到模型后,點擊進入詳情頁面

3.選擇想要的模型參數大小,復制右側的命令

4.回到 CMD 窗口,粘貼命令,修改命令為僅下載,不運行

原命令 ollama run deepseek-r1:7b

新命令 ollama pull deepseek-r1:7b

(下載(拉取模型)速度變慢,可以 ctrl+c 中斷,過一會再執行 ollama pull deepseek-r1:7b, 將會接著上一次的進度進行拉取下載)

5.運行大模型

ollama run deepseek-r1:7b

在 >>>提示符后輸入信息即可聊天

tips:管理員運行的黑窗口才可以中文輸入

輸入/bye 或者 ctrl + d 也可以退出. ollama服務還在

三、Open-webui前端部署

1.直接在anaconda創建的虛擬環境中部署

1.創建虛擬環境指令:conda create -n open-webui python=3.11

2.一般創建工作區非常順利,如果不放心,新打開黑窗口,查看工作區是否創建成功指令:conda info -e

3.進入創建的工作區指令:conda activate open-webui

4.配置pip清華鏡像指令:pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

鏡像指令來自:https://zhuanlan.zhihu.com/p/628870519

5.安裝 open-webui指令:pip install open-webui

6.啟動 open-webui指令:open-webui serve

7.服務啟動成功頁面

8.瀏覽器打開服務:localhost:8080

9.輸入信息,創建管理員賬號

10.創建后進入頁面,彈出版本信息

11.嘗試使用(ctl+c或者叉掉黑窗口,意味著關閉服務,瀏覽器中將不能使用)

平時使用流程

1.打開黑窗口,進入open-webui工作區指令:conda activate open-webui

2.工作區中啟動open-webui指令:open-webui serve

3.退出或關閉 open-webui:ctrl + c或者叉掉黑窗口

查看工作區安裝的open-webui項目信息

指令:conda activate open-webui pip show open-webui

查看模型情況

查看ollama中拉取的模型指令:ollama list

查看正在運行的模型情況:ollama ps

刪除open-webui工作區內容:

指令:conda remove -n open-webui --all

2.Open-webui使用非pip安裝運行

  • node.js已經安裝,版本20以上,(我下載的22)
  • node.js環境變量已配置
    在這里插入圖片描述

1.在github上下載源碼

2.右鍵放項目的地方,打開Git Bash,克隆指令:git clone https://github.com/open-webui/open-webui.git (換成自己要克隆的項目地址哈)

3.等待克隆完成

4.使用魔法速度還是慢?克隆失敗?

使用魔法指令:

git config --global http.proxy http://127.0.0.1:7890

git config --global https.proxy http://127.0.0.1:7890

如果不需要魔法,可以取消設置,指令:

git config --global --unset http.proxy

git config --global --unset https.proxy

目的是設置 Git 通過 HTTPHTTPS 協議訪問網絡時使用魔法工具地址,確保你的魔法工具(如 小貓)已啟動,且 7890 端口是它的監聽端口(不同工具端口可能不同),僅對 Git 生效,此配置不會影響其他程序(如瀏覽器)的網絡請求

在這里插入圖片描述

效果:速率提高到每秒兆字節

5.進入目錄

6.路徑輸入cmd,啟動黑窗口,運行指令npm install

7.路徑打開的cmd不是管理員身份打開的,win+R打開運行,輸入cmd后,ctrl+shift+回車。切到目錄再執行指令:npm install

安裝后會在目錄中多一個文件夾:node_modules,如果沒有顯示,返回上一級文件夾,再進入。

8.繼續輸入指令完成前端構建:npm run build

9.依舊使用anaconda中創建的open-webui虛擬環境

10.運行指令:.\start_windows.bat

平常使用

1.路徑打開黑窗口,避免切目錄

2.虛擬環境下運行黑窗口


11.瀏覽器輸入localhost:8080,聊天記錄是空的,可見是新部署的。

四、我的疑惑

Q1:為什么右鍵項目,使用pycharm打開,運行后端的main.py文件,報無法打開數據庫文件(unable to open database file),管理員運行pycharm也不行。。。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/77242.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/77242.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/77242.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

(學習總結33)Linux Ext2 文件系統與軟硬鏈接

Linux Ext2 文件系統與軟硬鏈接 理解硬件磁盤、服務器、機柜、機房磁盤物理結構磁盤的邏輯結構實際過程 CHS 與 LBA 地址轉換 引入文件系統引入 " 塊 " 概念引入 " 分區 " 概念引入 " inode " 概念 ext2 文件系統宏觀認識Block Group 塊組與其內…

Go語言sync.Mutex包源碼解讀

互斥鎖sync.Mutex是在并發程序中對共享資源進行訪問控制的主要手段,對此Go語言提供了非常簡單易用的機制。sync.Mutex為結構體類型,對外暴露Lock()、Unlock()、TryLock()三種方法,分別用于阻塞加鎖、解鎖、非阻塞加鎖操作(加鎖失敗…

SQL注入流量分析

免責聲明:本文僅作分享 ~ 目錄 SQL注入流量分析 特征: sqlmap注入類型 漏洞環境搭建 error_sql: bool_sql: time_sql: union_sql: Stacked Queries: Inline Queries: SQL注入流量分析 https://www.freebuf.com/column/161797.html SQLMAP攻擊…

Linux 時間同步工具 Chrony 簡介與使用

一、Chrony 是什么? chrony 是一個開源的網絡時間同步工具,主要由兩個組件組成: chronyd:后臺服務進程,負責與時間服務器交互,同步系統時鐘。chronyc:命令行工具,用于手動查看或修…

Flutter:Flutter SDK版本控制,fvm安裝使用

1、首先已經安裝了Dart,cmd中執行 dart pub global activate fvm2、windows配置系統環境變量 fvm --version3、查看本地已安裝的 Flutter 版本 fvm releases4、驗證當前使用的 Flutter 版本: fvm flutter --version5、切換到特定版本的 Flutter fvm use …

Vue 項目中的package.json各部分的作用和用法的詳細說明

1. 基本信息 {"name": "my-vue-app","version": "1.0.0","description": "A Vue.js project","author": "Your Name <your.emailexample.com>","license": "MIT"…

Linux網絡編程——TCP通信的四次揮手

一、前言 上篇文章講到了TCP通信建立連接的“三次握手”的一些細節&#xff0c;本文再對TCP通信斷開連接的“四次揮手”的過程做一些分析了解。 二、TCP斷開連接的“四次揮手” 我們知道TCP在建立連接的時需要“三次握手”&#xff0c;三次握手完后就可以進行通信了。而在通…

某碰瓷國賽美賽,號稱第三賽事的數模競賽

首先我非常不能理解的就是怎么好意思自稱第三賽事的呢&#xff1f;下面我們進行一個簡單討論&#xff0c;當然這里不對國賽和美賽進行討論。首先我們來明確一點&#xff0c;比賽的含金量由什么來定&#xff1f;這個可能大家的評價指標可能不唯一&#xff0c;我通過DeepSeek選取…

Redis 緩存問題:緩存雪崩、緩存擊穿、緩存穿透

文章目錄 緩存雪崩緩存擊穿緩存穿透在實際的業務場景中,Redis 通常作為緩存和其他數據庫(例如 MySQL)搭配使用,用來減輕數據庫的壓力。但是在使用 Redis 作為緩存數據庫的過程中,可能會遇到一些常見問題,例如緩存穿透、緩存擊穿和緩存雪崩等。 緩存雪崩 緩存雪崩是指緩存…

Qt 入門 4 之標準對話框

Qt 入門 4 之標準對話框 Qt提供了一些常用的對話框類型,它們全部繼承自QDialog類,并增加了自己的特色功能,比如獲取顏色、顯示特定信息等。下面簡單講解這些對話框,可以在幫助索引中查看Standard Dialogs關鍵字,也可以直接索引相關類的類名。 本文將以一個新的項目為主介紹不…

買不起了,iPhone 或漲價 40% ?

周知的原因&#xff0c;新關稅對 iPhone 的打擊&#xff0c;可以說非常嚴重。 根據 Rosenblatt Securities分析師的預測&#xff0c;若蘋果完全把成本轉移給消費者。 iPhone 16 標配版的價格&#xff0c;可能上漲43%。 iPhone 16 標配的價格是799美元&#xff0c;上漲43%&am…

軟件需求分析習題匯編

需求工程練習題 一、選擇題 1. 軟件需求規格說明書的內容不應包括對&#xff08; &#xff09;的描述。 A. 主要功能B. 算法的詳細過程C. 用戶界面及運行環境D. 軟件的性能 *正確答案:*B:算法的詳細過程; 2. 需求分析最終結果是產生&#xff08; &#xff09; A. 項目開發…

clickhouse注入手法總結

clickhouse 遇到一題clickhouse注入相關的&#xff0c;沒有見過&#xff0c;于是來學習clickhouse的使用&#xff0c;并總結相關注入手法。 環境搭建 直接在docker運行 docker pull clickhouse/clickhouse-server docker run -d --name some-clickhouse-server --ulimit n…

智能語音識別工具開發手記

智能語音識別工具開發手記 序言&#xff1a;聽見數字化的聲音 在縣級融媒體中心的日常工作中&#xff0c;我們每天需要處理大量音頻素材——從田間地頭的采訪錄音到演播室的節目原聲&#xff0c;從緊急會議記錄到專題報道素材。二十多年前&#xff0c;筆者剛入職時&#xff0…

TDengine 3.3.6.0 版本中非常實用的 Cols 函數

簡介 在剛剛發布的 TDengine 3.3.6.0 版本 中&#xff0c;新增了一個非常實用的 函數COLS &#xff0c;此函數用于獲取選擇函數所在行列信息&#xff0c;主要應用在生成報表數據&#xff0c;每行需要出現多個選擇函數結果&#xff0c;如統計每天最大及最小電壓&#xff0c;并報…

【AI學習】AI Agent(人工智能體)

1&#xff0c;AI agent 1&#xff09;定義 是一種能夠感知環境、基于所感知到的信息進行推理和決策&#xff0c;并通過執行相應動作來影響環境、進而實現特定目標的智能實體。 它整合了多種人工智能技術&#xff0c;具備自主學習、自主行動以及與外界交互的能力&#xff0c;旨…

【MCP】VSCode Cline配置MongoDB連接

VSCode MCP插件配置MongoDB連接教程 前言 本文將介紹如何在VSCode中配置Cline插件連接MongoDB。 環境準備 VSCodeNode.jsMongoDB服務器Cline插件 配置步驟 1. 安裝MCP插件 在VSCode擴展商店中搜索"Cline"并安裝。 安裝完之后需要配置API平臺以及設置API-KEY。…

this指針 和 類的繼承

一、this指針 Human類的屬性fishc與Human&#xff08;&#xff09;構造器的參數fishc同名&#xff0c;但卻是兩個東西。使用this指針讓構造器知道哪個是參數&#xff0c;哪個是屬性。 this指針&#xff1a;指向當前的類生成的對象 this -> fishc fishc當前對象&#xff08;…

使用PyTorch訓練VGG11模型:Fashion-MNIST圖像分類實戰

本文將通過代碼實戰&#xff0c;詳細講解如何使用 PyTorch 和 VGG11 模型在 Fashion-MNIST 數據集上進行圖像分類任務。代碼包含數據預處理、模型定義、訓練與評估全流程&#xff0c;并附上訓練結果的可視化圖表。所有代碼可直接復現&#xff0c;適合深度學習初學者和進階開發者…

汽車BMS技術分享及其HIL測試方案

一、BMS技術簡介 在全球碳中和目標的戰略驅動下&#xff0c;新能源汽車產業正以指數級速度重塑交通出行格局。動力電池作為電動汽車的"心臟"&#xff0c;其性能與安全性不僅直接決定了車輛的續航里程、使用壽命等關鍵指標&#xff0c;更深刻影響著消費者對電動汽車的…