使用Ollama+open-webui搭建本地AI模型

本地搭建AI模型

  • 說明:
  • 1、下載Ollama
  • 2、下載模型
  • 3、pip安裝open-webui(不推薦)
    • 1、Python版本不對應
    • 2、下載wheels失敗
  • 4、docker安裝open-webui

說明:

在windows上搭建本地AI,使用Ollama+open-webui的方式,可以直接在網頁上訪問
參考連接:
Ollama的github地址: https://github.com/ollama/ollama
Ollama官網地址: https://ollama.com/
open-webui地址: https://github.com/open-webui/open-webui
AI模型: https://ollama.com/library/
python倉庫 https://pypi.org/
docker官網下載:https://www.docker.com/

1、下載Ollama

github地址: https://github.com/ollama/ollama
官網地址: https://ollama.com/
在這里插入圖片描述
雙擊運行安裝
在這里插入圖片描述
打開http://localhost:11434/查看運行狀態
在這里插入圖片描述

2、下載模型

查看可下載的模型: https://ollama.com/library/
在這里插入圖片描述
點擊進入后,復制命令行
在這里插入圖片描述
打開電腦的命令行工具,輸入命令下載模型

win+r
cmd
輸入命令行:例ollama run deepseek-r1

在這里插入圖片描述

3、pip安裝open-webui(不推薦)

地址: https://github.com/open-webui/open-webui
在這里插入圖片描述可以直接使用電腦上的pip安裝

pip install open-webui

在這里插入圖片描述

1、Python版本不對應

在這里插入圖片描述
需要3.11以上版本的python
進入官網下載:https://www.python.org/ftp/python/3.12.0/
選擇對應版本下載并雙擊安裝
在這里插入圖片描述
設置環境變量
在這里插入圖片描述
驗證配置成功,再次下載–》成功
在這里插入圖片描述
在這里插入圖片描述

2、下載wheels失敗

可以通過手動下載的方式,再用pip install安裝。找到下載的wheels,點擊下載
鏈接: https://www.cgohlke.com/
或者在 https://pypi.org/里搜索后下載
在這里插入圖片描述

執行安裝

pip install 下載的地址\pandas-2.2.3-cp312-cp312-win_amd64.whl

在這里插入圖片描述

4、docker安裝open-webui

官網下載docker:https://www.docker.com/
在這里插入圖片描述
安裝運行后,直接搜索open-webui,pull拉取鏡像
在這里插入圖片描述

#在命令行工具中輸入命令,查看鏡像
docker images

在這里插入圖片描述

#運行鏡像
docker run -d -p 8088:8080 --name webui --restart always dyrnq/open-webui:git-9e726a3

訪問http://127.0.0.1:8088/
在這里插入圖片描述
點擊Sign up注冊賬號,登錄后就可以使用啦
在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/83456.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/83456.shtml
英文地址,請注明出處:http://en.pswp.cn/web/83456.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

第 87 場周賽:比較含退格的字符串、數組中的最長山脈、一手順子、訪問所有節點的最短路徑

Q1、[簡單] 比較含退格的字符串 1、題目描述 給定 s 和 t 兩個字符串,當它們分別被輸入到空白的文本編輯器后,如果兩者相等,返回 true 。# 代表退格字符。 **注意:**如果對空文本輸入退格字符,文本繼續為空。 示例 …

linux安裝阿里DataX實現數據遷移

目錄 下載datax工具包(如果下載慢,請嘗試其他國內鏡像站或其他網站下載相應資源) 解壓工具包到當前目錄里 接著進入conf配置目錄并創建一個myjob.json(臨時測試json),myjob.json內容如下,用于模擬test庫tab1表數據同…

C++ 引用介紹

很好!既然你有 C 的基礎,那么理解 C 的「引用(reference)」會容易很多。我們來一步步講清楚這個概念。 🌟 一句話總結: C 引用(reference)就是已存在變量的“別名”,它不…

學習筆記086——@PostConstruct注解和InitializingBean接口的使用

文章目錄 1、PostConstruct注解1.1 介紹1.2 用法1.3 場景 2、InitializingBean接口2.1 介紹2.2 用法 1、PostConstruct注解 1.1 介紹 PostConstruct 是 Java EE/Jakarta EE 中的一個注解,用于標記一個方法在依賴注入完成后執行初始化操作。它通常與 Spring 框架一…

考研系列—408真題操作系統篇(2015-2019)

目錄 # 2015年 1.死鎖處理 (1)預防死鎖 (2)避免死鎖 (3)死鎖檢測和解除 2.請求分頁系統的頁面置換策略、頁面置換策略 3.頁、頁框、頁表,基本分頁系統 # 2016年 1.異常、中斷 2.頁置換算法 3.進程的互斥操作 4.SPOOLing技術(從軟件方面實現設備共享) 5.一定要牢記…

argocd部署cli工具并添加k8s集群

先決條件: 1.已經有k8s集群,(網上一萬種部署方式,這里我使用的是kubekey部署的),也埋了個坑,后面說明. 2.已經部署好argocd,并驗證web已經可以訪問.參見 k8s部署argocd-CSDN博客 部署客戶端工具, 這里我是從web頁面上直接下載的對應版本的cli工具. 打開已經部署好的argoc…

打卡day52

簡單cnn 借助調參指南進一步提高精度 基礎CNN模型代碼 import tensorflow as tf from tensorflow.keras import layers, models from tensorflow.keras.datasets import cifar10 from tensorflow.keras.utils import to_categorical# 加載數據 (train_images, train_labels),…

OpenGL ES繪制3D圖形以及設置視口

文章目錄 關于 glDrawElements基本概念使用場景mode 繪制模式type 索引數據類型indices 索引緩沖區工作原理繪制正方體實例 視口透視投影(Perspective Projection)正交投影(Orthographic Projection)正交投影和透視投影對比 關于 …

【SAS求解多元回歸方程】REG多元回歸分析-多元一次回歸

多元一次回歸是一種統計方法,用于分析多個自變量(解釋變量)與一個因變量(響應變量)之間的線性關系。 目錄 【示例】 基本語法 SAS代碼 參數估計 方差分析 回歸統計量 y的擬合診斷 y的回歸變量值 【示例】 設Y…

卡通幼兒園教育通用可愛PPT模版分享

幼兒園教育通用PPT模版,教育教學PPT模版,卡通教育PPT模版,可愛卡通教學課件PPT模版,小清新動物卡通通用PPT模版,教學說課通用PPT模版,開學季PPT模版,國學頌歌PPT模版,可愛簡約風PPT模…

力扣HOT100之技巧:75. 顏色分類

這道題實際上就是讓我們不用sort()函數來實現對原數組的排序,這里我直接使用快速排序對原數組進行排序了,也是復習一下基于快慢指針的快速排序寫法。面試手撕快排的思路參考這個視頻。 用時擊敗100%,還行。下面直接貼代碼。 class Solution …

離線部署openstack 2024.1 keystone

控制節點身份服務 離線下載 apt-get install --download-only keystone python3-openstackclient apache2 libapache2-mod-wsgi-py3mkdir /controller/keystone mv /var/cache/apt/archives/*.deb /controller/keystone/ dpkg -i /controller/keystone/*.deb在一個控制節點操…

帆軟 BI 從入門到實戰全攻略(一):安裝激活與添加數據

一、帆軟 BI 產品概述? 在當今大數據時代,數據分析與可視化成為企業洞察業務、驅動決策的關鍵利器。帆軟軟件有限公司作為中國專業的大數據 BI 和分析平臺提供商,自 2006 年成立以來,憑借其在商業智能和數據分析領域的深耕細作,…

網絡協議通俗易懂詳解指南

目錄 1. 什么是網絡協議? 1.1 協議的本質 1.2 為什么需要協議? 1.3 協議分層的概念 2. TCP協議詳解 - 可靠的信使 ?? 2.1 TCP是什么? 2.2 TCP的核心特性 ?? 面向連接 ??? 可靠傳輸 ?? 流量控制 2.3 TCP三次握手 - 建立連接 2.4 TCP四次揮手 - 斷開連接…

量子加速器切入 AI 底層架構!能源焦慮時代,ORCA 正在改寫數據中心的計算邏輯

內容來源:量子前哨(ID:Qforepost) 文丨浪味仙 排版丨浪味仙 行業動向:2000字丨5分鐘閱讀 人工智能的飛速發展,令計算需求呈現爆炸式增長,也催生出專為 AI 設計的新型計算基礎設施形態——AI…

< 買了個麻煩 (二) 618 京東云--輕量服務器 > “可以為您申請全額退訂呢。“ 工單記錄:可以“全額退款“

事情進展是這樣的: 海外接聽 一分鐘 1-2 元,具體多少要問聯通。 這幾天接電話,有點兒心煩,看見來自 010-86310548 以為是 ICP 備案,結果接起來全是 VPS (輕量應用服務器)這個工單,就…

接口限頻算法:漏桶算法、令牌桶算法、滑動窗口算法

文章目錄 限頻三大算法對比與選型建議一、漏桶算法(Leaky Bucket Algorithm)1.核心原理2.實現3.為什么要限制漏桶容量4.優缺點分析 二、令牌桶算法(Token Bucket Algorithm)1.核心原理2.實現(1)單機實現&am…

HTML5 盒子模型

1. 盒子模型的概念 2. 邊框(border) 邊框顏色(border-color) 邊框粗細(border-width) 邊框樣式(border-style) border簡寫(border:) 3. 外邊距&am…

【Linux】Linux高級I/O

參考博客:https://blog.csdn.net/sjsjnsjnn/article/details/128345976 一、五種IO模型 阻塞式I/O非阻塞式I/OI/O復用(多路轉接)信號驅動式I/O異步I/O I/O我們并不陌生,簡單的說就是輸入輸出;對于一個輸入操作通常包…

關于界面存在AB測試后UI刷新空白的問題

問題描述: 在同一頁面存在AB面,A和B同時都有一個rv,然后A面的rv填充不了數據,B面的可以。 問題解決: header_task布局里的include_new_gift_sign里有一個和外層一樣id的recyclerview include的標簽的作用是。在infl…