ragflow連不上ollama的解決方案

由于前期wsl默認裝在C盤,后期部署好RagFlow后C盤爆紅,在連接ollama的時候一直在轉圈圈,問其他人沒有遇到這種情況,猜測是因為內存不足無法加載模型導致,今天重新在E盤安裝wsl

在這里插入圖片描述
在這里插入圖片描述

使用wsl裝Ubuntu

Win11 wsl-安裝教程

如何給WSL 2擴容硬盤(即擴展虛擬大小)

wsl 命令
查內存:wsl df -h /.
啟動:wsl -d xxxx
關閉:

在Ubuntu裝docker

教程
在安裝docker時,注意配置鏡像源文件/etc/docker/daemon.json

配置完后,需要重啟docker才能生效,這個時候,就開始爆bug了,第一次裝沒遇到的Bug此時全都出來了,從網站找了各種方案都沒解決,直接卸載重新裝一遍docker就行

在Ubuntu裝ollama

1、安裝命令

sudo curl -fsSL https://ollama.com/install.sh | sh

在這里插入圖片描述
這里我有點懷疑是不是ollama的官網有問題導致我昨天添加模型一直轉圈圈。。。。。

在國內環境下,這個方法往往會卡住

首先下載并修改安裝腳本,然后修改下載源

# 下載安裝腳本
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh# 給腳本添加執行權限
chmod +x ollama_install.sh
把下面兩個地址
https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}
https://ollama.com/download/ollama-linux-amd64-rocm.tgz${VER_PARAM}
分別改成
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64-rocm.tgz

好用的github文件加速
2、拉取模型
首先,你需要創建一個新的文件夾來存放Ollama模型

sudo mkdir /path/to/ollama/models

我的本地模型統統存在D:\04 Ollama models
確保這個目錄的權限用戶和組都是root,并且權限全開,為777。如果不是,可以用以下命令設置

sudo chown -R root:root /path/to/ollama/models
sudo chmod -R 775 /path/to/ollama/models

接下來,你需要編輯Ollama的服務文件來指定新的模型存儲路徑

sudo vim /etc/systemd/system/ollama.service

在[Service]部分下加入一行新的Environment,設置OLLAMA_MODELS環境變量指向你創建的目錄

Environment="OLLAMA_MODELS=/path/to/ollama/models" # 記得替換路徑!!!

刷新配置并重啟Ollama:保存并退出編輯器后,執行以下命令來刷新配置并重啟Ollama服務

sudo systemctl daemon-reload
sudo systemctl restart ollama.service

最后,你可以通過運行ollama list命令來檢查路徑是否設置成功

ollama的模型參數說明書

在Ubuntu部署RagFlow

sudo sysctl -w vm.max_map_count=262144

修改ragflow/docker/.env,將需要的RAGFLOW_IMAGE取消注釋
在這里插入圖片描述

docker compose -f docker-compose.yml up -d

第一次拉鏡像賊慢,waiting~~~~~~~

11434時Ragflow分給ollama的端口,如果是第一次裝,在ragflow拉完鏡像后先進入 http://loacalhost:80進行注冊,然后再進行后續操作

檢查ollama是否運行:進入http://loacalhost:11434,正常情況顯示Ollama is running,如果ragflow沒有完全配置好,會提示網絡錯誤

可以通過打印日志來檢查ragflow服務是否正常運行,

docker logs -f ragflow-server

正常界面如下
在這里插入圖片描述
之前我有遇到過文件丟失的情況,但實際上文件并沒有丟失,如圖
在這里插入圖片描述
據說是因為鏡像損壞,可以更換鏡像,詳細修改參考這里

9GB的鏡像,已經拉了3.5h+了
在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/62670.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/62670.shtml
英文地址,請注明出處:http://en.pswp.cn/web/62670.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

力扣-漢明距離

1.兩個整數之間的 漢明距離 指的是這兩個數字對應二進制位不同的位置的數目。 給你兩個整數 x 和 y,計算并返回它們之間的漢明距離。 看到這題,當然想到了按位異或^,并且c內置了計算二進制數中1數量的函數__builtin_popcount() class Solution { publ…

關于成功插入 SQLite 但沒有數據的問題

背景 技術棧:SpringBoot Mybatis-flex SQLite 項目中集成了SQLite,配置如下: spring:datasource:url: jdbc:sqlite::resource:db/project.dbdriver-class-name: org.sqlite.JDBC在進行測試時,使用Mybatis-flex往表中插入數據&…

C#常見錯誤—空對象錯誤

System.NullReferenceException:未將對象引用設置到對象的實例 在C#編程中,System.NullReferenceException是一個常見的運行時異常,其錯誤信息“未將對象引用設置到對象的實例”意味著代碼試圖訪問一個未被初始化或已被設置為null的對象的成…

沁恒CH32V208藍牙串口透傳例程:修改透傳的串口;UART-CH32V208-APP代碼分析;APP-CH32V208-UART代碼分析

從事嵌入式單片機的工作算是符合我個人興趣愛好的,當面對一個新的芯片我即想把芯片盡快搞懂完成項目賺錢,也想著能夠把自己遇到的坑和注意事項記錄下來,即方便自己后面查閱也可以分享給大家,這是一種沖動,但是這個或許并不是原廠希望的,盡管這樣有可能會犧牲一些時間也有哪天原…

Scala的隱式對象

Scala中,隱式對象(implicit object)是一種特殊的對象,它可以使得其成員(如方法和值)在特定的上下文中自動可用,而無需顯式地傳遞它們。隱式對象通常與隱式參數和隱式轉換一起使用,以…

矩陣的乘(包括乘方)和除

矩陣的乘分為兩種: 一種是高等代數中對矩陣的乘的定義:可以去這里看看包含矩陣的乘。總的來說,若矩陣 A s ? n A_{s*n} As?n?列數和矩陣 B n ? t B_{n*t} Bn?t?的行數相等,則 A A A和 B B B可相乘,得到一個矩陣 …

DVWA親測sql注入漏洞

LOW等級 我們先輸入1 我們加上一個單引號&#xff0c;頁面報錯 我們看一下源代碼&#xff1a; <?php if( isset( $_REQUEST[ Submit ] ) ) { // Get input $id $_REQUEST[ id ]; // Check database $query "SELECT first_name, last_name FROM users WHERE user_id …

C++,提供函數接口,函數如何做到接收外部變量隨時結束

在C中&#xff0c;如果你想要創建一個函數&#xff0c;該函數可以接收外部變量并在變量改變時作出響應&#xff0c;你可以使用回調函數或者將變量包裝在可以觀察其變化的設計模式中&#xff0c;例如觀察者模式。 以下是一個使用標準庫中的std::function和std::bind來創建響應外…

機器學習01-發展歷史

機器學習01-發展歷史 文章目錄 機器學習01-發展歷史1-傳統機器學習的發展進展1. 初始階段&#xff1a;統計學習和模式識別2. 集成方法和核方法的興起3. 特征工程和模型優化4. 大規模數據和分布式計算5. 自動化機器學習和特征選擇總結 2-隱馬爾科夫鏈為什么不能解決較長上下文問…

想了解操作系統,有什么書籍推薦?

推薦一本操作系統經典書&#xff1a; 操作系統導論 《操作系統導論》虛擬化(virtualization)、并發(concurrency)和持久性(persistence)。這是我們要學習的3個關鍵概念。通過學習這3個概念&#xff0c;我們將理解操作系統是如何工作的&#xff0c;包括它如何決定接下來哪個程序…

[Collection與數據結構] 位圖與布隆過濾器

&#x1f338;個人主頁:https://blog.csdn.net/2301_80050796?spm1000.2115.3001.5343 &#x1f3f5;?熱門專欄: &#x1f9ca; Java基本語法(97平均質量分)https://blog.csdn.net/2301_80050796/category_12615970.html?spm1001.2014.3001.5482 &#x1f355; Collection與…

【大數據學習 | 面經】Spark的shuffle hash join的具體細節

1. 前言 shuffle hash join是Spark中一種常見的連接策略&#xff0c;尤其適用于兩個數據集都比較大且無法通過廣播來優化的情況。其核心思想是通過對連接鍵進行哈希分區&#xff0c;使得相同鍵值的數據被分配到相同的分區中&#xff0c;從而可以在每個分區獨立的執行連接操作。…

設計模式從入門到精通之(一)工廠模式

工廠模式&#xff1a;為每個工廠找到"生意經" 在現實生活中&#xff0c;我們隨處可見"工廠"的影子&#xff0c;比如汽車工廠生產汽車&#xff0c;食品工廠生產食品。但你有沒有想過&#xff0c;為什么我們需要工廠&#xff1f;如果沒有工廠&#xff0c;我們…

談談你對vue這種框架理解

發現寶藏 前些天發現了一個巨牛的人工智能學習網站&#xff0c;通俗易懂&#xff0c;風趣幽默&#xff0c;忍不住分享一下給大家。【寶藏入口】。 Vue.js 是一個漸進式的前端 JavaScript 框架&#xff0c;旨在通過提供易于理解、上手簡單且功能強大的工具來構建現代化的 Web …

使用html2canvas實現前端截圖

一、主要功能 網頁截圖&#xff1a;html2canvas通過讀取DOM結構和元素的CSS樣式&#xff0c;在客戶端生成圖像&#xff0c;不依賴于服務端的渲染。它可以將指定的DOM元素渲染為畫布&#xff08;canvas&#xff09;&#xff0c;并生成圖像。多種輸出格式&#xff1a;生成的圖像…

微信小程序橫屏頁面跳轉后,自定義navbar樣式跑了?

文章目錄 問題原因&#xff1a;解決方案&#xff1a; 今天剛遇到的問題&#xff0c;橫屏的頁面完成操作后跳轉頁面后&#xff0c;自定義的tabbar樣式亂了&#xff0c;跑到最頂了&#xff0c;真機調試后發現navbar跑到手機狀態欄了&#xff0c;它正常應該跟右邊膠囊一行。 知道問…

Vivado ILA數據導出MATLAB分析

目錄 ILA數據導出 分析方式一 分析方式二 有時候在系統調試時&#xff0c;數據在VIVADO窗口獲取的信息有限&#xff0c;可結合MATLAB對已捕獲的數據進行分析處理 ILA數據導出 選擇信號&#xff0c;單擊右鍵后&#xff0c;會有export ILA DATA選項&#xff0c;將其保存成CS…

《探索形象克隆:科技與未來的奇妙融合》

目錄 一、什么是形象克隆 二、形象克隆的技術原理 三、形象克隆的發展現狀 四、形象克隆的未來趨勢 五、形象克隆的應用場景 六、形象克隆簡單代碼案例 Python 實現數字人形象克隆 Scratch 實現角色克隆效果&#xff08;以貓為例&#xff09; JavaScript 實現 Scratc…

MATLAB深度學習(七)——ResNet殘差網絡

一、ResNet網絡 ResNet是深度殘差網絡的簡稱。其核心思想就是在&#xff0c;每兩個網絡層之間加入一個殘差連接&#xff0c;緩解深層網絡中的梯度消失問題 二、殘差結構 在多層神經網絡模型里&#xff0c;設想一個包含諾干層自網絡&#xff0c;子網絡的函數用H(x)來表示&#x…

前端入門之VUE--vue組件化編程

前言 VUE是前端用的最多的框架&#xff1b;這篇文章是本人大一上學習前端的筆記&#xff1b;歡迎點贊 收藏 關注&#xff0c;本人將會持續更新。 文章目錄 2、Vue組件化編程2.1、組件2.2、基本使用2.2.1、VueComponent 2、Vue組件化編程 2.1、組件 組件&#xff1a;用來實現…