dify部署,ollama部署,拉取模型,創建ai聊天應用

dify下載安裝

dify1.0.1 windos安裝包百度云盤地址

通過網盤分享的文件:dify-1.0.1.zip

鏈接: 百度網盤 請輸入提取碼 提取碼: 1234

dify安裝包 linux安裝包百度云盤地址

通過網盤分享的文件:dify-1.0.1.tar.gz

鏈接: 百度網盤 請輸入提取碼 提取碼: 1234

1.安裝docker

  • 安裝必要的依賴包
sudo yum install -y yum-utils \device-mapper-persistent-data \lvm2

如這一步報錯“Could not retrieve mirrorlist http://mirrorlist.centos.org/?release=7&arch=x86_64&repo=os&infra=stock error was

14: curl#6 - "Could not resolve host: mirrorlist.centos.org; Unknown error"

可如下修改切換國內鏡像源

#備份原有倉庫配置:
sudo mkdir -p /etc/yum.repos.d/backup
sudo mv /etc/yum.repos.d/CentOS-*.repo /etc/yum.repos.d/backup/#下載阿里云鏡像配置
sudo curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo
#更新緩存
sudo yum clean all
sudo yum makecache
  • 設置docker軟件源
# 設置docker鏡像源
yum-config-manager \--add-repo \https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.reposed -i 's/download.docker.com/mirrors.aliyun.com\/docker-ce/g' /etc/yum.repos.d/docker-ce.repoyum makecache fast
  • 安裝Docker引擎
yum install -y docker-ce
  • 配置鏡像加速

新建/etc/docker/daemon.json 文件,寫入如下內容

{"registry-mirrors": ["https://docker.m.daocloud.io","https://dockerproxy.com","https://docker.mirrors.ustc.edu.cn","https://docker.nju.edu.cn","https://iju9kaj2.mirror.aliyuncs.com","http://hub-mirror.c.163.com","https://cr.console.aliyun.com","https://hub.docker.com","http://mirrors.ustc.edu.cn"]
}
  • 啟動docker

注意一定要關閉防火墻,修改鏡像加速后記得重啟docker

# 關閉防火墻
systemctl stop firewalld
# 禁止開機啟動防火墻
systemctl disable firewalld# 啟動docker服務
systemctl start docker# 停止docker服務
systemctl stop docker  
# 重啟docker服務
systemctl restart docker #查看docker版本
docker -v
  • 拉取鏡像測試
#拉取鏡像
docker pull nginx#查看鏡像
docker images

?2.安裝docker-compose

Linux 通過命令下載:

# 安裝
curl -L https://github.com/docker/compose/releases/download/1.23.1/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose

如下載失敗或很慢。可從百度云盤下載,手動安裝

可使用網盤分享的文件:docker-compose-Linux-x86_64

鏈接: 百度網盤 請輸入提取碼 提取碼: 1234

上傳到服務器后執行如下命令:

mv docker-compose-Linux-x86_64 docker-compose
mv docker-compose /usr/local/bin/docker-compose

修改文件權限

#添加可執行權限
chmod +x /usr/local/bin/docker-compose

Bash自動補全命令

#補全命令
curl -L https://raw.githubusercontent.com/docker/compose/1.29.1/contrib/completion/bash/docker-compose > /etc/bash_completion.d/docker-compose

如果這里出現錯誤,需要修改自己的hosts文件:

echo "199.232.68.133 raw.githubusercontent.com" >> /etc/hosts

查看docker-compose版本

docker-compose version

?

3.進入dify docker文件夾,執行命令

#新建目錄文件dify
#將dify安裝包文件上傳至新建目錄
#解壓文件
tar -zxvf dify-1.0.0.tar.gz
#進入docker文件夾,執行命令
cd docker
docker compose up -d

4.訪問ip地址,默認80端口

默認會是填寫郵箱,以及設置用戶名和密碼界面->登錄

ollama下載安裝-設置鏡像加速方式

1.下載安裝腳本

curl -fsSL https://ollama.com/install.sh -o ollama_install.sh

2.修改下載源,加速下載

sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh

3.新增可執行文件

chmod +x ollama_install.sh

4.執行sh下載安裝

sh ollama_install.sh

如這里還是下載很慢,不能接受,看下個方式通過百度網盤下載安裝包,手動安裝。

5.啟動服務

#設置開機自啟
systemctl enable ollama
#查看ollama 服務狀態
systemctl status ollama
#啟動ollama服務
systemctl start ollama

如命令執行失敗:Failed to execute operation: No such file or directory

則按照如下方式解決

#創建服務文件
vi /etc/systemd/system/ollama.service
寫入如下內容
[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3[Install]
WantedBy=default.target#注意上面的ExecStart的值需要修改為你的/bin/ollama 的路徑

生效服務命令行

systemctl daemon-reload

服務自啟動

systemctl enable ollama

啟動服務

systemctl start ollama

再次查看是否安裝成功

ollama -v

ollama下載linux安裝包,手動安裝

通過網盤分享的文件:ollama-linux-amd64.tgz

鏈接: 百度網盤 請輸入提取碼 提取碼: 1234

上傳到目錄文件后,解壓

tar -zxvf ollama-linux-amd64.tgz

進入bin目錄,執行./ollama -v

創建ollama.service

#創建服務文件
vi /etc/systemd/system/ollama.service
寫入如下內容
[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/opt/software/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3[Install]
WantedBy=default.target#注意上面的ExecStart的值需要修改為你的/bin/ollama 的路徑

生效服務命令行

systemctl daemon-reload

服務自啟動

systemctl enable ollama

啟動服務

systemctl start ollama

再次查看是否安裝成功

./ollama -v

拉取deepseek r1 1.5b模型

./ollama run deepseek-r1:1.5b

注意:剛開始拉取快,后面慢,可多次暫停后在繼續拉取,就可以一直快。

就可以輸入文字和 deepseek聊天了。

dify關聯ollama

進入dify中的docker目錄,復制.env.example,修改為.env文件

在.env文件最后新增

#將最后的PIP_MIRROR_URL=注釋掉
#PIP_MIRROR_URL=
CUSTOM_MODEL_ENABLED=true
OLLAMA_API_BASE_URL=http://192.168.31.14:11434/

重啟dify

docker compose down
docker compose up -d

然后在模型中配置

在Dify的主界面http://localhost/apps,右上角用戶名下的設置-》模型供應商

點擊安裝Ollama

安裝后,刷新頁面,直到出現下面界面

點擊添加模型

輸入模型名稱: deepseek-r1:1.5b

輸入基礎URL:

http://192.168.31.14:11434/

點擊保存。成功頁面

遇到的錯誤:

剛開始配置的域名,修改為ip后正確。

其他錯誤:ollama不能被瀏覽器訪問,修改配置,重啟。

在[Service]下加上Environment="OLLAMA_HOST=0.0.0.0"即可

vi /etc/systemd/system/ollama.service#新增
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0"
wq 報錯并退出
#重新加載,重啟
systemctl daemon-reload
systemctl restart ollama

dify創建ai聊天應用

開始聊天

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/76829.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/76829.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/76829.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

docx文檔轉為pdf文件響應前端

1、轉換文件&#xff08;docx~pdf&#xff09; 1.引入pom依賴 <dependency><groupId>com.aspose</groupId><artifactId>aspose-words</artifactId><version>20.12.0</version> </dependency>2.讀取docx文檔數據-轉換 // 初…

網絡安全中信息收集需要收集哪些信息了?匯總

目錄 1. 域名信息 2. IP地址與網絡信息 3. 備案與注冊信息 4. Web應用與中間件信息 5. 操作系統與服務器信息 6. 敏感文件與配置文件 7. 社交工程信息 8. 證書與加密信息 9. API與接口信息 10. 外部威脅情報 11. 歷史數據與緩存 常用工具與技術&#xff1a; 在網絡…

【鋰電池SOH預測】PSO-BP鋰電池健康狀態預測,鋰電池SOH預測(Matlab完整源碼和數據)

預測效果 基于PSO-BP算法的鋰電池健康狀態預測研究 一、引言 1.1 研究背景與意義 在當今社會&#xff0c;鋰電池憑借其高能量密度、長壽命及環境友好等特性&#xff0c;在現代能源系統中占據著舉足輕重的地位。從消費電子領域如智能手機、筆記本電腦&#xff0c;到動力領域中…

智能車攝像頭開源—9 動態權、模糊PID、速度決策、路徑優化

目錄 一、前言 二、動態權 1.概述 2.偏差值加動態權 三、模糊PID 四、速度決策 1.曲率計算 2.速度擬合 3.速度控制 五、路徑 六、國賽視頻 一、前言 在前中期通過識別直道、彎道等元素可進行加減速操作實現速度的控制&#xff0c;可進一步縮減一圈的運行速度&#xff…

過往記錄系列 篇五:市場黑天鵝事件歷史梳理

文章目錄 系列文章文章地址文章摘要文章預覽系列文章 過往記錄系列 篇一:牛市板塊輪動順序梳理 過往記錄系列 篇二:新年1月份(至春節前)行情歷史梳理 過往記錄系列 篇三:春節行情歷史梳理 過往記錄系列 篇四:年報月行情歷史梳理 文章地址 原文審核不通過(理由:“違反…

Mysql--基礎知識點--85.1--Innodb自適應哈希索引

1. 自適應哈希索引的用途 InnoDB 的自適應哈希索引&#xff08;Adaptive Hash Index, AHI&#xff09;是 MySQL 數據庫引擎中一項智能優化查詢性能的功能。其核心作用如下&#xff1a; 加速等值查詢 哈希索引通過哈希函數將鍵映射到固定位置&#xff0c;實現 O(1) 時間復雜度的…

SQL優化技術分享:從 321 秒到 0.2 秒的性能飛躍 —— 基于 PawSQL 的 TPCH 查詢優化實戰

在數據庫性能優化領域&#xff0c;TPC-H 測試集是一個經典的基準測試工具&#xff0c;常用于評估數據庫系統的查詢性能。本文將基于 TPCH 測試集中的第 20個查詢&#xff0c;結合 PawSQL 自動化優化工具&#xff0c;詳細分析如何通過 SQL 重寫和索引設計&#xff0c;將查詢性能…

SpringBoot3-web開發筆記(下)

內容協商 實現&#xff1a;一套系統適配多端數據返回 多端內容適配&#xff1a; 1. 默認規則 SpringBoot 多端內容適配。 基于請求頭內容協商&#xff1a;&#xff08;默認開啟&#xff09; 客戶端向服務端發送請求&#xff0c;攜帶HTTP標準的Accept請求頭。 Accept: applica…

Graylog 索引配置詳解與優化建議

Graylog 索引配置詳解與優化建議 &#x1f680; 前言一、索引集基礎信息 &#x1f4da;二、分片&#xff08;Shards&#xff09;與副本&#xff08;Replicas&#xff09;設置 ??1. 分片 (Shards)2. 副本 (Replicas) 三、 字段類型刷新間隔&#xff08;Field Type Refresh Int…

數據結構*包裝類泛型

包裝類 什么是包裝類 在講基本數據類型的時候&#xff0c;有提到過包裝類。 基本數據類型包裝類byteByteshortShortintIntegerlongLongfloatFloatdoubleDoublecharCharacterbooleanBoolean 我們知道&#xff1a;基本數據類型并不是對象&#xff0c;沒有對象所具有的方法和屬…

【JDBC-54.1】MySQL JDBC連接字符串常用參數詳解

在Java應用程序中連接MySQL數據庫時&#xff0c;JDBC連接字符串是建立連接的關鍵。一個配置得當的連接字符串不僅能確保連接成功&#xff0c;還能優化性能、增強安全性并處理各種連接場景。本文將深入探討MySQL JDBC連接字符串的常用參數及其最佳實踐。 1. 基本連接字符串格式…

[ctfshow web入門] web37

信息收集 題目有了變化&#xff0c;include$c if(isset($_GET[c])){$c $_GET[c];if(!preg_match("/flag/i", $c)){include($c);echo $flag;}}else{highlight_file(__FILE__); }解題 通過協議解題 參考[ctfshow web入門] web31 同樣是include&#xff0c;之前的方…

Linux 調試代碼工具:gdb

文章目錄 一、debug vs release&#xff1a;兩種程序形態的本質差異1. 什么是 debug 與 release&#xff1f;2. 核心差異對比 二、為什么需要 debug&#xff1a;從項目生命周期看調試價值1. 項目開發流程中的調試閉環&#xff08;流程圖示意&#xff09;2. Debug 的核心意義與目…

Python設計模式:命令模式

1. 什么是命令模式&#xff1f; 命令模式是一種行為設計模式&#xff0c;它將請求封裝為一個對象&#xff0c;從而使您能夠使用不同的請求、隊列或日志請求&#xff0c;以及支持可撤銷操作。 命令模式的核心思想是將請求的發送者與請求的接收者解耦&#xff0c;使得兩者之間的…

nlp面試重點

深度學習基本原理&#xff1a;梯度下降公式&#xff0c;將損失函數越來越小&#xff0c;最終預測值和實際值誤差比較小。 交叉熵&#xff1a;-p(x)logq(x)&#xff0c;p(x)是one-hot形式。如果不使用softmax計算交叉熵&#xff0c;是不行的。損失函數可能會非常大&#xff0c;…

Leetcode:二叉樹

94. 二叉樹的中序遍歷 class Solution {public List<Integer> inorderTraversal(TreeNode root) {TreeNode cur root;Stack<TreeNode> stack new Stack<>();List<Integer> list new ArrayList<>();while (!stack.isEmpty() || cur ! null) {…

SQL:Constraint(約束)

目錄 &#x1f3af; 什么是 Constraint&#xff1f; MySQL 中常見的約束類型&#xff1a; 1. PRIMARY KEY 2. FOREIGN KEY 3. UNIQUE 4. NOT NULL 5. DEFAULT 6. CHECK&#xff08;MySQL 8.0&#xff09; 7. AUTO_INCREMENT &#x1f3af; 什么是 Constraint&#xf…

數據庫數據恢復——sql server數據庫被加密怎么恢復數據?

SQL server數據庫數據故障&#xff1a; SQL server數據庫被加密&#xff0c;無法使用。 數據庫MDF、LDF、log日志文件名字被篡改。 數據庫備份被加密&#xff0c;文件名字被篡改。 SQL server數據庫數據恢復過程&#xff1a; 1、將所有數據庫做完整只讀備份。后續所有數據恢…

MySQL 用 limit 影響性能的優化方案

一.使用索引覆蓋掃描 如果我們只需要查詢部分字段&#xff0c;而不是所有字段&#xff0c;我們可以嘗試使用索引覆蓋掃描&#xff0c;也就是讓查詢所需的所有字段都在索引中&#xff0c;這樣就不需要再訪問數據頁&#xff0c;減少了隨機 I/O 操作。 例如&#xff0c;如果我們…

【算法筆記】并查集詳解

&#x1f680; 并查集&#xff08;Union-Find&#xff09;詳解&#xff1a;原理、實現與優化 并查集&#xff08;Union-Find&#xff09;是一種非常高效的數據結構&#xff0c;用于處理動態連通性問題&#xff0c;即判斷若干個元素是否屬于同一個集合&#xff0c;并支持集合合…