【從零開始學Dify】大模型應用開發平臺Dify本地化部署

目錄

  • Dify
  • 一、本地化部署
    • 1、安裝docker
    • 2、安裝Dify
    • (1)拉取代碼到本地
    • (2)docker部署
    • (3)查看服務狀態
    • (4)web端部署
    • (5)登錄
  • 二、可能會出現的問題
    • (1)拉取鏡像超時
    • (2)80端口被占用
    • (3)自定義配置
  • 好書推薦

Dify

Dify 是一款開源的大語言模型(LLM)應用開發平臺。它融合了后端即服務(Backend as Service)和 LLMOps 的理念,使開發者可以快速搭建生產級的生成式 AI 應用。即使你是非技術人員,也能參與到 AI 應用的定義和數據運營過程中。

由于 Dify 內置了構建 LLM 應用所需的關鍵技術棧,包括對數百個模型的支持、直觀的 Prompt 編排界面、高質量的 RAG 引擎、穩健的 Agent 框架、靈活的工作流,并同時提供了一套易用的界面和 API。這為開發者節省了許多重復造輪子的時間,使其可以專注在創新和業務需求。

官方: https://docs.dify.ai/zh-hans/introduction

在這里插入圖片描述

一、本地化部署

官方githup地址:https://github.com/langgenius/dify

我的配置

  • 操作系統:Mac M1
  • npm:10.5.0
  • node:20.15.1
  • pnpm:9.8.0

Dify配置電腦要求:

  • CPU >= 2 Core
  • RAM >= 4 GiB

1、安裝docker

安裝地址:https://www.docker.com/,根據自己電腦操作系統去選擇對應的版本。Apple Silicon 芯片(也稱為 M1、M1 Pro、M1 Max、M2 等)設計的,另一個則是為 Intel 處理器設計的.

在這里插入圖片描述

2、安裝Dify

(1)拉取代碼到本地

git clone https://github.com/langgenius/dify.git

(2)docker部署

這里使用 Docker Compose 服務,它通常用于在多容器環境下啟動一個應用

cd dify
cd docker
cp .env.example .env //.env.example 文件復制到 .env
docker compose up -d //啟動 Docker Compose 服務,并根據 .env 文件中的配置啟動容器

出現下圖就說明鏡像安裝成功
在這里插入圖片描述

(3)查看服務狀態

docker compose ps

可以看到10個容器都啟動成功

在這里插入圖片描述

(4)web端部署

這里我使用pnpm來安裝依賴,我使用yarn安裝時會報錯

cd web
pnpm i

啟動web

yarn run dev

運行后,可以在瀏覽器上訪問 http://localhost/install 進入 Dify 控制臺并開始初始化安裝操作。

在這里插入圖片描述

(5)登錄

設置完程管理員賬號之后,就登錄到Dify頁面,可以自主創建應用
在這里插入圖片描述

二、可能會出現的問題

(1)拉取鏡像超時

如果沒有出現該問題,直接略過。
在拉取鏡像過程中可能會出現超時,這里我們配置一下docker拉取鏡像源的地址,打開docker面板,點擊“設置”,選擇“Docker Engine”
在這里插入圖片描述
把下面代碼粘貼進去

{"builder": {"gc": {"defaultKeepStorage": "20GB","enabled": true}},"experimental": false,"registry-mirrors": ["http://docker.m.daocloud.io/","http://huecker.io/","http://dockerhub.timeweb.cloub","http://noohub.ru/","http://dockerproxy.com","http://docker.mirrors.ustc.edu.cn","http://docker.nju.edu.cn","http://xx4bwyg2.mirror.aliyuncs.com","http://f1361db2.m.daocloud.io","http://registry.docker-cn.com","http://hub-mirror.c.163.com"]
}

(2)80端口被占用

查看有哪些進程占用80端口

sudo lsof -i :80

有占用情況則直接kill掉

sudo kill -9 <PID>

另一種解決辦法就是修改默認的80端口

.env.example中,修改NGINX_PORT80NGINX_SSL_PORT4436,這里的端口可以改成其他的

# HTTP port
NGINX_PORT=83
# SSL settings are only applied when HTTPS_ENABLED is true
NGINX_SSL_PORT=4436

改完之后,我們就重啟dify的docer服務,首先刪除并停止 Docker Compose 管理的所有容器

docker compose down

在這里插入圖片描述

等docker容器都remove之后,再執行:

docker compose up -d

此時前端的url就變成了:http://localhost:83
在這里插入圖片描述
另外.env 配置中還有SERVICE_API_URLAPP_WEB_URL兩個配置項,設置為http://ip:port,這個用于API地址以及智能體地址分享

在這里插入圖片描述

(3)自定義配置

參考 .env.example 文件中的注釋,并更新 .env 文件中對應的值。此外,您可能需要根據您的具體部署環境和需求對 docker-compose.yaml 文件本身進行調整,例如更改鏡像版本、端口映射或卷掛載。完成任何更改后,請重新運行 docker-compose up -d。您可以在此處找到可用環境變量的完整列表。

好書推薦

《AI Agent開發與應用:基于大模型的智能體構建》

隨著人工智能技術的迅猛發展,大語言模型(Large Language Models,LLM)正在成為智能體構建的核心驅動力,推動各行業實現自動化與智能化變革。這些基于LLM的智能體不僅具備出色的自然語言處理能力,還能通過多輪對話、知識推理和任務自動化來高效應對復雜任務。在金融、醫療、教育和客戶服務等領域,智能體展現出了強大的適應能力,正在重塑傳統的業務流程與人機交互方式。
在人工智能蓬勃發展的浪潮中,大語言模型(LLM)正以驚人的速度成為智能體(Agent)構建的強大引擎,引領各行業邁向自動化與智能化的嶄新紀元。《AI Agent開發與應用:基于大模型的智能體構建》這本書,恰似一把開啟智能體開發寶藏的鑰匙,為開發者和企業照亮了前行的道路。
《AI Agent開發與應用:基于大模型的智能體構建》不僅僅是一本技術指南,更是一扇通往未來智能世界的大門。它凝聚了作者深厚的專業知識和豐富的實踐經驗,以通俗易懂的語言和清晰的邏輯架構,為您提供了一套完整、系統的大語言模型驅動的智能體開發方案。

無論您是初涉智能體開發的新手,還是有一定開發經驗的企業開發工程師和從業者,都能從中汲取寶貴的知識和靈感,從而在人工智能的廣闊天地中創造出更多具有創新性和實用性的應用,引領行業發展潮流,搶占未來技術的制高點,強烈安利給您。

在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/88335.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/88335.shtml
英文地址,請注明出處:http://en.pswp.cn/web/88335.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

LVGL應用和部署(和物理按鍵交互)

【 聲明&#xff1a;版權所有&#xff0c;歡迎轉載&#xff0c;請勿用于商業用途。 聯系信箱&#xff1a;feixiaoxing 163.com】屏幕除了顯示部分&#xff0c;還要去和其他外設進行交互&#xff0c;這是非常重要的一個處理方法。我們知道&#xff0c;不管是mcu&#xff0c;還是…

限流式保護器如何筑牢無人駕駛汽車充電站的安全防線

摘要&#xff1a; 隨著新能源汽車&#xff0c;尤其是無人駕駛車隊的快速發展&#xff0c;充電設施的安全可靠性至關重要。交流充電樁&#xff08;俗稱“慢充樁”&#xff09;作為重要的充電基礎設施&#xff0c;其末端回路的安全保護需滿足國家標準GB51348-2019的嚴格要求&…

專題:2025母嬰行業洞察報告|附60+份報告PDF匯總下載

原文鏈接&#xff1a;https://tecdat.cn/?p42908 全球母嬰市場正經歷結構性增長&#xff0c;一面是歐美成熟市場的品質消費升級&#xff0c;一面是東南亞、中東等新興市場的人口紅利釋放。2020至2026年&#xff0c;全球母嬰市場規模將從1859億美元增至3084億美元&#xff0c;年…

從零搭建多商戶商城系統源碼:技術棧、數據庫設計與接口規劃詳解

如今&#xff0c;多商戶商城系統已成為傳統零售轉型與新型電商平臺構建的關鍵利器。無論是打造像某寶、某東這樣的綜合型平臺&#xff0c;還是服務于垂直行業的獨立電商&#xff0c;一套高效、可擴展的多商戶商城系統源碼&#xff0c;往往決定著平臺的成敗。 今天&#xff0c;小…

在Docker中運行macOS的超方便體驗!

在數字化和開發人員快速迭代的今日&#xff0c;擁有一個便捷、高效的開發環境成為每個開發者夢寐以求的事情。特別是在需要操作多個系統、開發跨平臺應用時&#xff0c;調試和測試的便利性顯得尤為重要。今天為大家介紹的這款開源項目&#xff0c;正是一個解決此類問題的利器—…

Kettle導入Excel文件進數據庫時,數值發生錯誤的一種原因

1、問題描述及原因 在使用kettle讀取Excel文件、并導入數據庫時&#xff0c;需要讀取Excel中的數值、日期(或日期時間、時間)、文本這三種類型的列進來&#xff0c;發現讀取其中的數值時&#xff0c;讀取的數字就不對。 經調查&#xff0c;原因是&#xff0c;在“導出數據為E…

Windows安裝DevEco Studio

1. 概述 DevEco Studio是華為基于IDEA Community開源工具開發的一站式HarmonyOS應用及元服務開發平臺&#xff0c;為開發者提供代碼開發、編譯構建以及調測等功能 2. 運行環境要求 操作系統&#xff1a;Windows10 64位、Windows11 64位 內存&#xff1a;16GB及以上 硬盤&…

PLC框架-1.3.2 報文750控制匯川伺服的轉矩上下限

本文介紹1200PLC如何使用750報文設定伺服轉矩的上下限。 750號報文 PLC---->伺服 (控制) 伺服--->PLC (狀態) PZD1

Redis知識集合---思維導圖(持續更新中)

一、Redis中常見的數據類型有哪些&#xff1f;二、Redis為什么這么快&#xff1f;三、為什么Redis設計為單線程&#xff1f;6.0版本為何引入多線程&#xff1f;四、

mac m1安裝大模型工具vllm

1 更新系統環境 參考vllm官網文檔&#xff0c;vllm對apple m1平臺mac os, xcoder, clang有如下要求 OS: macOS Sonoma or later SDK: XCode 15.4 or later with Command Line Tools Compiler: Apple Clang > 15.0.0 在App Store更新macOS和XCoder&#xff0c;依據XCoder版本…

解鎖localtime:使用技巧與避坑指南

目錄 一、引言 1.1 背景與目的 1.2 localtime 函數簡介 二、localtime 函數詳解 2.1 函數原型與參數 2.2 返回值與 tm 結構體 2.3 基本使用示例 三、localtime 函數的缺陷剖析 3.1 多次調用同一共享區間導致錯誤 3.1.1 問題現象展示 3.1.2 原因深入分析 3.1.3 實際影…

鄭州機械設計研究所 -PHM產品序列概覽

1.設備狀態監測系統 動態信號監測很像是三個獨立通道&#xff0c;振動&#xff0c;轉速&#xff0c;然后高頻的某個頻帶。或者是同一個振動信號做的低頻和高頻兩個帶通&#xff0c;時域和頻域組圖。實時檢測&#xff0c;很明顯是24個時 -頻指標。 動態分析看起來像趨勢圖。 2.…

《棒壘球知道》奧運會的吉祥物是什么·棒球1號位

Olympic Mascots & Baseball/Softball Games History ?&#xff08;奧運吉祥物與棒壘球賽事全科普&#xff09;1984洛杉磯奧運會 / Los Angeles 1984Mascot: Sam the Eagle&#xff08;山姆鷹&#xff09;美國精神象征&#xff0c;紅白藍配色超吸睛&#xff01;Baseball/S…

【提高篇-基礎知識與編程環境:1、Linux系統終端中常用的文件與目錄操作命令】

Linux終端提供了豐富的命令來操作文件和目錄&#xff0c;以下簡單介紹一些常用的命令&#xff1a; 一、目錄操作命令 pwd - 顯示當前工作目錄 pwd #輸出當前所在目錄的絕對路徑 cd - 切換目錄 cd /path/to/directory # 切換到指定目錄 cd … # …

前端性能優化:從之理論到實踐的破局道

&#x1f680; 前端性能優化&#xff1a;從之理論到實踐的破局道 摘要&#xff1a;本文針對首屏加載、渲染卡頓等核心痛點&#xff0c;結合當前主流技術棧給出可落地的優化方案一、為什么你的頁面"又慢又卡"&#xff1f; 用戶真實體驗數據&#xff1a; 加載時間超過3…

2025年最新Python+Playwright自動化測試- 隱藏元素定位與操作

1.簡介 對于前端隱藏元素&#xff0c;一直是自動化定位元素的隱形殺手&#xff0c;讓人防不勝防。腳本跑到隱藏元素時位置時報各種各樣的錯誤&#xff0c;可是這種隱藏的下拉菜單又沒有辦法避免&#xff0c;所以非常頭痛&#xff0c;這一篇只為交流隱藏元素自動化定位處理方法以…

跨境電商稅務解決之道:在合規航道上駛向全球市場

首席數據官高鵬律師數字經濟團隊創作AI輔助當某3C品類跨境賣家因未同步境內交易流水被處以20萬元罰款&#xff0c;當某服飾品牌因歐盟增值稅申報疏漏導致貨物滯留港口&#xff0c;當東南亞市場的“低稅率紅利”變成“稅務稽查雷區”——跨境電商的黃金時代里&#xff0c;稅務合…

(6)機器學習小白入門 YOLOv:圖片的數據預處理

(1)機器學習小白入門YOLOv &#xff1a;從概念到實踐 (2)機器學習小白入門 YOLOv&#xff1a;從模塊優化到工程部署 (3)機器學習小白入門 YOLOv&#xff1a; 解鎖圖片分類新技能 (4)機器學習小白入門YOLOv &#xff1a;圖片標注實操手冊 (5)機器學習小白入門 YOLOv&#xff1a;…

康謀新聞 | 康謀加入ASAM組織,全球首個ASIL-D認證自動駕駛仿真平臺aiSim引領安全新標桿

康謀新聞康謀科技正式加入全球汽車標準化組織 ASAM&#xff08;Association for Standardization of Automation and Measuring Systems&#xff09;&#xff0c;成為其正式會員單位&#xff01;ASAM作為國際汽車行業標準化領域的權威機構&#xff0c;致力于推動仿真、測試及數…

《PyQt6-3D:開啟Python 3D開發新世界》

一、引言 在 Python 的廣袤開發世界中&#xff0c;3D 開發領域正以驚人的速度蓬勃發展&#xff0c;為眾多領域帶來了前所未有的創新與變革。從沉浸式的游戲體驗到逼真的虛擬現實場景&#xff0c;從精準的工業設計模擬到生動的影視動畫制作&#xff0c;3D 技術的身影無處不在&am…