windows本地化部署Dify+Deepseek

Windows本地化部署Dify+Deepseek

一、下載Docker

前往 Docker 官網 下載 Docker Desktop,按序安裝。

1.1啟用WSL

打開本機的控制面板=>程序=>啟用或關閉 Windows 功能,勾選:

  • Linux 的 Windows 子系統
  • 虛擬機平臺(若無該選擇則勾選 Hyper-V )
  • 遠程差分壓縮 API 支持。
    windows功能
    點擊確定后進行重啟。

1.2 遷移Docker位置

Docker的安裝位置與下載位置都默認在C盤中,因此要手動進行遷移,防止C盤爆滿;

  • 導出docker-desktop
wsl --export docker-desktop E:\[你的路徑]\docker-desktop.tar
  • 注銷docker-desktop
wsl --unregister docker-desktop
  • 新路徑中重新導入docker-desktop
wsl --import docker-desktop E:\[你的路徑]\docker-desktop E:\docker_data\docker-desktop.tar
  • docker-desktop中修改鏡像存儲路徑
    變更鏡像路徑

二、Dify的下載與環境配置

2.1 Dify項目下載

使用git拉取Dify項目或下載項目壓縮包

git clone https://github.com/langgenius/dify.git

2.2 Dify項目環境配置

1.在2.1 中下載的項目文件中,找到docker文件夾,雙擊進入后找到.env.example文件,將其重命名為.env
2.在docker文件夾中打開cmd終端,運行docker環境;

docker compose up -d

在這里插入圖片描述

在此過程中可能會出現請求超時docker:Error reponse from deamon:Get "registry-1.docker.io/v2...":net/http:request canceled while waiting for connection...的報錯,可能是鏡像請求失敗的問題,此時需要替換docker的相關鏡像地址。

進入docker桌面端后點擊右上角設置,進入Docker Engine進行配置修改。配置如下:

{"builder": {"gc": {"defaultKeepStorage": "20GB","enabled": true}},"experimental": false,"registry-mirrors": ["https://docker.m.daocloud.io","https://docker.imgdb.de","https://docker-0.unsee.tech","https://docker.hlmirror.com","https://docker.1ms.run","https://func.ink","https://lispy.org","https://docker.xiaogenban1993.com"]
}

在這里插入圖片描述此時點擊Apply & restart,等待重啟后重新運行docker環境即可正常拉取。
拉取完畢后,在docker桌面端中可以看到相關環境已啟動,如下:
在這里插入圖片描述

2.3 Dify安裝

在瀏覽器中訪問地址http://[本機IP]:[端口號]/install即可。

此處的本機IP,即局域網可訪問本機的地址。端口號則可以在2.2Dify項目環境配置中,打開.env文件對NGINX_PORTEXPOSE_NGINX_PORT進行修改,例如改為8081,則可以訪問Dify的地址為:http://192.168.0.1:8081/install。

此時進入Dify應用后,需要先設置一個管理賬戶。
在這里插入圖片描述
設置完畢后登錄即可進入Dify。

三、Dify關聯本機運行的deepseek

3.1 配置Ollama服務開放局域網訪問

Ollama是一個本地 AI 服務工具,默認情況下它只能在本地訪問。如果想要在局域網中共享 Ollama 服務,需要配置防火墻以開放對應的端口。

3.1.1 配置 Ollama 服務的監聽地址

Ollama 服務使用環境變量 OLLAMA_HOST 來指定監聽的地址,默認情況下,它只監聽localhost,即只能本地訪問。如果要讓局域網內其他設備訪問 Ollama 服務,需要將 OLLAMA_HOST設為 0.0.0.0

在 Windows 中環境變量中新建變量名OLLAMA_HOST,變量值0.0.0.0

3.1.2 開放防火墻端口

使用管理員身份運行命令提示符,按以下命令依次執行。

  1. 為 Ollama 服務開放 11434 端口(TCP 協議):
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434
  1. 如果 Ollama 使用的是 UDP 協議,可以將命令中的 TCP 改為 UDP:
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434
  1. 通過以下命令確認規則是否正確添加:
netsh advfirewall firewall show rule name="Allow Port 11434"

完成上述操作后,在本機或同局域網中的設備對地址:http://[本機地址IIP]:11434進行范圍,若訪問后頁面顯示Ollama API相關的信息,則端口已開放成功。

3.2 修改Dify運行配置文件

2.2Dify項目環境配置中,打開.env文件,末尾新增配置如下:

# 啟用自定義模型
CUSTOM_MODEL_ENABLED=true
# 指定 Ollama 的 API 地址(根據部署環境調整 IP)
OLLAMA_API_BASE_URL=http://[本機IP]:11434

其中的OLLAMA_API_BASE_URL配置的地址即開放后的Ollama服務地址。

3.3 配置Dify大模型

  1. 點擊Dify中右上角的頭像后點擊設置;
    在這里插入圖片描述
  2. 點擊模型供應商在右側選項卡中找到Ollama,鼠標懸停后點擊添加模型,填寫模型名稱與基礎URL點擊保存即可。
    在這里插入圖片描述

3.4 新建第一個Dify應用

在Dify主頁中的創建應用中點擊創建空白應用,彈出創建彈窗后,選擇聊天助手,輸入應用名稱與描述后點擊創建即可。
首次創建的應用,使用的模型不是我們想要的本地deepseek,此時點擊右上角發布按鈕左側的模型選擇框,點擊后將有下來框可以選擇本地Ollama中運行的deepseek(圖例為已添加deepseek后的狀態,可對模型相關參數進行調整)。
在這里插入圖片描述
此時,可以在聊天輸入框中輸入 你是誰? 進行測試,若能夠回答,則Dify對接本地deepseek成功。
在這里插入圖片描述

參考文檔

1.從零開始!在 Windows 上安裝與配置 Dify;
2.DeepSeek + Dify :零成本搭建企業級本地私有化知識庫保姆級教程;
3.在 Windows 上配置 Ollama 服務并開放局域網訪問;
4.Dify官方文檔.

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/71064.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/71064.shtml
英文地址,請注明出處:http://en.pswp.cn/web/71064.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

使用Spring Boot與達夢數據庫(DM)進行多數據源配置及MyBatis Plus集成

使用Spring Boot與達夢數據庫(DM)進行多數據源配置及MyBatis Plus集成 在現代企業級應用開發中,處理多個數據源是一個常見的需求。本文將詳細介紹如何使用Spring Boot結合達夢數據庫(DM),并通過MyBatis Plus來簡化數據庫操作&…

第二十四:5.2【搭建 pinia 環境】axios 異步調用數據

第一步安裝&#xff1a;npm install pinia 第二步&#xff1a;操作src/main.ts 改變里面的值的信息&#xff1a; <div class"count"><h2>當前求和為&#xff1a;{{ sum }}</h2><select v-model.number"n">  // .number 這里是…

使用 DeepSeek 生成流程圖、甘特圖與思維導圖:結合 Typora 和 XMind 的高效工作流

在現代工作與學習中&#xff0c;可視化工具如流程圖、甘特圖和思維導圖能夠極大地提升信息整理與表達的效率。本文將詳細介紹如何使用 DeepSeek 生成 Mermaid 文本&#xff0c;結合 Typora 快速生成流程圖和甘特圖&#xff0c;并通過 Markdown 格式生成思維導圖&#xff0c;最終…

DeepSeek 開源周:第五天 - Fire-Flyer 文件系統(3FS)

&#xff08;下面文字主要由 Grok 3 協助生成&#xff09; 概述 Deepseek 今天開源的 Fire-Flyer 文件系統&#xff08;3FS&#xff09;是一個高性能分布式文件系統&#xff0c;專門為 AI 訓練和推理設計。研究表明&#xff0c;它解決了 AI 工作負載中處理海量數據的高效存儲需…

【筆記】論文閱讀方法(AI大模型)

1 為什么讀論文 構建知識體系&#xff1a;通過Related Works快速了解該方向研究現狀&#xff0c;追蹤經典論文 緊跟前沿技術&#xff1a;了解領域內新技術及效果&#xff0c;快速借鑒到自身項目 培養科研邏輯&#xff1a;熟悉論文體系&#xff0c;了解如何創造新事物&#x…

【數據集】ACM數據集

ACM&#xff08;Association for Computing Machinery&#xff09;數據集是計算機科學領域常用于研究學術論文、作者關系、引文網絡、推薦系統、圖神經網絡&#xff08;GNN&#xff09;等任務的數據集之一。該數據集通常包含學術論文、作者、研究領域以及它們之間的關系&#x…

SQL server配置ODBC數據源(本地和服務器)

本地配置 1. 控制面板中找到系統ODBC數據源&#xff08;打開控制面板直接搜&#xff09; 2. 選擇“系統DSN”&#xff0c;點擊“添加” 3. 選擇“SQL server” 4. 名稱和描述自己填&#xff0c;服務器選擇本機設備名稱 5. 選擇ID和密碼驗證&#xff0c;并填寫本地SQL server登…

使用 Postman 訪問 Keycloak 端點

1. 引言 在本教程中&#xff0c;我們將首先快速回顧 OAuth 2.0、OpenID 和 Keycloak。然后&#xff0c;我們將了解 Keycloak REST API 以及如何在 Postman 中調用它們。 2. OAuth 2.0 OAuth 2.0 是一個授權框架&#xff0c;它允許經過身份驗證的用戶通過令牌向第三方授予訪問…

文生圖開源模型發展史(2014-2025年)

文生圖開源模型的發展歷程是一段充滿技術革新、社區生態繁榮與商業化競爭的多維度演進史。 一、技術萌芽期&#xff08;2014-2020年&#xff09; 核心突破 2014年&#xff1a;GAN&#xff08;生成對抗網絡&#xff09;誕生&#xff0c;首次實現數據驅動式圖像生成&#xff0…

微服務學習(2):實現SpringAMQP對RabbitMQ的消息收發

目錄 SpringAMQP是什么 為什么采用SpringAMQP SpringAMQP應用 準備springBoot工程 實現消息發送 SpringAMQP是什么 Spring AMQP是Spring框架下用于簡化AMQP&#xff08;高級消息隊列協議&#xff09;應用開發的一套工具集&#xff0c;主要針對RabbitMQ等消息中間件的集成…

AI人工智能機器學習之神經網絡

1、概要 本篇學習AI人工智能機器學習之神經網絡&#xff0c;以MLPClassifier和MLPRegressor為例&#xff0c;從代碼層面講述最常用的神經網絡模型MLP。 2、神經網絡 - 簡介 在 Scikit-learn 中&#xff0c;神經網絡是通過 sklearn.neural_network 模塊提供的。最常用的神經網…

WPF高級 | WPF 與數據庫交互:連接、查詢與數據更新

WPF高級 | WPF 與數據庫交互&#xff1a;連接、查詢與數據更新 前言一、數據庫交互基礎概念1.1 數據庫簡介1.2 數據訪問技術 二、WPF 與數據庫連接2.1 連接字符串2.2 建立連接 三、WPF 中的數據查詢3.1 使用ADO.NET進行數據查詢3.2 使用 Entity Framework 進行數據查詢3.3 使用…

【ESP32S3接入訊飛在線語音識別】

【ESP32S3接入訊飛在線語音識別】 1. 前言1.1 步驟概括1.2 硬件介紹1.3 接線2. 操作流程2.1 創建語音識別應用2.2 記錄API秘鑰3. JSON語音接入api3.1 JSON格式3.2 交互流程3.2 ESP32S3 Sense接入代碼1. 核心功能2. 主要模塊3. 工作流程4. 典型應用場景5. 關鍵技術點6. 待完善功…

學生管理前端

文章目錄 首頁student.html查詢功能 首頁 SpringBoot前端html頁面放在static文件夾下&#xff1a;/src/main/resources/static 默認首頁為index.html&#xff0c;我們可以用兩個超鏈接或者兩個button跳轉到對應的頁面。這里只是單純的跳轉頁面&#xff0c;不需要提交表單等其…

(動態規劃 最長遞增的子序列)leetcode 300

這道題我第一眼反應就是暴力&#xff0c;但是暴力的話就是n*n-1*n-2*...n-(n-1) 也就是O(n^n)dfs做絕對超時 貪心也不行&#xff0c;這里是子序列&#xff0c;要考慮在ni的范圍內考慮多種路線取最優&#xff0c;所以用動態規劃 如何用動態規劃呢&#xff1f; 答&#xff1a;…

RabbitMQ系列(六)基本概念之Routing Key

在 RabbitMQ 中&#xff0c;Routing Key&#xff08;路由鍵&#xff09; 是用于將消息從交換機&#xff08;Exchange&#xff09;路由到指定隊列&#xff08;Queue&#xff09;的關鍵參數。其核心作用是通過特定規則匹配綁定關系&#xff0c;確保消息被正確分發。以下是其核心機…

Spark內存并行計算框架

spark核心概念 spark集群架構 spark集群安裝部署 spark-shell的使用 通過IDEA開發spark程序 1. Spark是什么 Apache Spark? is a unified analytics engine for large-scale data processingspark是針對于大規模數據處理的統一分析引擎 spark是在Hadoop基礎上的改進&…

Ubuntu 安裝 Nginx并配置反向代理

Ubuntu版本&#xff1a;Ubuntu 24.04.2 LTS 一、安裝Nginx ?更新系統軟件包? 安裝前需確保系統處于最新狀態&#xff0c;避免依賴沖突 sudo apt update && sudo apt upgrade -y ?安裝Nginx主程序? Ubuntu官方倉庫已包含穩定版Nginx&#xff0c;直接安裝即可 sudo…

Solr中得Core和Collection的作用和關系

Solr中得Core和Collection的作用和關系 一&#xff0c; 總結 在Apache Solr中&#xff0c;Core和Collection 是兩個核心概念&#xff0c;他們分別用于單機模式和分布式模式&#xff08;SolrCloud&#xff09;中&#xff0c;用于管理和組織數據。 二&#xff0c;Core 定義&am…

yolov8,yolo11,yolo12 服務器訓練到部署全流程 筆記

正在進行中&#xff0c;隨時更新 一. Anaconda配置 1.安裝anaconda (1)下載.sh文件 Index of /anaconda/archive/ | 清華大學開源軟件鏡像站 | Tsinghua Open Source Mirror (2)scp到服務器后&#xff0c;運行安裝包 bash Anaconda3-2020.07-Linux-x86_64.sh (3)安裝anacond…