在Mac上搭建本地AI工作流:Dify與DeepSeek的完美結合

在Mac上搭建本地AI工作流:Dify與DeepSeek的完美結合

一、Dify平臺簡介

Dify是一個開源的大語言模型(LLM)應用開發平臺,旨在簡化和加速生成式AI應用的創建和部署。其名字蘊含著"Define(定義)+ Modify(修改)"的理念,體現了平臺的靈活性和易用性。

作為一個綜合性開發平臺,Dify結合了后端即服務(BaaS)和LLMOps的概念,使開發人員能夠更高效地構建AI原生應用。無論您是開發者還是非技術人員,都可以利用Dify構建、部署和運營AI應用。

Dify的主要特點包括可視化的AI應用開發模式,支持聊天機器人、AI工作流、RAG管道、Agent、模型管理以及可觀測性功能。其應用場景十分廣泛,包括智能客服、企業知識庫、特定領域的聊天機器人和AI助理、自動化報告生成以及多模態內容創作。

二、在Mac上本地部署Dify

(一)準備工作

  1. 確保Mac環境滿足要求:你的Mac需要安裝有Homebrew,它是Mac上優秀的包管理工具。如果沒有安裝,可以在終端中運行以下命令進行安裝:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
  1. 安裝Docker:Dify通過Docker進行部署,所以需要安裝orbstack。你可以前往orbstack官網下載并按照提示完成安裝。安裝完成后,啟動Docker,確保其在后臺運行。
    在這里插入圖片描述
  2. 鏡像加速:加速的目的是為了下載dify時不出現因為超時而報錯,操作步驟:使用 vim 命令行打開docker.json文件,輸入下面鏡像的地址。
vi ~/.orbstack/config/docker.json
{
"registry-mirrors":[
"https://dockerproxy.com",
"https://docker.mirrors.ustc.edu.cn",
"https://docker.nju.edu.cn"]
}

(二)獲取Dify代碼

在終端中執行以下命令,克隆Dify的代碼倉庫:

git clone https://github.com/dify-ai/dify.git

克隆完成后,進入dify目錄并設置.env文件:

cd dify/docker
cp .env.example .env

(三)配置與啟動

  1. 環境變量配置(可選):如果有特殊的配置需求,比如修改服務端口、配置代理等,可以通過編輯.env文件來設置環境變量。在dify目錄下找到.env.example文件,將其復制一份并命名為.env,然后根據實際需求修改其中的配置項。例如,如果想修改Dify服務的端口為8080,可以找到并修改APP_PORT=8080這一行(原端口可能是其他值)。
  2. 啟動Dify:在終端中,確保當前目錄為dify目錄,然后執行以下命令啟動Dify:
docker compose up -d

在這里插入圖片描述

該命令會在后臺啟動Dify相關的容器,包括數據庫、應用服務等。啟動過程可能需要一些時間,取決于你的網絡速度和機器性能。啟動完成后,可以通過訪問http://localhost(如果修改了端口,需要使用修改后的端口,如http://localhost:8080)來打開Dify的Web界面。啟動后界面如下:

在這里插入圖片描述

四、使用Ollama本地部署DeepSeek模型

Ollama是一個跨平臺的輕量級工具,旨在本地運行大型語言模型,如DeepSeek、Llama和Mistral。它提供了一鍵式模型部署,適合需要數據隱私和本地控制的用戶。

  • 在Mac上使用Ollama部署DeepSeek的步驟如下:
    1.訪問Ollama官網(https://ollama.ai/ )下載適合Mac的安裝包。
    2.安裝Ollama。安裝過程非常簡單,按照提示完成即可。
    3.安裝完成后,打開終端,驗證Ollama是否正確安裝:
  ollama --version

拉取DeepSeek模型。Ollama支持多種規模的DeepSeek模型,您可以根據自己的硬件條件選擇合適的版本:

ollama pull deepseek-r1:1.5b

驗證模型是否正常運行:

 ollama run deepseek-r1:1.5b

這將啟動一個交互式會話,您可以直接與DeepSeek模型對話。
在這里插入圖片描述

五、在 Dify 中配置 DeepSeek 并創建聊天助手?

(一)配置模型接口?

1.登錄 Dify:在瀏覽器中訪問http://localhost完成注冊并登錄賬號。?
2.進入模型配置頁:點擊左側導航欄的 “設置”→“模型”→“添加模型”,選擇 “模型供應商”。?
在這里插入圖片描述
3.填寫信息:?

  • 選擇供應商模型 ollama
    在這里插入圖片描述
  • 模型基礎URL:http://host.docker.internal:11434/api/chat(Ollama 默認接口地址,Docker 內部需用host.docker.internal訪問本地服務)?,模型名稱為本地ollama部署的模型名稱(如:deepseek-r1:8b)。
    在這里插入圖片描述
  • 點擊 “保存”,即配置完成。

(二)創建聊天助手?

新建應用:點擊左側導航欄的 “應用”→“創建應用”,選擇 “聊天助手” 類型。?
配置助手:?
應用名稱:自定義(如 “本地 DeepSeek 助手”)?
選擇模型:在下拉框中選擇剛配置的 “DeepSeek-Local”?
其他設置(如開場白、回復風格)保持默認即可。?
測試助手:點擊 “預覽” 按鈕,在聊天窗口中輸入問題(如 “介紹一下人工智能”),若能收到來自 DeepSeek 模型的回應,說明聊天助手創建成功。
在這里插入圖片描述
在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/92821.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/92821.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/92821.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

centos出現ping: baidu.com: 未知的名稱或服務問題

出現的問題如下:自己電腦連接的是實驗室的無線網,宿主機可以上網,但是虛擬機無法ping通百度 解決: 將連接的網絡換成自己的手機熱點,然后就解決了。。。

GitHub第三方登錄全解析:OAuth 2.0流程詳解(適合初學者)

🔐 GitHub第三方登錄全解析:OAuth 2.0流程詳解(適合初學者) 🌟 什么是OAuth?為什么需要它? 想象一下:你開發了一個學習筆記應用"DocFlow",用戶需要登錄才能使用…

MyBatis持久層實現

MyBatis持久層實現 package com.example.usermanagement.mapper;import com.example.usermanagement.entity.User; import org.apache.ibatis.annotations.Mapper; import org.apache.ibatis.annotations.Param; import java.util.List;/*** 用戶Mapper接口* Mapper: 標識這是M…

BW處理鏈日志存儲分析與清理

處理鏈日志存儲分析使用程序 RSPC_LOGS_ANALYZE 分析處理鏈日志占用空間*&---------------------------------------------------------------------* *& Report RSPC_LOGS_ANALYZE *&---------------------------------------------------------------------* *&a…

mysql 簡單操作手冊

以下是一份 MySQL 日常操作速查手冊,包含啟動/停止服務、連接/退出客戶端、數據庫管理、用戶權限等常用命令,適用于 macOS(Homebrew 安裝)和 Linux 系統:一、服務管理 🚦操作命令(Homebrew&…

HTML5 Web Workers 深度剖析:助力網頁性能飛速提升

在當今數字化時代,Web 應用的性能已成為決定用戶體驗和業務成功的關鍵因素。隨著 Web 應用的復雜性不斷增加,如何高效利用設備資源、提升網頁響應速度成為開發者面臨的重大挑戰。 HTML5 Web Workers 的誕生與意義 在傳統的網頁開發中,JavaScr…

調度系統部署架構是什么樣的呢?

簡單示例一個部署架構圖,如下所示:📘 各組件說明:? 服務器端組件(控制節點)Slurm:slurmctld(主控調度器),slurmdbd(數據庫服務)PBS P…

SQL 與 NoSQL 的核心區別

數據庫是存儲、管理和檢索數據的系統。根據數據模型和設計理念,可分為SQL 數據庫(關系型數據庫) 和NoSQL 數據庫(非關系型數據庫)。兩者的核心區別在于數據的組織方式、靈活性、事務支持和適用場景。💡一、…

力扣 hot100 Day71

45. 跳躍游戲 II 給定一個長度為 n 的 0 索引整數數組 nums。初始位置為 nums[0]。 每個元素 nums[i] 表示從索引 i 向后跳轉的最大長度。換句話說&#xff0c;如果你在索引 i 處&#xff0c;你可以跳轉到任意 (i j) 處&#xff1a; 0 < j < nums[i] 且i j < n …

什么是 Spring MVC?

題目詳細答案Spring MVC 是 Spring 框架中的一個模塊&#xff0c;用于構建基于 Web 的應用程序。它遵循 Model-View-Controller#&#xff08;MVC&#xff09;設計模式&#xff0c;將業務邏輯、用戶界面和數據分離&#xff0c;以促進代碼的可維護性和可擴展性。主要包含幾個概念…

第十篇:3D模型性能優化:從入門到實踐

第十篇&#xff1a;3D模型性能優化&#xff1a;從入門到實踐 引言 在3D開發中&#xff0c;性能優化是區分普通應用和卓越應用的關鍵。Three.js應用的流暢運行需要60FPS的渲染效率&#xff0c;而移動端設備更面臨嚴格的資源限制。本文將深入解析性能優化核心技術&#xff0c;并通…

基于 Easy Rules 的電商訂單智能決策系統:構建可擴展的業務規則引擎實踐

Easy Rules 是一個輕量級且易于使用的規則引擎&#xff0c;適用于Java應用。下面是一個簡單的示例&#xff0c;演示如何使用 Easy Rules 定義和執行規則。 添加依賴 首先&#xff0c;在你的Java項目中添加 Easy Rules 的 Maven 依賴&#xff08;如果你使用的是Maven構建工具&am…

如何使用gpt進行模型微調?

對 GPT 類大語言模型&#xff08;如 GPT-3、GPT-2、Hugging Face 的 GPT 系列、ChatGLM 等開源或閉源模型&#xff09;進行微調&#xff08;Fine-tuning&#xff09;&#xff0c;目的是讓模型在特定任務或領域&#xff08;如法律、醫療、客服、代碼生成等&#xff09;上表現更優…

數據可視化與人機交互技術

人機交互技術(HumanComputer Interaction&#xff0c;HCI)是21世紀信息領域需要發展的重大課題。例如&#xff0c;美國21世紀信息技術計劃中的基礎研究內容定為四項&#xff0c;即軟件、人機交互、網絡、高性能計算。其目標就是要開發21世紀個性化的信息環境。其中&#xff0…

MP2662GC-0000-Z降壓轉換器 MPS電源芯片 集成電路IC

MP2662GC-0000-Z 是MPS&#xff08;Monolithic Power Systems&#xff09;公司推出的一款高性能電源管理集成電路&#xff08;PMIC&#xff09;&#xff0c;屬于其電池管理或電源轉換產品線的一部分。以下是關于該器件的詳細解析&#xff1a;1. 核心功能高效電源轉換&#xff1…

Go 語言中的切片排序:從原理到實踐玩轉 sort 包

?? Go 語言中的切片排序:從原理到實踐玩轉 sort 包 在Go語言的日常開發中,切片(Slice)作為動態、靈活的數據結構,幾乎無處不在。而排序作為數據處理的基礎操作,更是高頻需求。 Go標準庫中的sort包憑借其優雅的設計和高效的實現,成為切片排序的“瑞士軍刀”。本文將帶…

PCB焊盤脫落的補救辦法與獵板制造優勢解析

PCB焊盤脫落是電子維修中常見的問題&#xff0c;輕則導致元件虛焊&#xff0c;重則引發電路板報廢。遇到這種情況不必慌張&#xff0c;掌握正確的補救方法能最大限度挽回損失。一、焊盤脫落的應急處理方案若脫落焊盤未完全脫離基板&#xff0c;可用鑷子夾住殘留部分緩慢抬起&am…

python3.10.6+flask+sqlite開發一個越南留學中國網站的流程與文件組織結構說明

采用python3.10.6flasksqlite技術棧&#xff0c;開發一個越南留學中國網站&#xff08;vietnam-study-in-china&#xff09;。開發流程與文件組織結構說明 一、項目概述與規劃 &#xff08;一&#xff09;項目背景與意義 留學趨勢分析 近年來&#xff0c;中越兩國教育交流日益…

uView Pro 正式開源!70+ Vue3 組件重構完成,uni-app 組件庫新晉之星

一、項目背景 uni-app 作為一款優秀的跨平臺框架&#xff0c;憑借其“一套代碼&#xff0c;多端運行”的理念&#xff0c;受到了廣大移動端開發者的青睞。 而在 uni-app 的生態中&#xff0c;uView UI 作為一款基于 Vue2 開發的開源組件庫&#xff0c;憑借其豐富的組件、完善…

Qwen3 技術報告 的 Strong-to-Weak Distillation 強到弱蒸餾 和 代碼實現

Qwen3 技術報告 的 Strong-to-Weak Distillation 強到弱蒸餾 和 代碼實現 flyfish 代碼在文末 技術報告就是不一定經過嚴格的學術期刊同行評審&#xff0c;但具有較強的專業性和實用性。 The post-training pipeline of Qwen3 is strategically designed with two core ob…