mac下dify+deepseek部署,實現私人知識庫

目前deepseek 十分火爆,本地部署實現私有知識庫,幫助自己日常工作,上一篇使用工具cherry studio可以做到私人知識庫。今天學習了一下,使用Dify鏈接deepseek,實現私人知識庫,也非常不錯,這里分享下我的學習過程吧。

一、克隆 Dify 源代碼至本地環境

git clone https://github.com/langgenius/dify.git

當然你也可以直接登錄網址 https://github.com/langgenius/dify? ?點擊Dnowload ZIP。

二、啟動Dify(前提是先安裝docker for mac)

1、進入 Dify 源代碼的 Docker 目錄

cd dify/docker

2、復制環境配置文件

cp .env.example .env

3、啟動 Docker 容器

docker-compose up -d

安裝好后,可以通過docker ps 查看所有容器是否都已正常運行。

4、訪問dify

# 初始化訪問,設置管理員賬戶
http://localhost/install

三、Dify配置deepseek大模型

首先從賬戶中心-設置中,點開。然后可以點擊?”模型供應商“。這時候可以看到很多大模型的供應商。我們可以選擇添加自己已經注冊或者本地部署過得大模型。

可以直接選擇deepseek的大模型,通過填寫自己的api-key,添加后,可以看到已經添加的模型。

當然你也可以通過siliconflow來實現你的知識庫,注冊賬戶后,將api-key填入即可。

這里介紹下如何綁定自己本地環境通過ollma部署的deepseek的模型,如下:

首先在模型供應商中找到ollma,然后點擊添加大模型,填寫本地部署的模型名稱,

注意:這里的基礎URL填寫http://host.docker.internal:11434,localhost是無法連接的。這里可以參考Dify官網查看

添加好后,在按照同樣的方法,繼續添加Text Embedding。這是為知識庫添加bge-large模型

當然這里的模型名稱是自己本地部署的模型名稱。

四、搭建知識庫

1、來到Dify的主界面,點擊知識庫。創建新的知識庫

2、上傳文檔

文檔上傳成功后,會自動嵌入,然后向量化。

文檔也已經被分段處理

3、引用知識庫

創建空白應用-創建聊天助手

然后在聊天界面中點擊添加上下文,也就是你剛才創建的知識庫。

此時在右邊的對話框中就可以輸入,大模型會根據知識庫進行查詢。在最后的界面中能看到引用自剛才創建的知識庫文件。

知識庫創建好后,你可以本地使用,如果想外部訪問這個知識庫,可以添加外部知識庫API。配置好API Endpoint后就可以。

當然,想要讓外部訪問到,你自己的機器網絡也需要在公網上。

五、Dify的亮點

在最后,還是想說一下Dify非常棒的功能,

Dify和cherry- studio、chatbox都可以隨時切換聊天對話的大模型,像知識庫這種,它還可以直接將聊天對話功能嵌入到自己的網站中去,這一點和阿里云的知識庫很像。

它還有一個亮點讓我覺得很驚喜的是,它有自己的API接口,可以直接對接,實現文件上傳啊,文本創建啊等,更加靈活的實現自己的知識庫功能,將Dify用于一個可視化的知識庫管理頁面來使用,實在是太棒了。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/895190.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/895190.shtml
英文地址,請注明出處:http://en.pswp.cn/news/895190.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

C++性能優化—人工底稿版

C以高性能著稱,性能優化是C程序員繞不過去的一個話題,性能優化是一個復雜、全局而又細節的問題,本文總結C性能分析中常用的知識。 性能優化的時機 大部分關于性能優化的文章都強調:不要過早的進行性能優化。 C編碼層面 數據結…

react概覽webpack基礎

react概覽 課程介紹 webpack 構建依賴圖->bundle 首屏渲染: 減少白屏等待時間 數據、結構、樣式都返回。需要服務器的支持 性能優化 ***webpack干的事情 模塊化開發 優勢: 多人團隊協作開發 可復用 單例:全局沖突 閉包 模塊導入的順序 req…

ASP.NET Core SignalR實踐指南

Hub類的生命周期是瞬態的,每次調用集線器的時候都會創建一個新的Hub類實例,因此不要在Hub類中通過屬性、成員變量等方式保存狀態。如果服務器的壓力比較大,建議把ASP.NET Core程序和SignalR服務器端部署到不同服務器上,以免它們互…

常見的九種二極管

常見的九種二極管 文章目錄 常見的九種二極管1、普通二極管2、光電二極管(LED)3、變容二級管4、發光二極管5、恒流二極管6、快恢復二極管(FRD)7、肖特基二極管8、瞬態電壓抑制二極管(TVS)9、齊納二極管(穩壓&#xff0…

LabVIEW在呼吸機測試氣體容量計算

在呼吸機測試中,精確測量氣體容量變化是評估設備性能的關鍵步驟。通過監測呼吸機氣道內的壓力變化,并結合流阻和肺順應性等參數,可以計算出單位時間內的氣體容量變化。本案例基于LabVIEW實現該計算過程,以確保測試數據的準確性和一…

本地部署DeepSeek R1 + 界面可視化open-webui

本地部署DeepSeek R1 界面可視化open-webui ollama是物理機本地安裝 open-webui是容器啟動 另外,用docker 部署ollama也很方便ollama docker 安裝部署ollama ollama官網 安裝 Linux上安裝: curl -fsSL https://ollama.com/install.sh | sh使用命令行管理 拉…

第四十九章:橫店之旅:穿越時空的歡樂時光

自黃山之行結束后,小冷一家又回歸到了忙碌而又溫馨的日常生活中。小冷在杭州灣研發總部的工作愈發忙碌,項目一個接著一個,時常需要加班加點,但每當他回到家中,看到小澤澤可愛的笑臉和小一充滿活力的身影,一…

Python3 ImportError: cannot import name ‘XXX‘ from ‘XXX‘

個人博客地址&#xff1a;Python3 ImportError: cannot import name XXX from XXX | 一張假鈔的真實世界 例如如下錯誤&#xff1a; $ python3 git.py Traceback (most recent call last):File "git.py", line 1, in <module>from git import RepoFile &quo…

使用C語言實現MySQL數據庫的增刪改查操作指南

使用C語言與MySQL數據庫進行交互,通常涉及使用MySQL提供的C API庫。這套API允許開發者在C/C++程序中執行SQL查詢,從而實現數據庫的增刪改查操作。下面,我將詳細介紹如何在C語言中實現這些基本操作。 準備工作 安裝MySQL開發庫:確保你的系統上安裝了MySQL服務器以及MySQL開發…

局域網使用Ollama(Linux)

解決局域網無法連接Ollama服務的問題 在搭建和使用Ollama服務的過程中&#xff0c;可能會遇到局域網內無法連接的情況。經過排查發現&#xff0c;若開啟了代理軟件&#xff0c;尤其是Hiddify&#xff0c;會導致此問題。這一發現耗費了我數小時的排查時間&#xff0c;希望能給大…

在CT107D單片機綜合訓練平臺上實現外部中斷控制LED閃爍

引言 在單片機開發中&#xff0c;外部中斷是一個非常重要的功能&#xff0c;它可以讓單片機在檢測到外部信號變化時立即做出響應。本文將詳細介紹如何在CT107D單片機綜合訓練平臺上使用外部中斷來控制LED燈的閃爍。我們將使用兩種不同的方式來實現這一功能&#xff1a;一種是在…

重磅發布!AI 驅動的 Java 開發框架:Spring AI Alibaba

*本文作者系阿里云云原生微服務技術負責人&#xff0c;Spring AI Alibaba 發起人彥林&#xff0c;望陶和隆基對可觀測和 RocketMQ 部分內容亦有貢獻。 * 摘要 隨著生成式 AI 的快速發展&#xff0c;基于 AI 開發框架構建 AI 應用的訴求迅速增長&#xff0c;涌現出了包括 Lang…

防御保護作業二

拓撲圖 需求 需求一&#xff1a; 需求二&#xff1a; 需求三&#xff1a; 需求四&#xff1a; 需求五&#xff1a; 需求六&#xff1a; 需求七&#xff1a; 需求分析 1.按照要求進行設備IP地址的配置 2.在FW上開啟DHCP功能&#xff0c;并配置不同的全局地址池&#xff0c;為…

react 路由配置:從入門到精通

前言 在現代Web開發中&#xff0c;React憑借其高效的組件化開發模式和虛擬DOM技術&#xff0c;已成為構建用戶界面的首選庫之一。然而&#xff0c;僅掌握React的核心概念并不足以應對復雜的單頁應用&#xff08;SPA&#xff09;開發需求。路由管理作為連接各個頁面、實現視圖切…

CPLD實現SPI通信

在 CPLD 中編寫 SPI 程序時,需根據具體需求(主/從設備、時鐘極性、數據位寬等)設計邏輯。以下提供一個 SPI 主控制器的 Verilog 實現示例,支持 模式 0(CPOL=0, CPHA=0),適用于控制外設(如 ADC、DAC、存儲器等)。 SPI 主控制器模塊設計(Verilog) 模塊功能 支持 8/16…

MapReduce簡單應用(三)——高級WordCount

目錄 1. 高級WordCount1.1 IntWritable降序排列1.2 輸入輸出格式1.3 處理流程 2. 代碼和結果2.1 pom.xml中依賴配置2.2 工具類util2.3 高級WordCount2.4 結果 參考 本文引用的Apache Hadoop源代碼基于Apache許可證 2.0&#xff0c;詳情請參閱 Apache許可證2.0。 1. 高級WordCo…

智慧機房解決方案(文末聯系,領取整套資料,可做論文)

智慧機房解決方案-軟件部分 一、方案概述 本智慧機房解決方案旨在通過硬件設備與軟件系統的深度整合&#xff0c;實現機房的智能化管理與服務&#xff0c;提升機房管理人員的工作效率&#xff0c;優化機房運營效率&#xff0c;確保機房設備的安全穩定運行。軟件部分包括機房管…

(五)Spring Boot學習——spring security +jwt使用(前后端分離模式)

一定要熟悉spring security原理和jwt無狀態原理&#xff0c;理解了才知道代碼作用。 在 Spring Security JWT 認證流程中&#xff0c;通常的做法是&#xff1a; 用戶提交用戶名和密碼Spring Security 認證管理器 (AuthenticationManager) 進行認證如果認證成功&#xff0c;生…

清華DeepSeek手冊:從入門到精通(網頁版便于閱讀)

目錄 一、產品概述二、清華DeepSeek從入門到精通三、PDF文件路徑 一、產品概述 DeepSeek是國產領先的人工智能技術平臺&#xff0c;提供從數據分析到大型語言模型的全棧解決方案。其核心產品包括網頁端數據分析工具[1] 、視覺語言模型(DeepSeek-VL)[2] 和670億參數大型語言模型…

阿里云百煉初探DeepSeek模型調用

阿里云百煉初探DeepSeek模型調用 阿里云百煉為什么選擇百煉開始使用百煉方式一&#xff1a;文本對話方式二&#xff1a;文本調試方式三&#xff1a;API調用 DeepSeek調用1、搜索模型2、查看API調用3、開始調用安裝依賴查看API Key運行以下代碼 4、流式輸出 總結 阿里云百煉 阿…