ubuntu系統 | dify+ollama+deepseek搭建本地應用

1、安裝 Ollama

下載并安裝 Ollama

(llm) wangqiang@wangqiang:~$ curl -fsSL https://ollama.ai/install.sh | bash
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle0.3%

curl -fsSL https://ollama.ai/install.sh (下載ollama需要很久)

curl?是一個命令行工具,用于從網絡下載數據。這里它下載 Ollama 的安裝腳本。

  • -f?(--fail):如果 HTTP 請求失敗(如 404),靜默退出,不顯示 HTML 錯誤頁面。

  • -s?(--silent):靜默模式,不顯示進度或錯誤信息(除非嚴重錯誤)。

  • -S?(--show-error):與?-s?一起使用時,仍然顯示錯誤信息(如連接失敗)。

  • -L?(--location):如果 URL 發生重定向(如 301/302),自動跟隨新地址。

| bash

|(管道符)將?curl?下載的腳本內容傳遞給?bash,并立即執行。

檢查 Ollama 版本

ollama -v

?啟動 Ollama 服務

ollama serve

卸載Ollama:

ollama uninstall

下載并運行deepseek:

ollama run deepseek-r1:32b

?2、安裝docker

ubuntu系統安裝docker并進行配置:

1、Ubuntu系統安裝docker_docker ubuntu systemctl-CSDN博客

2、ubuntu系統docker介紹及鏡像源和倉庫配置-CSDN博客


# 安裝 Docker Compose
sudo curl -L "https://github.com/docker/compose/releases/download/v2.23.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose# 驗證安裝
docker-compose --version

3、安裝 Dify(AI 工作流平臺)

克隆 Dify 倉庫

# 創建工作目錄
mkdir dify && cd dify# 克隆 Dify 代碼
git clone https://github.com/langgenius/dify.git
cd dify/docker

配置 Dify

# 復制配置文件模板
cp .env.example .env# 編輯配置文件
nano .env

修改以下關鍵參數:

# 數據庫密碼(自定義)
POSTGRES_PASSWORD=your_password# Redis 密碼(自定義)
REDIS_PASSWORD=your_password# Ollama 配置(連接本地 Ollama 服務)
OLLAMA_BASE_URL=http://host.docker.internal:11434
OLLAMA_MODEL_NAME=deepseek-r1:7b

啟動 Dify 服務

# 啟動所有依賴服務(數據庫、緩存等)
docker compose up -d db redis weaviate# 啟動 Dify 核心服務
docker compose up -d

驗證服務狀態

# 檢查容器運行狀態
docker ps

確保以下容器狀態為 Up

  • dify-api-1
  • dify-web-1
  • dify-worker-1

配置 Dify 與 Ollama/DeepSeek 集成

打開瀏覽器訪問:http://localhost

首次使用需注冊管理員賬戶。

4.2 添加模型配置

登錄后進入 Settings → Model Provider,添加以下配置:

  • Model TypeLocal Model (Ollama)
  • Base URLhttp://host.docker.internal:11434
  • Model Namedeepseek-r1:7b

dify官網使用說明文檔

https://docs.dify.ai/zh-hans/introduction

五、使用本地知識庫

5.1 上傳文檔

  1. 在 Dify 控制臺進入?Knowledge Base
  2. 點擊?Upload File,支持 PDF、TXT、DOCX 等格式。
  3. 上傳后,Dify 會自動解析并存儲為向量數據庫。

5.2 使用 RAG 功能

  1. 在?Chat?頁面中輸入查詢。
  2. Dify 會結合 DeepSeek 模型和本地知識庫內容生成回答。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/80607.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/80607.shtml
英文地址,請注明出處:http://en.pswp.cn/web/80607.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

從紙質契約到智能契約:AI如何改寫信任規則與商業效率??——從智能合約到監管科技,一場顛覆傳統商業邏輯的技術革命

一、傳統合同的“低效困境”:耗時、昂貴、風險失控 近年來,全球商業環境加速向數字化轉型,但合同管理卻成為企業效率的“阿喀琉斯之踵”。據國際商會(International Chamber of Commerce)數據顯示,全球企業…

【機器學習|學習筆記】基于生成對抗網絡的孿生框架(GAN-based Siamese framework,GSF)詳解,附代碼。

【機器學習|學習筆記】基于生成對抗網絡的孿生框架(GAN-based Siamese framework,GSF)詳解,附代碼。 【機器學習|學習筆記】基于生成對抗網絡的孿生框架(GAN-based Siamese framework,GSF)詳解,附代碼。 文章目錄 【機器學習|學習筆記】基于生成對抗網絡的孿生框架(G…

UEFI Spec 學習筆記---33 - Human Interface Infrastructure Overview---33.2.6 Strings

33.2.6 Strings UEFI 環境中的 string 是使用 UCS-2 格式定義,每個字符由 16bit 數據表示。對于用戶界面,strings 也是一種可以安裝到 HIIdatabase 的一種數據。 為了本土化,每個 string 通過一個唯一標識符來識別,而每一個標識…

Stable Diffusion 學習筆記02

模型下載網站: 1,LiblibAI-哩布哩布AI - 中國領先的AI創作平臺 2,Civitai: The Home of Open-Source Generative AI 模型的安裝: 將下載的sd模型放置在sd1.5的文件內即可,重啟客戶端可用。 外掛VAE模型&#xff1a…

并發編程(5)

拋異常時會釋放鎖。 當線程在 synchronized 塊內部拋出異常時,會自動釋放對象鎖。 public class ExceptionUnlockDemo {private static final Object lock new Object();public static void main(String[] args) {Thread t1 new Thread(() -> {synchronized …

貴州某建筑物擋墻自動化監測

1. 項目簡介 某建筑物位于貴州省某縣城區內,靠近縣城主干道,周邊配套學校、醫院、商貿城。建筑物臨近鳳凰湖、芙蓉江等水系,主打“湖景生態宜居”。改建筑物總占地面積:約5.3萬平方米;總建筑面積:約15萬平…

6個月Python學習計劃:從入門到AI實戰(前端開發者進階指南)

作者:一名前端開發者的進階日志 計劃時長:6個月 每日學習時間:2小時 覆蓋方向:Python基礎、爬蟲開發、數據分析、后端開發、人工智能、深度學習 📌 目錄 學習目標總覽每日時間分配建議第1月:Python基礎與編…

【FAQ】HarmonyOS SDK 閉源開放能力 —Vision Kit (3)

1.問題描述: 通過CardRecognition識別身份證拍照拿到的照片地址,使用該方法獲取不到圖片文件,請問如何解決? 解決方案: //卡證識別實現頁,文件名為CardDemoPage,需被引入至入口頁 import { …

AI全域智能監控系統重構商業清潔管理范式——從被動響應到主動預防的監控效能革命

一、四維立體監控網絡技術架構 1. 人員行為監控 - 融合人臉識別、骨骼追蹤與RFID工牌技術,身份識別準確率99.97% - 支持15米超距夜間紅外監控(精度0.01lux) 2. 作業過程監控 - UWB厘米級定位技術(誤差<0.3米&…

安全強化的Linux

SElinux簡介 SELinux是security-Enhanced Linux的縮寫,意思是安全強化的linux SELinux主要由美國國家安全局(NSA)開發,當初開發的目的是為了避免資源的誤用。傳統的訪問控制在我們開啟權限后,系統進程可以直接訪問 當我們對權限設置不嚴謹時,這種訪問方式就是系統的安全漏洞 在…

機器學習第十六講:K-means → 自動把超市顧客分成不同消費群體

機器學習第十六講:K-means → 自動把超市顧客分成不同消費群體 資料取自《零基礎學機器學習》。 查看總目錄:學習大綱 關于DeepSeek本地部署指南可以看下我之前寫的文章:DeepSeek R1本地與線上滿血版部署:超詳細手把手指南 K-me…

spring中yml配置上下文與tomcat等外部容器不一致問題

結論:外部優先級大于內部 在 application.yml 中配置了: server:port: 8080servlet:context-path: /demo這表示你的 Spring Boot 應用的上下文路徑(context-path)是 /demo,即訪問你的服務時,URL 必須以 /d…

論文研讀——《AnomalyGPT:使用大型視覺語言模型檢測工業異常》

這篇論文提出了 AnomalyGPT,一個基于大型視覺語言模型的工業異常檢測框架,首次將通用多模態對話能力引入工業視覺場景,通過引入圖像解碼器增強像素級感知,設計 Prompt 學習器實現任務自適應控制,并利用合成異常樣本解決…

供應鏈安全檢測系列技術規范介紹之一|軟件成分分析

軟件成分分析的概念及意義 軟件成分分析Software Compostition Analysis(SCA)是一種用于管理開源組件應用安全的方法。軟件成分分析系統可以快速跟蹤和分析應用軟件的開源組件,發現相關組件、支持庫以及它們之間直接和間接依賴關系&#xff0…

conda更換清華源

1、概覽 anaconda更換速度更快、更穩定的下載源,在linux環境測試通過。 2、conda源查看 在修改之前可以查看下現有conda源是什么,查看conda配置信息,如下: cat ~/.condarc 可以看到你的conda源,以我的conda源舉例&am…

Docker配置容器開機自啟或服務重啟后自啟

要將一個 Docker 容器設置為開機自啟,你可以使用 docker update 命令或配置 Docker 服務來實現。以下是兩種常見的方法: 方法 1:使用 docker update 設置容器自動重啟 使用 docker update 設置容器為開機自啟 你可以使用以下命令&#xff0c…

Flink 的水印機制

Apache Flink 的 水印機制(Watermark Mechanism) 主要用于解決 事件時間流中的亂序問題(Out-of-Order Events),確保窗口(Window)能夠在合適的時間觸發計算,從而提供準確、一致的處理…

【每天一個知識點】embedding與representation

“Embedding(嵌入)”與“Representation(表示)”在機器學習、自然語言處理(NLP)、圖神經網絡等領域常被使用,它們密切相關,但語義上有一定區別。 一、定義 1. Representation&#…

SpringBoot(二)--- SpringBoot基礎(http協議、分層解耦)

目錄 前言 一、SpringBoot入門 1.入門程序 2.解析 二、HTTP協議 1.HTTP概述 2.HTTP請求協議 2.1 GET方式的請求協議 2.2 POST方式的請求協議 2.3 兩者的區別 2.4 獲取請求數據 3.HTTP響應協議 三、分層解耦 1.三層架構 2.IOC&DI 2.1 入門 2.2 IOC詳解 2.…

Please install it with pip install onnxruntime

無論怎么安裝都是 Please install it with pip install onnxruntime 我python 版本是3.11 ,我換成3.10 解決了