Dify+Ollama+QwQ:3步本地部署,開啟AI搜索新篇章

如何來評價本地化部署的價值與優勢分析:


成本優化與隱私保障

自定義搜索插件,告別信息過載

一鍵生成報告、分析,效率翻倍!

接下來我們就嘗試跟隨來部署本地的價值所在!

1:安裝Ollama & 部署QwQ模型

1.1 安裝Ollama

去官網ollama.com下載windows版,一路next就好。

1.2 拉取QwQ模型(通義千問官方推理模型)

在windows命令行輸入ollama run qwq。

 

ollama run QwQ

QwQ是32B參數的,顯存16G以上應該可以流暢運行。

當然也可以安裝最新的Qwen3,它有很多不同參數版本,可以找到適合自己電腦配置的版本安裝。

1.3安裝Docker容器

本地部署Dify要先安裝Docker桌面版,跟Ollama一樣簡單,也是去官網下載對應版本文件,直接安裝就OK。

1.4安裝Dify

安裝 Dify 簡單的方式就是git clone,復制其github地址github.com/langgenius/dify,找個文件夾git cloen就好,當然這樣需要科學上網。

2:啟動Dify,配置Google搜索插件

2.1 啟動Dify

命令行進到dify文件夾中的docker目錄,將.env.example文件拷貝一個,重命名為.env,然后運行dify啟動命令。

 

cd dify
cd docker
copy .env.example .env
docker compose up -d

稍等一下,它會自動安裝一些image

?

點開docker桌面版會看到容器里有個帶綠點的docker就成功了。?

點開瀏覽器,地址欄輸入http://localhost/insatll,設置自己本地dify的用戶名和密碼。

2.2 配置ollama本地模型

點開dify頁面右上角的用戶圖標中的設置。

在模型供應商中選擇ollama。

在模型供應商ollama中點添加模型。

注意填寫模型名字“qwq”和地址“host.docker.internal:11434”。

成功后顯示這樣。

2.3 獲取谷歌搜索API密鑰

  1. 訪問 serpapi.com

  2. 注冊 → 需要郵箱和電話,國內手機就行

  3. 免費版每月可以進行100次搜索

  4. 進入后可以看到自己API密鑰

2.4 添加Dify的谷歌搜索插件

Dify的插件功能比起繁瑣的MCP服務器好用多了,直接在dify頁面中插件,搜索google,直接安裝并填入剛獲得的谷歌搜索API密鑰。

成功后會顯示已授權。

?3:創建Dify Agent代理

3.1 創建Agent

這最后一步反而是最簡單的,進入dify頁面中工作室,agent菜單,創建空白應用。

在工具中添加谷歌。右上角模型中選qwq。?

到此就完成各位看官可以試一下!?

?

?

?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/87741.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/87741.shtml
英文地址,請注明出處:http://en.pswp.cn/web/87741.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

FAISS 簡介及其與 GPT 的對接(RAG)

什么是 FAISS? FAISS (Facebook AI Similarity Search) 是 Facebook AI 團隊開發的一個高效的相似性搜索和密集向量聚類的庫。它主要用于: 大規模向量相似性搜索高維向量最近鄰檢索向量聚類 https://github.com/facebookresearch/faissFAISS 特別適合處理…

【Apache Doris 深度實戰:從 MPP 架構到實時分析,解鎖三大數據模型的性能優化秘籍】

一、安裝部署 安裝教程:GitHub地址 Doc文檔:Apache Doris 簡介 - Apache Doris 二、功能及作用 Apache Doris 是一款基于MPP 架構的高性能、實時分析型數據庫。它以高效、簡單和統一的特性著稱,能夠在亞秒級的時間內返回海量數據的查詢結果…

MySQL主從復制與讀寫分離概述

前言: 在數據驅動的現代應用中,數據庫面臨高并發讀寫與海量存儲的雙重挑戰。單一數據庫實例在性能、可用性及擴展性上逐漸成為瓶頸。MySQL主從復制(Master-Slave Replication)與讀寫分離(Read/Write Splitting&#xf…

數據庫-元數據表

1. 什么是元數據表元數據:數據的數據,用以描述數據的信息也是數據,被稱為元數據2. 獲取元數據的方法MySQL提供了以下三種方法用于獲取數據庫對象的元數據:show語句從INFORMATION_SCHEMA數據庫里查詢相關表(information…

【STM32】通用定時器PWM

STM32 通用定時器 PWM 輸出完全解析(以 TIM3_CH1 為例) PWM 輸出基本原理 PWM(Pulse Width Modulation)即脈沖寬度調制,是由定時器通過比較 CNT 與 CCR 寄存器實現的。 信號產生原理: ARR 決定周期&#…

python學習打卡:DAY 21 常見的降維算法

知識點回顧: LDA線性判別PCA主成分分析t-sne降維 還有一些其他的降維方式,也就是最重要的詞向量的加工,我們未來再說 浙大疏錦行

基于SpringBoot和Leaflet集成在線天氣服務的區縣當前天氣WebGIS實戰

目錄 前言 一、需求描述 1、功能需求 2、技術實現流程 二、SpringBoot后臺實現 1、控制層實現 2、區縣數據返回 三、WebGIS前端實現 1、區位信息展示 2、天氣信息展示 四、成果展示 1、魔都上海 2、蜀地成都 3、湖南桂東 五、總結 前言 在當今數字化時…

文心開源:文心大模型4.5系列全面開放,AI普惠時代加速到來

一場由4240億參數模型領銜的開源盛宴,正在重塑中國AI生態的底層邏輯 2025年6月30日,百度如約宣布全面開源其旗艦產品——文心大模型4.5系列。一次性開源10款模型,覆蓋從4240億參數的MoE多模態巨無霸到輕巧的0.3B端側模型,并同步開…

【運算放大器專題】基礎篇

1.1 運算放大器是放大了個寂寞嗎?—初識運算放大器 為了解決震蕩問題,人為加了一些補償網絡之后導致的高頻特性差 1.2歐姆定律和獨立源 1正弦2方波3脈沖 電壓源是平行于i軸的橫線 1.3有伴源和運放緩沖器 有伴指的是有電阻,有伴是壞事&#…

英偉達 jetson nano 從NFS啟動,使用英偉達提供的rootfs根文件系統

0、目標 為了方便驅動階段的開發,并且使用英偉達提供的上層應用,這里希望使jetson nano 從NFS啟動,同時使用英偉達提供的rootfs根文件系統。 1、硬件準備 確保jetson nano 板子和開發主機之間使用網線進行連接(保持板子和開發主…

廣州華銳互動:以創新科技賦能教育,開啟沉浸式學習?

在教育領域,廣州華銳互動致力于打破傳統教學的局限性,為師生們帶來全新的沉浸式學習體驗。廣州華銳互動通過開發 VR 虛擬教學課件,將抽象的知識轉化為生動、逼真的虛擬場景,讓學生能夠身臨其境地感受知識的魅力 。比如在歷史課上&…

Grok 4 最新技術評測與發布指南

TL;DR:馬斯克跳過Grok 3.5直接發布Grok 4,計劃在7月4日后上線,專注編程模型優化,這次"極限迭代"能否讓馬斯克在AI軍備競賽中翻盤? 📋 文章目錄 🚀 Grok 4發布概況🏆 Grok…

為什么音視頻通話需要邊緣加速

? 主要原因 ? 降低傳輸延遲 用戶與邊緣節點之間通常1-2跳即可完成連接,避免跨國、跨運營商長鏈路傳輸 保障音視頻信令、媒體流快速到達,控制端到端延遲 ? 提升弱網環境下的連接穩定性 邊緣節點具備鏈路優化、丟包補償、轉發中繼功能 即使在WiFi切…

小架構step系列05:Springboot三種運行模式

1 概述 前面搭建工程的例子,運行的是一個桌面程序,并不是一個Web程序,在這篇中我們把它改為Web程序,同時從啟動角度看看它們的區別。 2 Web模式 2.1 桌面例子 回顧一下前面的例子,其pom.xml的配置如下:…

LoRaWAN的設備類型有哪幾種?

LoRaWAN(Long Range Wide Area Network)是一種專為物聯網(IoT)設備設計的低功耗、長距離通信協議。它根據設備的功能和功耗需求,將設備分為三種類型:Class A、Class B 和 Class C。每種設備類型都有其獨特的…

三維目標檢測|Iou3D 代碼解讀一

本文對OpenPCDet項目中的iou3d模塊中的iou3d_nms_kernel.cu代碼進行解讀,本次解決的函數是box_overlap,它的輸入是兩個包圍盒,輸出是兩個包圍盒在bev下的重疊面積,計算流程是 確定box_a和box_b的四個角落坐標 從包圍盒中提取坐標值…

探索實現C++ STL容器適配器:優先隊列priority_queue

前引: 在算法競賽中,選手們常常能在0.01秒內分出勝負;在實時交易系統中,毫秒級的延遲可能意味著數百萬的盈虧;在高并發服務器中,每秒需要處理數萬條不同優先級的請求——這些系統背后,都隱藏著同…

一、Dify 私有部署、本地安裝教程(LInux-openeuler)

官網:Dify AI Plans and Pricing 1.找到下載的位置。 2.可以切換文檔為中午文檔。 3.本次安裝使用Docker Compose 安裝,可以大致看一下文檔描述的配置信息要求。 4.各個版本信息,本次下載1.5.1版本,你也可以選擇安裝其他版本。 …

GASVM+PSOSVM+CNN+PSOBPNN+BPNN軸承故障診斷

一、各算法基本原理與技術特點 1. GASVM(遺傳算法優化支持向量機) 原理: 利用遺傳算法(GA)優化SVM的超參數(如懲罰因子 C C C 和核函數參數 g g g)。遺傳算法通過模擬自然選擇機制&#xff…

Python實例練習---魔法方法

(主頁有對應知識點^V^) 【練習要求】 針對知識點Python面向對象的魔法方法安排的本實例。要求實現:用__init__魔法方法定義書的長,寬,高,最后用__str__輸出返回值 【重要步驟提示】 定義class書類 2、使…