華為云Flexus+DeepSeek征文｜體驗華為云ModelArts快速搭建Dify-LLM應用開發平臺并創建聯網大模型

華為云Flexus+DeepSeek征文｜體驗華為云ModelArts快速搭建Dify-LLM應用開發平臺并創建聯網大模型

什么是華為云ModelArts

  • 華為云ModelArts ModelArts是華為云提供的全流程AI開發平臺，覆蓋從數據準備到模型部署的全生命周期管理，幫助企業和開發者高效構建、訓練、部署AI模型，實現智能化升級。

開始接觸華為云ModelArts Studio大模型即服務平臺

  • 訪問官方地址https://www.huaweicloud.com/product/modelarts/studio.html
    在這里插入圖片描述

快速搭建Dify-LLM應用開發平臺

什么是Dify-LLM應用開發平臺

  • Dify-LLM 應用開發平臺是一個基于大型語言模型（LLM）的低代碼/無代碼開發平臺，旨在幫助開發者快速構建、部署和管理基于 AI 的應用程序。它提供了可視化的操作界面和豐富的工具，簡化了從模型調用到應用上線的全流程，適合不同技術背景的用戶使用。

  • 華為云提供了一鍵部署快速搭建Dify平臺的功能，使開發者可以快速搭建生產級的生成式AI應用

  • 快速搭建的方案架構如下
    在這里插入圖片描述

  • 通過VPC與安全組構建安全網絡，用戶經ELB接入CCE部署的Dify服務集群，結合Embedding與reranker增強AI能力，并依托Redis、PostgreSQL、CSS與OBS實現多樣化數據存儲與處理，具備高可用、可擴展特性

開始搭建Dify-LLM應用開發平臺

  • 先進入官網https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html
    在這里插入圖片描述

  • 選擇一鍵部署（云服務器單機部署）
    在這里插入圖片描述

  • 這里不做操作直接下一步
    在這里插入圖片描述

  • 把密碼設置好下一步
    在這里插入圖片描述

  • 繼續下一步
    在這里插入圖片描述

  • 點擊創建執行計劃
    在這里插入圖片描述

  • 可以查看費用，然后點擊部署
    在這里插入圖片描述

  • 可以看到正在按順序部署
    在這里插入圖片描述

  • 等待服務部署完畢，訪問Dify-LLM應用開發平臺
    在這里插入圖片描述

  • 部署完畢，訪問Dify-LLM應用開發平臺
    在這里插入圖片描述

  • 登錄Dify-LLM應用開發平臺
    在這里插入圖片描述

  • 至此搭建Dify-LLM應用開發平臺大功告成，不得不說，華為云一鍵部署Dify平臺真是太方便了，全程不需要怎么操作，全是一鍵搞定

開始搭建聯網大模型

什么是聯網大模型

  • 聯網大模型是具備實時聯網能力的AI，能主動搜索最新資料、調用外部工具（如計算、翻譯、API等），并結合自身知識生成更準確、實時的回答，適用于動態信息查詢（如新聞、股價、科研進展），避免傳統大模型因數據滯后導致的錯誤。
  • 這里聯網工具，我們使用SearXNG。

什么是SearXNG

  • SearXNG 是一款開源的元搜索引擎，它聚合并匿名化地查詢多個搜索引擎（如 Google、Bing、DuckDuckGo 等）的結果，然后進行去重、排序并呈現給用戶。它是 SearX 的分支（Fork），在原有基礎上進行了改進和優化，提供更好的隱私保護和自定義功能。
  • 我們通過dify插件接入SearXNG，實現大模型聯網檢索。

開始搭建SearXNG

  • 打開dify所在的linux服務器，然后創建文件夾mkdir -p /home/docker/searxng，然后進入文件夾
[root@localhost ~]# mkdir -p /home/docker/searxng
[root@localhost ~]# cd /home/docker/searxng
[root@localhost searxng]# ls
[root@localhost searxng]#

docker run --rm \-d -p 8081:8080 \-v "/home/docker/searxng:/etc/searxng" \-e "BASE_URL=http://localhost:8081/" \-e "INSTANCE_NAME=my-instance" \searxng/searxng
  • 然后使用docker啟動searxng， docker run --rm -d -p 8081:8080 -v /home/docker/searxng:/etc/searxng searxng/searxng
[root@localhost searxng]# docker run --rm -d -p 8081:8080 -v /home/docker/searxng:/etc/searxng searxng/searxng
Unable to find image 'searxng/searxng:latest' locally
latest: Pulling from searxng/searxng
280600057b40: Pull complete 
Digest: sha256:8b7cd3f033ae553d94157216d336eb5e8ab2500476e8048504bc7d5ca3bfbb20
Status: Downloaded newer image for searxng/searxng:latest
b45ba114202256c76bd809f68c87b3447ac652c13571aa15bc5748eed7428ce4
  • 然后去配置文件進行配置，清空原本的配置文件，按我的輸入配置
# see https://docs.searxng.org/admin/settings/settings.html#settings-use-default-settings
use_default_settings: true
server:# base_url is defined in the SEARXNG_BASE_URL environment variable, see .env and docker-compose.ymlsecret_key: "6b18c66e1a4b1e778a34784370a54906a090fccca2ad34f627e9aa68c191aeca"limiter: falseimage_proxy: true
ui:static_use_hash: true
redis:url: false
search:formats:- html- json
engines:
# 啟用默認禁用的引擎- name: baiduengine: baidudisabled: false- name: 360searchengine: 360searchdisabled: false- name: sogouengine: sogoudisabled: false- name: bingengine: bingdisabled: false- name: bilibiliengine: bilibilidisabled: false# 禁用默認啟用的引擎- name: archlinuxwikiengine: archlinuxdisabled: true- name: duckduckgoengine: duckduckgodistabled: true- name: githubengine: githubshortcut: ghdisabled: true- name: wikipediaengine: wikipediadisabled: true- name: googleengine: googledisabled: true- name: youtubeengine: youtube_noapidisabled: true- name: duckduckgoengine: duckduckgodisabled: true- name: qwantengine: qwantdisabled: true- name: braveengine: bravedisabled: true- name: startpageengine: startpagedisabled: true

  • 然后重啟容器，打開網頁，點擊左上角的設置
    在這里插入圖片描述

  • 然后配置中文與baidu
    在這里插入圖片描述

  • 然后點擊保存，進行測試，搜索華為云
    在這里插入圖片描述

  • 這樣SearXNG就部署完畢了

dify平臺接入SearXNG

  • 首先登錄dify，點擊工具，搜索SearXNG進行安裝
    在這里插入圖片描述

  • 然后點擊插件，看到SearXNG安裝完畢后，進行配置
    在這里插入圖片描述

  • 點擊去授權
    在這里插入圖片描述

  • 然后輸入剛才部署的SearXNG的地址，點擊保存
    在這里插入圖片描述

  • 這樣SearXNG就接入dify了

開始部署聯網大模型

  • 創建一個聯網大模型的agent
    在這里插入圖片描述

  • 然后我們需要調用華為云的DeepSeek-V3-32K模型作為基底大模型

  • 安裝dify中的大模型插件，OpenAI-API-compatible
    在這里插入圖片描述

  • 等待安裝完成
    在這里插入圖片描述

  • 設置大模型
    在這里插入圖片描述

  • 密鑰從華為云中獲取
    在這里插入圖片描述

  • 進入api-key管理，創建自己的key，用于調用大模型
    在這里插入圖片描述

  • 回來繼續配置key，注意接口地址是https://api.modelarts-maas.com/v1
    在這里插入圖片描述

  • 這樣大模型就配置完畢了

  • 然后配置提示詞

# 智能搜索與分析助手## 🛠? 核心技能### 1. 聯網搜索（searxng_search）
**觸發條件**  
? 需要實時信息  
? 本地知識不足  
? 用戶明確要求  **執行規范**  
- 關鍵詞處理：  🔹 嚴格保持用戶原始提問用語（中/英文不變）  🔹 長問題自動提取核心名詞短語  
- 結果處理：  │→ 首輪：獲取Top 3結果  │→ 次輪（無相關時）：擴展至Top 5  └→ 仍無結果：返回`NO_VALID_DATA`  ### 2. 智能分析（webscraper）
**處理流程**  
```mermaid
graph TDA[原始結果] --> B{可信度評估}B -->|高| C[提取正文]B -->|低| D[丟棄]C --> E[去廣告/格式化]E --> F[生成結構化摘要]【結論】  
? 核心事實點1  
? 核心事實點2  【元信息】  
來源：example.com  
時效：2024-03-15  
可信評級：???????

在這里插入圖片描述

  • 然后去工具配置插件，searxng_search，webscraper
    在這里插入圖片描述

  • 然后點擊發布，在預覽看一下效果
    在這里插入圖片描述

  • 然后點擊運行去網頁測試
    在這里插入圖片描述

  • 可以看到調用了searxng進行聯網檢索

  • 至此聯網大模型就搭建完成了

歡迎大家一起加入華為云

在這里插入圖片描述

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/bicheng/84732.shtml
繁體地址，請注明出處：http://hk.pswp.cn/bicheng/84732.shtml
英文地址，請注明出處：http://en.pswp.cn/bicheng/84732.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！

相關文章

Web API 路徑設計哪家強

Web API 路徑設計哪家強

本文檔主要比較一下各家API的URL路徑設計，通過學習各家API的URL路徑設計，加深對 REST API 的理解，幫助我們設計出更符合 REST 風格的 API。 Google API 文檔地址：https://developers.google.com/apis-explorer/#p/ YouTube Dat…
閱讀更多...
微信小程序中的計算屬性庫-miniprogram-computed

微信小程序中的計算屬性庫-miniprogram-computed

miniprogram-computed 是一個用于微信小程序的擴展庫，它提供了計算屬性（computed）和監聽器（watch）的功能，類似于 Vue.js 中的計算屬性和監聽器。以下是使用 miniprogram-computed 的詳細步驟： …
閱讀更多...
【CSS-7】深入解析CSS偽類：從基礎到高級應用

【CSS-7】深入解析CSS偽類：從基礎到高級應用

CSS偽類是前端開發中不可或缺的強大工具，它們允許我們根據文檔樹之外的信息或簡單選擇器無法表達的狀態來樣式化元素。本文將全面探討CSS偽類的各種類型、使用場景和最佳實踐。 1. 偽類基礎概念 1.1 什么是偽類？ 偽類（Pseudo-class&#x…
閱讀更多...
藍橋杯國賽訓練 day4

藍橋杯國賽訓練 day4

目錄 再創新高 藍橋大使 表演賽 次數差 再創新高 import java.math.*; import java.util.*;public class Main {static Scanner sc new Scanner(System.in);public static void main(String[] args) {int t 1; // tsc.nextInt();for(int i0;i<t;i) {solve();}} p…
閱讀更多...
java 高并發設計

java 高并發設計

文章目錄 目錄 文章目錄 前言 一、通用設計 一、動靜分離 二、數據庫獨立部署 三、問題 1.高并發通用設計方法 2.高并發系統的拆分順序 二、計算資源高并發 三、網絡資源高并發 超高性能場景&#xff08;10萬 QPS&#xff09; 中小規模場景&#xff08;5萬 QPS以下&a…
閱讀更多...
docker compose搭建elk 8.6.2

docker compose搭建elk 8.6.2

環境搭建 選用版本是比較新的版本 (ELK) 8.6.2 &#xff0c;elk的環境做的還是比較好的又windows和Linux多個版本&#xff0c;并且開箱即用。本地直接下載官方軟件也是可以的。最近在學習docker compose&#xff0c;就使用這個環境搭建一下。 前置條件 安裝好docker和 docke…
閱讀更多...
Springboot3+的id字符串轉化問題

Springboot3+的id字符串轉化問題

以下是純后端實現 Long/BigInteger ID 轉為 JSON 字符串 的詳細配置方案&#xff0c;基于 Spring Boot 3 和 SpringDoc (OpenAPI) 最新實踐 ? 1. 添加依賴 確保你的 pom.xml&#xff08;或 Gradle&#xff09;中包含&#xff1a; <dependency><groupId>com.fast…
閱讀更多...
C#學習第30天： 匹配模式

C#學習第30天： 匹配模式

模式匹配&#xff08;Pattern Matching&#xff09;是 C# 中一個強大且靈活的特性&#xff0c;允許開發者以更直觀的方式檢查數據結構&#xff0c;并根據特定模式執行操作。 隨著 C# 語言版本的發展&#xff0c;模式匹配的功能越來越豐富&#xff0c;為處理復雜數據提供了極大…
閱讀更多...
SQL進階之旅 Day 29：NoSQL結合使用策略

SQL進階之旅 Day 29：NoSQL結合使用策略

【SQL進階之旅 Day 29】NoSQL結合使用策略 文章簡述 隨著數據量的激增和業務場景的復雜化&#xff0c;傳統關系型數據庫在某些場景下已難以滿足高性能、高擴展性和靈活數據結構的需求。NoSQL&#xff08;非關系型數據庫&#xff09;以其高可擴展性、靈活的數據模型和分布式架構…
閱讀更多...
PostgreSQL 對 IPv6 的支持情況

PostgreSQL 對 IPv6 的支持情況

PostgreSQL 對 IPv6 的支持情況 PostgreSQL 全面支持 IPv6 網絡協議&#xff0c;包括連接、存儲和操作 IPv6 地址。以下是詳細說明&#xff1a; 一、網絡連接支持 1. 監聽 IPv6 連接 在 postgresql.conf 中配置&#xff1a; listen_addresses 0.0.0.0,:: # 監聽所有IPv4…
閱讀更多...
模板字符串使用點擊事件【VUE3】

模板字符串使用點擊事件【VUE3】

項目場景&#xff1a; 提示&#xff1a;這里簡述項目相關背景&#xff1a; 項目中使用模板字符串的時候很多&#xff0c;有些時候需要再模板字符串中使用點擊事件&#xff0c;那么在模板字符串中可以使用點擊事件么&#xff1f;如果這個點擊事件需要傳參呢&#xff1f; 答案…
閱讀更多...
AI——DeepSeek+LangChain+streamlit 實現智能汽車維修服務

AI——DeepSeek+LangChain+streamlit 實現智能汽車維修服務

效果圖 分析流程 代碼實現 廢話少說&#xff0c;直接上代碼 from langchain_core.language_models.llms import BaseLLM from langchain_core.outputs import Generation, LLMResult from pydantic.v1 import Field, validator from typing import Any, Dict, List, Optional…
閱讀更多...
《C++ 繼承》

《C++ 繼承》

目錄 繼承的定義 繼承類模板 派生類和基類之前的轉換 隱藏 派生類的默認成員函數 不能被繼承的類 繼承中的友元和靜態成員 繼承模型 繼承的定義 繼承的本質是一種復用。規定Person類為基類&#xff0c;Student類為派生類 。 繼承方式分為public繼承&#xff0c;prote…
閱讀更多...
金蝶K3 ERP 跨網段訪問服務器卡頓問題排查和解決方法

金蝶K3 ERP 跨網段訪問服務器卡頓問題排查和解決方法

我一朋友公司反應&#xff0c;公司網絡卡頓&#xff0c;測試掉包嚴重&#xff0c;抓包wireshark測試&#xff0c;發現arp包有大量mac欺騙&#xff0c;因為公司有幾百臺電腦&#xff0c;所以建議更換了三層交換機&#xff0c;劃分了vlan&#xff0c;這樣有效的避免了網絡風暴等&…
閱讀更多...
無需安裝！在線數據庫工具 ：實戰 SQL 語句經典案例

無需安裝！在線數據庫工具 ：實戰 SQL 語句經典案例

在數字化時代&#xff0c;SQL&#xff08;結構化查詢語言&#xff09;已成為數據從業者、開發人員乃至業務分析人員必備的核心技能。無論是處理日常數據報表&#xff0c;還是應對復雜的業務邏輯&#xff0c;SQL 都能高效實現數據的查詢、操作與分析。本文將通過經典的 SQL 練習…
閱讀更多...
如何在網頁里填寫 PDF下拉框

如何在網頁里填寫 PDF下拉框

對于PDF 開發者或網頁開發者來說&#xff0c;讓用戶在網站上填寫 PDF 下拉框&#xff08;Combo Box&#xff09;是一個棘手的問題。因為 PDF 并不是一種原生的 Web 格式&#xff0c;瀏覽器通常不允許用戶與 PDF 下拉框進行交互。 那么&#xff0c;如何讓用戶在 HTML 中填寫 PD…
閱讀更多...
.Net 優秀框架 ABP全面詳解

.Net 優秀框架 ABP全面詳解

文章目錄 第一部分&#xff1a;ABP框架概述與核心架構1.1 ABP框架簡介1.2 ABP框架架構解析1.2.1 表現層(Presentation Layer)1.2.2 分布式服務層(Distributed Service Layer)1.2.3 應用層(Application Layer)1.2.4 領域層(Domain Layer)1.2.5 基礎設施層(Infrastructure Layer)…
閱讀更多...
力扣-198.打家劫舍

力扣-198.打家劫舍

題目描述 你是一個專業的小偷&#xff0c;計劃偷竊沿街的房屋。每間房內都藏有一定的現金&#xff0c;影響你偷竊的唯一制約因素就是相鄰的房屋裝有相互連通的防盜系統&#xff0c;如果兩間相鄰的房屋在同一晚上被小偷闖入&#xff0c;系統會自動報警。 給定一個代表每個房屋…
閱讀更多...
windows 安裝vllm cuda版本

windows 安裝vllm cuda版本

windows 安裝cuda版本 查看window cuda版本 nvidia-smi vllm 獲取鏡像,此版本需要cuda 版本12.8 或以上 docker pull vllm/vllm-openai:latest下載模型 git lfs installcd e:\ai mkdir vllm\models\qwen2cd vllm\models#通過git下載git clone https://www.modelscope.c…
閱讀更多...
Node.js特訓專欄-基礎篇：1. Node.js環境搭建與項目初始化詳細指南

Node.js特訓專欄-基礎篇：1. Node.js環境搭建與項目初始化詳細指南

我將為你詳細講解 Node.js 環境搭建與項目初始化的步驟&#xff0c;包含常見問題解決和最佳實踐&#xff0c;幫助你快速上手。 詳細步驟說明 1. 環境搭建 Windows用戶&#xff1a; 訪問Node.js官網(https://nodejs.org)下載LTS版本安裝包&#xff08;推薦長期支持版&#xf…
閱讀更多...
最新文章

Copyright @ 2022~2023