華為云Flexus+DeepSeek征文 | 從零開始搭建Dify-LLM應用開發平臺:華為云全流程單機部署實戰教程
- 前言
- 一、華為云Dify-LLM平臺介紹
- 1. Dify-LLM解決方案簡介
- 2. Dify-LLM解決方案地址
- 3. Dify-LLM單機架構介紹
- 4. 預估成本說明
- 二、華為云Maas平臺介紹
- 1. 華為云ModelArts Studio簡介
- 2. 華為云ModelArts Studio主要特點
- 3. 華為云ModelArts Studio主要使用場景
- 三、ModelArts Studio平臺開通DeepSeek商用服務
- 1. 進入ModelArts Studio控制臺
- 2. 開通DeepSeek商用服務
- 3. 調用說明介紹
- 4. 保存API信息
- 四、快速單機部署Dify-LLM平臺
- 1. 賬號余額充值
- 2. 社區單機版一鍵部署
- 3. 創建資源棧
- 4. 執行部署任務
- 5. 檢查部署結果
- 五、訪問Dify-LLM應用開發平臺
- 六、Dify-LLM的基本設置
- 七、創建聊天助手
- 1. 創建聊天助手
- 2. 調試與預覽
- 3. 發布與測試
- 八、清空云資源
- 九、總結
前言
在AI技術蓬勃發展的浪潮中,Dify-LLM應用開發平臺為開發者帶來了無限可能。而華為云憑借強大的技術實力與完善的服務體系,成為了高效搭建該平臺的理想之選。本文將從零開始,為你呈現華為云全流程單機部署Dify-LLM應用開發平臺的實戰教程,助你輕松開啟AI應用開發之旅。
一、華為云Dify-LLM平臺介紹
1. Dify-LLM解決方案簡介
本解決方案旨在幫助用戶在 華為云 上快速部署 Dify-LLM 應用開發平臺 的單機版本和高可用版本。Dify 是一個開源的大語言模型(LLM)應用開發平臺,融合了后端即服務(Backend as Service)與 LLMOps 的理念,支持開發者高效構建生產級生成式 AI 應用。
通過本方案,您可以輕松完成 Dify 平臺的部署,并將創建的知識庫掛載至 華為云對象存儲服務(OBS)桶,實現知識數據的統一管理與持久化存儲,適用于從個人學習到企業試點項目的多種場景。
2. Dify-LLM解決方案地址
- 華為云官網地址:https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html
3. Dify-LLM單機架構介紹
社區版單機部署適用于測試、演示及輕量級使用場景,具備快速搭建、低成本的優勢。其核心架構如下:
- Flexus 云服務器 X 實例(FlexusX):作為運行 Dify-LLM 平臺的主節點,提供計算資源與運行環境。
- 彈性公網 IP(EIP):綁定 FlexusX 實例,實現與公網互通,便于遠程訪問與調試。
- 安全組配置:設置安全組規則,保障云服務器的網絡安全,僅開放必要的訪問端口。
- OBS 對象存儲服務(可選):用于掛載 Dify 創建的知識庫文件,實現數據的集中管理與長期保存。
4. 預估成本說明
以下為單機部署模式下的大致費用估算(按需計費):
資源類型 | 單價(人民幣) | 使用說明 | 預估成本(體驗期間) |
---|---|---|---|
Flexus 云服務器 X 實例 | 0.95 元/小時 | 按小時計費,運行 Dify 平臺 | 約 2~3 元 |
彈性公網 IP(EIP) | 0.80 元/GB/小時 | 流量按 GB 計費 | 約 1~2 元 |
總計 | — | — | 不超過 5 元 |
?? 預計耗時:部署約 20 分鐘,卸載約 10 分鐘
📅 更新日期:2025年6月
🧑?💻 來源:由華為云官方構建并維護
二、華為云Maas平臺介紹
1. 華為云ModelArts Studio簡介
華為云ModelArts Studio 是基于 ModelArts 打造的大模型即服務(MaaS)平臺,提供一站式的大模型開發、部署與管理能力。它支持從模型定制、推理到工作流編排的全流程應用構建,幫助企業快速實現智能化升級。憑借簡單易用的工具鏈和強大的AI工程化支持,ModelArts Studio 顯著降低了大模型應用門檻,助力企業高效落地AI能力。
華為云ModelArts Studio平臺官方地址
:https://www.huaweicloud.com/product/modelarts/studio.html
2. 華為云ModelArts Studio主要特點
- 模型全面:集成Llama、Baichuan、Yi、Qwen、DeepSeek等主流開源大模型,并基于昇騰AI云服務進行性能與精度優化。
- 免配置、免調優:提供一鍵式訓練、自動超參調優功能,降低模型開發門檻,顯著縮短開發周期。
- 性能優異:通過昇騰算子優化與顯存管理,實現大模型訓練與推理性能大幅提升。
- 資源靈活易獲取:支持按需開通、彈性擴縮容,保障高性價比的算力使用,同時支持斷點續訓與故障恢復。
- 一站式工具鏈:涵蓋模型調優、壓縮、評測、部署等全生命周期工具,開箱即用,低門檻上手。
- 多組件集成能力強:支持LangChain、RAG、Agent、Guard等多種AI組件即插即用,快速構建復雜AI應用系統。
3. 華為云ModelArts Studio主要使用場景
- 智能問答系統:基于預訓練大模型快速構建知識庫驅動的問答系統,提升信息檢索效率。
- 企業級AI助手開發:利用平臺提供的Prompt模板和智能Agent能力,打造能理解任務并自主決策的企業AI助手。
- 個性化內容生成:適用于新聞撰寫、營銷文案、客服回復等內容創作類任務,提升內容生產效率。
- 多模態AI應用構建:結合圖像、語音、文本等多模態數據,開發智能客服、虛擬主播等綜合型AI產品。
三、ModelArts Studio平臺開通DeepSeek商用服務
1. 進入ModelArts Studio控制臺
訪問華為云官網并點擊“ModelArts Studio控制臺”后,即可直接進入ModelArts Studio控制臺,開啟我們的AI開發與管理之旅。
2. 開通DeepSeek商用服務
在ModelArts Studio控制臺首頁左側菜單欄中,選擇 模型推理 > 在線推理,然后依次選中所需的商用服務模型 —— DeepSeek-R1-0528、DeepSeek-V3-32K 或 DeepSeek-R1-32K,點擊“開通服務”即可完成配置。
3. 調用說明介紹
進入 DeepSeek-R1-32K-0528 的調用說明詳情頁,可以看到提供了 REST API 和 Open SDK 兩種調用方式。REST API 是基于 HTTP 協議的標準化接口,開發者通過發送 HTTP 請求(如 GET、POST)即可實現與模型的交互,具有良好的跨平臺性和靈活性,適合希望自定義請求內容和控制流程的開發者。而 Open SDK 則是封裝好的軟件開發工具包,通常支持多種編程語言,將底層通信細節透明化,開發者只需調用簡單的函數或方法即可完成調用,大大降低了集成難度,提升了開發效率。兩者各有優勢,開發者可根據項目需求和技術偏好選擇合適的接入方式。
4. 保存API信息
我們以DeepSeek-V3-32K商用服務為例,點擊【調用說明】,查看其OpenAI SDK信息。
將OpenAI SDK信息的接口信息保存在本地,如下所示:
在 API Key 管理頁面中,點擊【創建 API Key】按鈕,生成所需的 API 密鑰。創建完成后,將生成的 API Key 與 OpenAI SDK 的接口信息一并保存,以便后續調用和配置使用。
四、快速單機部署Dify-LLM平臺
1. 賬號余額充值
-
為確保測試過程順利進行,避免因賬戶余額不足導致部署中斷或失敗,請提前確認自己的華為云賬戶余額不低于 10 元。
-
華為云充值頁面:https://account.huaweicloud.com/usercenter/?region=cn-north-4&locale=zh-cn#/userindex/allview
2. 社區單機版一鍵部署
🔧 相關資源與部署方式
-
華為云解決方案實踐:
快速搭建 Dify-LLM 應用開發平臺 -
部署方式選擇:
點擊進入部署頁面,選擇 「一鍵部署(社區版單機部署)」 方式,開始快速搭建 Dify-LLM 應用開發環境。
3. 創建資源棧
在模板選擇步驟中,保持默認配置即可。我們選擇現有的模板類型,并將模板來源設置為“URL”,隨后在輸入框中填入指定地址,作為模板的加載路徑。
在參數配置步驟中,需設置 ecs_password
的值,該字段用于指定華為云 Flexus X 實例服務器的登錄密碼。其余參數可保持默認配置,確認無誤后點擊“下一步”。
在資源棧設置步驟中,若不手動配置權限委托,系統將默認使用當前賬號的權限完成部署。本次測試采用主賬號操作,因此可直接保留默認配置,點擊【下一步】繼續。同時,建議開啟回滾機制,以便在部署失敗時能夠自動回退,保障環境穩定與操作安全。
配置確認:完成參數設置后,對配置內容進行檢查,確認無誤后生成執行計劃,準備部署操作。
4. 執行部署任務
在剛剛創建的執行計劃中,點擊【部署】選項,確認啟動部署流程。這樣即可開始執行已設定的部署計劃。
確認執行后,資源棧將按照計劃進行更新,并自動開通模板中定義的各項資源。根據資源的使用情況,可能會產生相應的費用。請確保賬戶余額充足以避免部署中斷。
5. 檢查部署結果
在部署環節,系統將自動觸發多元云資源的創建流程,像計算實例、存儲集群以及網絡鏈路等組件都會依次生成。由于各類資源的初始化配置存在耗時差異(具體時間受云服務商底層架構和資源規格影響),建議保持耐心等候。
當事件日志界面顯示【Apply required resource success】提示時,意味著:
- 全量必要云資源已完成創建并通過一致性校驗
- 平臺微服務架構部署完畢,核心模塊進入可運行狀態
- 可開始進行模型接入配置、用戶權限初始化等后續操作
注意:若超過常規部署時間(通常5 - 15分鐘左右)仍未出現該提示,可按以下步驟排查:
- 核實云賬號是否具備資源創建的管理員權限
- 檢查控制臺錯誤日志,重點關注網絡連接超時、資源配額不足等異常類型
- 聯系技術支持團隊并提供部署環境日志編號以便快速定位問題
五、訪問Dify-LLM應用開發平臺
在執行計劃的輸出結果中,會顯示 Dify-LLM 平臺的訪問地址。通過這個地址,我們可以直接訪問并開始使用新部署的平臺。
在瀏覽器中打開 Dify 平臺地址后,進入注冊頁面并設置賬號密碼即可完成注冊。若頁面無法加載,請檢查華為云 Flexus X 實例的安全組配置,確認 80 端口是否已開放訪問權限。
進入Dify 登錄頁面后,輸入之前注冊的賬號和密碼進行登錄。確認信息無誤后,點擊登錄按鈕即可成功進入平臺。
成功登錄賬號密碼后,將跳轉至 Dify 的首頁界面。此時可以看到平臺的主功能區域和操作入口,表示已成功進入 Dify 應用環境。
六、Dify-LLM的基本設置
在賬戶設置區域,點擊下方的“設置”選項,進入系統配置界面。在模型供應商列表中,選擇 OpenAI-API-compatible
并點擊進行安裝配置。
在剛剛添加的 OpenAI-API-compatible 模型供應商頁面中,點擊【添加模型】按鈕。進入模型配置界面,開始設置所需的模型參數。
在模型配置界面中,可參考以下信息填寫各項參數:
- 模型類型:LLM
- 模型名稱:DeepSeek-V3
- 模型顯示名稱:DeepSeek-V3
- API Key:填寫此前創建并保存的 API Key
- API Endpoint URL:
https://api.modelarts-maas.com/v1
確認信息填寫無誤后,其余選項保持默認設置,點擊【保存】完成配置。
七、創建聊天助手
1. 創建聊天助手
返回Dify首頁后,我們點擊“創建空白應用”開始新建一個應用。
🧩 空白應用配置參考
在創建空白應用后,可參考以下配置進行設置:
-
應用類型:選擇「聊天助手」
-
應用名稱:華為云客服小助手 💼
-
應用描述:
華為云客服小助手是一款基于大語言模型(LLM)構建的智能對話機器人。通過簡單配置,即可快速搭建一個能夠理解用戶問題并提供即時響應的對話系統。適用于客戶服務場景,如解答常見問題、技術支持、客戶咨詢等,助力企業提升服務效率與用戶體驗,充分發揮華為云 AI 技術與算力優勢。
-
操作步驟:
完成配置信息填寫后,點擊【創建】按鈕,即可生成您的專屬智能客服助手。
2. 調試與預覽
調試與預覽界面中,我們提示詞可以參考以下:
### 🧾 華為云客服小助手 —— 提示詞(Prompt)**角色設定:**你是一個專業的 **華為云客服智能助手**,負責幫助用戶解答關于華為云產品與服務的問題。你需要始終保持禮貌、專業、簡潔,并基于提供的知識庫內容進行回答,避免編造信息或提供不確定的答案。**核心職責:**- 回答用戶關于華為云產品功能、使用方法、計費方式等問題
- 提供常見問題的解決方案
- 引導用戶前往相關頁面或聯系人工客服處理復雜問題
- 保持語氣友好、清晰,符合企業級客服形象 **行為規范:**- 使用中文進行交流,語句通順、表達清晰
- 對于不確定的問題,應如實告知用戶“我目前無法提供確切答案,請您聯系人工客服或訪問華為云官網獲取更多信息”
- 不得虛構數據或功能,回答需基于實際華為云產品文檔
- 遇到投訴或緊急問題時,引導用戶撥打官方客服熱線或提交工單 **歡迎語示例:**> 您好,我是華為云客服小助手,很高興為您服務!您可以向我咨詢關于華為云產品、賬戶、計費、使用指南等相關問題。如果我的回答無法滿足您的需求,也可以為您轉接人工客服。**示例問答引導:**- “如何注冊華為云賬號?”
- “華為云服務器的計費方式有哪些?”
- “如何重置云服務器密碼?”
- “如何開通對象存儲服務OBS?”
- “遇到支付問題該怎么辦?”
在對話框中進行簡單提問,例如“你是誰?”時,華為云客服小助手能夠正常回答并進行自我介紹,這表明 AI 流程配置已成功完成。
3. 發布與測試
在“發布”頁面中,點擊“在探索中打開”,即可進入該 AI 助手的獨立對話界面,開始與其進行交互。
在華為云客服小助手的獨立對話頁面中,我們嘗試咨詢了多個與華為云相關的問題,小助手均能快速、準確地給出詳細解答。其專業的回復內容對學習和理解華為云產品具有顯著幫助,同時有效提升了我們的工作效率。
八、清空云資源
完成實踐操作后,建議及時清理臨時開通的云資源,以避免不必要的持續計費。可在資源棧列表中找到對應條目,進行批量刪除操作。通過一鍵刪除所有相關資源,確保環境整潔并有效控制成本。
九、總結
在本次華為云全流程單機部署Dify-LLM應用開發平臺的實戰中,華為云展現出了非凡的實力與優勢。從部署流程來看,其簡潔高效的一鍵式操作,極大降低了開發門檻,即便是新手開發者也能快速上手,輕松搭建起屬于自己的開發平臺,大大縮短了開發周期,提高了開發效率。
華為云Flexus云服務器X實例更是為整個部署過程注入了強大動力。它依托先進的擎天QingTian架構與瑤光云腦技術,實現了卓越的算力提升,為復雜的AI應用開發提供了堅實保障;創新的X-Turbo加速技術,顯著優化了關鍵業務應用的性能,讓開發者在使用過程中感受到流暢與高效;靈活的算力定制模式,有效降低了成本,幫助開發者以更低的投入獲取更高的收益;旗艦級別的可靠性,全方位守護業務穩定運行與數據安全,讓開發者無需擔憂后顧之憂。華為云,正以其出色的產品與服務,引領著開發者在AI應用開發的道路上穩步前行。