華為云 Flexus+DeepSeek 征文｜搭建部署Dify-LLM推理引擎，賦能AI Agent智能體實現動態聯網搜索能力

華為云 Flexus 云服務器 X 實例專門為 AI 應用場景設計。它提供了強大的計算能力，能夠滿足 DeepSeek 模型以及后續搭建 AI Agent 智能體過程中對于數據處理和模型運行的高要求。在網絡方面，具備高速穩定的網絡帶寬，這對于需要頻繁聯網搜索信息的 AI Agent 智能體至關重要，能確保快速獲取網絡數據。并且其具備良好的擴展性，當我們后續需要對智能體進行功能擴展或者處理更大規模數據時，可以方便地進行資源調整。同時，在成本控制上，Flexus 云服務器 X 實例提供了按需和包月等多種計費方式，適合不同規模和預算的開發者與企業。
在這里插入圖片描述

在這里插入圖片描述

graph TDA[User Agent] --> B[Dify API Server]B --> C[LLM Inference Engine]C --> D[Search Plugin]D --> E[Google/Bing API]C --> F[Knowledge Base]

安裝搭建步驟

步驟一：準備華為云 Flexus 云服務器 X 實例

1.1 登錄華為云官網，在云服務器產品頁面中選擇 Flexus 云服務器 X 實例。

1.2 根據實際需求選擇合適的配置，包括 CPU、內存、存儲等。如果預計處理大量數據和復雜任務，建議選擇較高配置以確保運行流暢。

1.3 選擇操作系統，如 Ubuntu 20.04 等，因為其對后續軟件安裝和配置的兼容性較好。

1.4 完成配置選擇后，點擊創建實例，按照提示完成支付等流程。等待實例創建完成，獲取服務器的公網 IP 地址、用戶名和初始密碼。

步驟二：在 Flexus 云服務器上部署 DeepSeek 模型

2.1 使用 SSH 工具，輸入服務器的公網 IP 地址、用戶名和密碼，登錄到 Flexus 云服務器。例如，在 Linux 系統下，可以在終端中執行命令ssh username@server_ip，然后輸入密碼即可登錄。

在這里插入圖片描述

2.2 安裝必要的依賴軟件
根據 DeepSeek 模型的運行要求，安裝相應的依賴軟件。這可能包括 Python 環境（建議 Python 3.8 及以上版本）、CUDA（如果服務器配備 GPU 且模型支持 GPU 加速）、cuDNN 等。例如，安裝 Python 3.8 可以通過以下命令：

sudo apt update
sudo apt install software - properties - common
sudo add - apt - repository ppa:deadsnakes/ppa
sudo apt install python3.8

2.3 下載 DeepSeek 模型
從 DeepSeek 官方網站或者其指定的開源代碼托管平臺（如 GitHub）下載 DeepSeek 模型的相關文件。確保下載的模型版本與服務器環境和后續使用需求相匹配。下載完成后，將模型文件解壓到合適的目錄，例如/home/user/deepseek_model。

# For Base Model
git lfs install
git clone https://huggingface.co/deepseek-ai/DeepSeek-V3-Base

# For Chat Model
git lfs install
git clone https://huggingface.co/deepseek-ai/DeepSeek-V3

在這里插入圖片描述

2.4 配置 DeepSeek 模型
進入模型解壓目錄，根據模型提供的配置文件模板，創建并編輯配置文件。配置文件中需要設置模型運行的相關參數，如模型權重文件路徑、輸入輸出格式、是否啟用 GPU 加速等。例如，如果使用 GPU 加速，需要在配置文件中正確設置 CUDA 相關參數：

{"use_gpu": true,"cuda_device": 0,"model_path": "/home/user/deepseek_model/model_weights.bin"
}

在這里插入圖片描述

步驟三：獲取API Key

打開瀏覽器，訪問博查 AI 搜索的官方網站open.bochaai.com。
在網站首頁，使用微信掃碼進行登錄。如果沒有賬號，按照提示進行注冊。
登錄成功后，點擊右上角的 “AP KEY 管理”。
在 AP KEY 管理頁面中，點擊創建 API KEY。創建成功后，復制生成的 API KEY，后續在配置 AI Agent 智能體聯網搜索功能時會用到。

在這里插入圖片描述

步驟四：搭建 AI Agent 智能體聯網搜索功能

在這里插入圖片描述

安裝相關框架和庫
在 Flexus 云服務器上，使用 pip 安裝搭建 AI Agent 智能體所需的框架和庫，如 LangChain 等。LangChain 是一個用于開發由語言模型驅動的應用程序的框架，它提供了豐富的工具和接口來連接大模型與各種外部工具，包括 Web Search API。安裝命令如下：

pip install langchain

編寫代碼實現聯網搜索功能
使用 Python 編寫代碼，利用 LangChain 框架將 DeepSeek 模型與博查 Web Search API 進行集成：

在這里插入圖片描述

from langchain.llms import CustomLLM
from langchain.tools import BaseTool, StructuredTool, Tool, tool
from langchain.agents import initialize_agent, AgentType
import requests# 自定義DeepSeek模型調用類
class DeepSeekLLM(CustomLLM):def _call(self, prompt, stop = None):# 實現調用DeepSeek模型的邏輯，根據模型的API進行請求發送和結果獲取response = requests.post('http://deepseek_model_api_url', json = {'prompt': prompt})return response.json()['answer']@propertydef _identifying_params(self):return {}@propertydef _llm_type(self):return "deepseek"# 定義博查Web Search API工具
@tool
def web_search(query):api_key = "your_api_key"url = "https://api.bochaai.com/web_search"headers = {"Authorization": f"Bearer {api_key}","Content - Type": "application/json"}data = {"query": query}response = requests.post(url, headers = headers, json = data)if response.status_code == 200:return response.json()else:return "Web search error"# 初始化DeepSeek模型實例
deepseek_llm = DeepSeekLLM()# 初始化智能體
tools = [web_search]
agent = initialize_agent(tools, deepseek_llm, agent = AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose = True)# 測試智能體
result = agent.run("最近有什么重大的科技新聞")
print(result)

在上述代碼中，首先自定義了DeepSeekLLM類來調用 DeepSeek 模型，然后定義了web_search工具來調用博查 Web Search API 進行聯網搜索，最后使用initialize_agent函數初始化智能體，并將 DeepSeek 模型和聯網搜索工具整合在一起。運行代碼時，將your_api_key替換為實際獲取的博查 Web Search API Key，并根據 DeepSeek 模型的實際 API 地址修改http://deepseek_model_api_url。

步驟五：測試與優化

功能測試
在代碼中設置不同的查詢問題，如 “最近的人工智能研究進展”“當前熱門的科技產品有哪些” 等，運行代碼后觀察智能體的回答。檢查回答是否準確地包含了通過聯網搜索獲取的最新信息，并且回答的邏輯和內容是否合理。

測試項	純LLM響應	聯網增強響應
實時股價查詢	? 無法獲取	? 準確結果
最新賽事比分	? 過時信息	? 實時更新

性能優化
如果在測試過程中發現智能體的響應速度較慢，可以從以下幾個方面進行優化：
檢查服務器資源使用情況，確保服務器有足夠的 CPU、內存和網絡帶寬。如果資源不足，可以考慮升級服務器配置或者優化代碼中的資源使用方式。
優化博查 Web Search API 的調用參數，例如調整搜索結果的數量、設置合理的搜索時間范圍等，以減少不必要的數據獲取，提高搜索效率。
對 DeepSeek 模型的配置進行微調，例如調整模型的緩存策略、優化模型的計算資源分配等，以加快模型的推理速度。
錯誤處理優化
檢查代碼中的錯誤處理機制是否完善。例如，當博查 Web Search API 調用失敗時，智能體是否能夠給出合理的提示信息，而不是返回錯誤代碼或者崩潰。完善錯誤處理代碼，確保智能體在面對各種異常情況時都能穩定運行，并給用戶提供友好的反饋。

結尾

通過以上步驟，我們成功地使用華為云 Flexus+DeepSeek搭建了具備聯網搜索能力的 AI Agent 智能體，能夠為用戶提供更全面、及時的信息服務。在實際應用中，可以根據具體需求進一步擴展和優化智能體的功能。

本文聯網搜索使用的是開源免費的searxng
github項目開源地址 https://github.com/searxng/searxng

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/bicheng/84630.shtml
繁體地址，請注明出處：http://hk.pswp.cn/bicheng/84630.shtml
英文地址，請注明出處：http://en.pswp.cn/bicheng/84630.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！