如何來評價本地化部署的價值與優勢分析:
成本優化與隱私保障
自定義搜索插件,告別信息過載
一鍵生成報告、分析,效率翻倍!
接下來我們就嘗試跟隨來部署本地的價值所在!
1:安裝Ollama & 部署QwQ模型
1.1 安裝Ollama
去官網ollama.com下載windows版,一路next就好。
1.2 拉取QwQ模型(通義千問官方推理模型)
在windows命令行輸入ollama run qwq。
ollama run QwQ
QwQ是32B參數的,顯存16G以上應該可以流暢運行。
當然也可以安裝最新的Qwen3,它有很多不同參數版本,可以找到適合自己電腦配置的版本安裝。
1.3安裝Docker容器
本地部署Dify要先安裝Docker桌面版,跟Ollama一樣簡單,也是去官網下載對應版本文件,直接安裝就OK。
1.4安裝Dify
安裝 Dify 簡單的方式就是git clone,復制其github地址github.com/langgenius/dify,找個文件夾git cloen就好,當然這樣需要科學上網。
2:啟動Dify,配置Google搜索插件
2.1 啟動Dify
命令行進到dify文件夾中的docker目錄,將.env.example文件拷貝一個,重命名為.env,然后運行dify啟動命令。
cd dify
cd docker
copy .env.example .env
docker compose up -d
稍等一下,它會自動安裝一些image
?
點開docker桌面版會看到容器里有個帶綠點的docker就成功了。?
點開瀏覽器,地址欄輸入http://localhost/insatll,設置自己本地dify的用戶名和密碼。
2.2 配置ollama本地模型
點開dify頁面右上角的用戶圖標中的設置。
在模型供應商中選擇ollama。
在模型供應商ollama中點添加模型。
注意填寫模型名字“qwq”和地址“host.docker.internal:11434”。
成功后顯示這樣。
2.3 獲取谷歌搜索API密鑰
-
訪問 serpapi.com
-
注冊 → 需要郵箱和電話,國內手機就行
-
免費版每月可以進行100次搜索
-
進入后可以看到自己API密鑰
2.4 添加Dify的谷歌搜索插件
Dify的插件功能比起繁瑣的MCP服務器好用多了,直接在dify頁面中插件,搜索google,直接安裝并填入剛獲得的谷歌搜索API密鑰。
成功后會顯示已授權。
?3:創建Dify Agent代理
3.1 創建Agent
這最后一步反而是最簡單的,進入dify頁面中工作室,agent菜單,創建空白應用。
在工具中添加谷歌。右上角模型中選qwq。?
到此就完成各位看官可以試一下!?
?
?
?