ollama大模型部署-CSDN博客文章瀏覽閱讀26次。Ollama 是一個能在本地機器上輕松構建和運行大型語言模型的輕量級、可擴展框架，適用于多種場景，具有易于使用、資源占用少、可擴展性強等特點。https://blog.csdn.net/weixin_72819498/article/details/140094597

上一章我們部署了ollama大模型，Dify和ollama可以結合使用，以快速開發和部署AI應用。開發人員可以使用ollama在本地部署LLM，然后使用Dify進行應用開發和模型管理。

Dify介紹：

Dify 是一款開源的大語言模型（LLM）應用開發平臺。它融合了后端即服務（Backend as Service）和 LLMOps 的理念，使開發者可以快速搭建生產級的生成式 AI 應用。即使是非技術人員，也能參與到 AI 應用的定義和數據運營過程中。

Dify 內置了構建 LLM 應用所需的關鍵技術棧，包括對數百個模型的支持、直觀的 Prompt 編排界面、高質量的 RAG 引擎以及靈活的 Agent 框架，并同時提供了一套易用的界面和 API。這為開發者節省了許多重復造輪子的時間，使其可以專注于創新和業務需求。

通俗的講dify就像一個殼是為了更方便的去使用大模型并可以將大模型本地化部署，打造個人知識庫

功能比較

如果你想了解更多關于 Dify 的信息，可以訪問其官方網站：https://dify.ai/

1.檢查是否擁有Docker環境

Windows和Linux系統部署Docker容器(2)_docker windows linux-CSDN博客文章瀏覽閱讀1.1k次，點贊44次，收藏23次。Docker并非是一個通用的容器工具，它依賴于已存在并運行的Linux內核環境。Docker實質上是在一個已運行的Linux下制造了一個隔離的文件環境，因此它執行的效率幾乎等同于所部署的Linux主機。_docker windows linuxhttps://blog.csdn.net/weixin_72819498/article/details/139295581

docker -v

2.從gitlab上克隆代碼到服務器

#由于網站在國外很有可能拉取不下來，可能要多嘗試幾次，實在不行就配置鏡像加速器

Docker配置國內鏡像加速-2_配置docker加速-CSDN博客

?git clone https://github.com/langgenius/dify.git

3.進入 dify 源代碼的 docker 目錄，執行一鍵啟動命令：

[root@dify ~]# cd dify/docker
[root@dify docker]# docker compose up -d

部署結果：

#如果全是對鉤代表鏡像拉取成功

4.瀏覽器訪問：

服務器IP地址

http://192.168.100.102

(1)注冊管理員賬號

密碼：123.com!

#注意：密碼必須滿足復雜度（數字字母+特殊符號不少于8為）

(2)登錄賬號

這樣就進入了它的管理界面

5.添加ollama大模型

所測選擇‘模型供應商’------ ‘ollama添加模型’

6.創建智能助手

(1)設置提示詞

(2)嘗試對話

(3)添加擴展工具

(4)添加開場白