一、說明
需要閱讀
AI大模型學習十三、白嫖騰訊Cloud Studio AI環境 通過Ollama+Dify+DeepSeek構建生成式 AI 應用-安裝-CSDN博客https://blog.csdn.net/jiangkp/article/details/147580344?spm=1011.2415.3001.5331
我們今天干點啥呢,跟著官網走
模型類型
在 Dify 中,我們按模型的使用場景將模型分為以下 4 類:
系統推理模型。 在創建的應用中,用的是該類型的模型。智聊、對話名稱生成、下一步問題建議用的也是推理模型。
已支持的系統推理模型供應商:OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、訊飛星火、文心一言、通義千問、Minimax、ZHIPU(ChatGLM)
Embedding 模型。在知識庫中,將分段過的文檔做 Embedding 用的是該類型的模型。在使用了知識庫的應用中,將用戶的提問做 Embedding 處理也是用的該類型的模型。
已支持的 Embedding 模型供應商:OpenAI、ZHIPU(ChatGLM)、Jina AI(Jina Embeddings)
Rerank 模型。Rerank 模型用于增強檢索能力,改善 LLM 的搜索結果。
已支持的 Rerank 模型供應商:Cohere、Jina AI(Jina Reranker)
語音轉文字模型。將對話型應用中,將語音轉文字用的是該類型的模型。
已支持的語音轉文字模型供應商:OpenAI
根據技術變化和用戶需求,我們將陸續支持更多 LLM 供應商。
二、接入大模型
?我們需要ollama里面的地址:
點擊瀏覽器上打開地址為??https://xcizir-fobhes-8434.app.cloudstudio.work/
?開始接入模型
?模型添加成功
接入其它模型可以看文檔
接入大模型 | Difyhttps://docs.dify.ai/zh-hans/guides/model-configuration