Prompt問答

特征:利用大模型推理能力完成應用的核心功能

應用場景：

• 文本摘要分析

• 輿情分析

• 坐席檢查

• AI對話

• 

Agent+Function Calling

特征：將應用端業務能力與AI大模型推理能力結合，簡化復雜業務功能開發

應用場景:

• 旅行指南

• 數據提取

• 數據聚合分析

• 課程顧問

RAG Embeddings

特征：給大模型外掛一個知識庫，讓大模型基于知識庫內容做推理和回答

離線步驟：

• 文檔加載

• 文檔切分

• 文檔編碼

• 寫入知識庫

在線步驟

• 獲得用戶問題

• 檢索知識庫中相關知識片段

• 將檢索結果和用戶問題填入Prompt模板

• 用最終獲得的Prompt調用LLM

• 由LLM生成回復

應用場景：

• 個人知識庫

• AI客服助手

Fine-tuning

特征：針對特有業務場景對基礎大模型做數據訓練和微調，以滿足特定場景的需求