附完整代碼 + 項目案例,3 天吃透大模型應用開發核心技術
需要完整項目學習視頻以及源碼的私信博主,謝謝~大家一起加油吶!!
01.認識AI和大模型
小結
AI的發展過程
符號主義
機器學習
深度學習——自然語言處理(NLP)——大語言模型(LLM)
大模型底層原理
T:基于 Transformer 的神經網絡
P:通過大量數據預訓練,掌握自然語言規律
G:基于上文計算概率,聲測會給你下一個token
02大模型應用開發-模型部署方案對比
模型部署
03大模型應用開發-模型部署-云服務
模型部署-云服務
阿里百煉
04大模型應用開發-模型部署-本地部署
企業肯定是在自己的服務器上去部署,在內網去使用
模型部署-本地部署
1. 安裝 ollama
2.?
3.?
4.?
05大模型應用開發-調用大模型
調用大模型
遵循 openai?的規范,實現了 openai 的那一套接口
調用本地部署的大模型、或者是云部署的大模型——發送HTTP請求
06大模型應用開發-什么是大模型應用開發?
傳統程序和AI大模型之間的區別
大模型應用(Hybrid AI)
應用領域
07大模型應用開發-AI應用開發技術架構
AI應用開發技術架構
純 Prompt 問答
Agent(智能體(會對復雜的任務進行拆解))+ Function Calling
RAG(Retrieval檢索 Augmented增強 Generation生成)
Fine-tuning(模型微調)
針對特有業務場景對基礎大模型做數據訓練與微調,以滿足特定場景的需求。
11SpringAI-介紹
兩種技術框架的對比
目錄
12SpringAI-對話機器人-快速入門
快速入門
引入依賴
配置模型
配置客戶端
13SpringAI-對話機器人-會話日志
客戶端進行配置
日志輸出
14SpringAI-對話機器人-對接前端
這里就是構建一個前端頁面,因為博主主要學習的是后端,所以這一塊大家可以自己通過各種 AI 軟件自行構建一個前端頁面,只需要前后端對接好技術就好啦
我強烈推薦這里,可以學習一下使用AI軟件去快速開發一個項目。
15SpringAi-對話機器人-會話記憶
大模型是不具備記憶能力的,要想讓大模型記住之前聊天的內容,唯一的辦法就是把之前聊天的內容與新的提示詞一起發給大模型
實例演示——阿里百煉平臺? 文本調試大模型
定義會話存儲方式
配置會話記憶
添加會話ID?
16SpringAi-對話機器人-會話歷史
接口總結
定義Repository,開發接口,實現類?
開發VO類,以及Controller類