一? 筆記總結
1.1 spring AI 實戰
1.1.1 spring ai+deepseek整合
通過使用spring ai 調用大模型deepseek,實現對話聊天,文字轉圖片,文字轉音頻。
1.1.2?OLLAMA
Ollama 專為本地部署和運行大型語言模型(LLM)而設計的框架工具。
使用ollma進行本地部署deepseek等大模型,通過 Ollama,個人開發者能以極低成本構建本地 AI 助手
1.1.3?RAG
RAG,全稱 Retrieval-Augmented Generation ,中文叫做檢索增強生成。RAG是一種結合了檢索系統和生成模型的新型技術框架。應用場景:構建企業內部知識問答系統。
在RAG工作時,其運行流程大致為:
1.用戶輸入問題
2.問題向量化
3.向量數據庫檢索
4.構建上下文(含系統提示詞):這一階段需要組織提示詞(Prompt),讓LLM更好地理解背景信息。
5.攜帶檢索內容,調用大模型進行回答
6.返回最終答案給用戶
1.1.4?提示詞
prompt:提示詞是引導大模型生成特定輸出的輸入,提示詞的設計和措辭會極大地影響模型的響應結果,Prompt 提示詞是與模型交互的一種輸入數據組織方式
1.1.5?綜合案例
使用spring ai+RAG 實現智能簡歷篩選助手功能
1.構建RAG簡歷知識庫
2.通過檢索詞,查詢RAG向量庫,返回的用戶信息經過封裝成用戶向量詞,和系統向量詞組成完成向量詞
3.調用deepseek大模型,返回響應數據。
?
19.課程總結_嗶哩嗶哩_bilibili