大模型相關目錄
大模型,包括部署微調prompt/Agent應用開發、知識庫增強、數據庫增強、知識圖譜增強、自然語言處理、多模態等大模型應用開發內容
從0起步,揚帆起航。
- 大模型應用向開發路徑:AI代理工作流
- 大模型應用開發實用開源項目匯總
- 大模型問答項目問答性能評估方法
- 大模型數據側總結
- 大模型token等基本概念及參數和內存的關系
- 大模型應用開發-華為大模型生態規劃
- 從零開始的LLaMA-Factory的指令增量微調
- 基于實體抽取-SMC-語義向量的大模型能力評估通用算法(附代碼)
- 基于Langchain-chatchat的向量庫構建及檢索(附代碼)
- 一文教你成為合格的Prompt工程師
- 最簡明的大模型agent教程
- 批量使用API調用langchain-chatchat知識庫能力
- langchin-chatchat部分開發筆記(持續更新)
- 文心一言、訊飛星火、GPT、通義千問等線上API調用示例
- 大模型RAG性能提升路徑
- langchain的基本使用
- 結合基礎模型的大模型多源信息應用開發
- COT:大模型的強化利器
- 多角色大模型問答性能提升策略(附代碼)
- 大模型接入外部在線信息提升應用性能
- 從零開始的Dify大模型應用開發指南
- 基于dify開發的多模態大模型應用(附代碼)
- 基于零一萬物多模態大模型通過外接數據方案優化圖像文字抽取系統
- 快速接入stable diffusion的文生圖能力
- 多模態大模型通過外接數據方案實現電力智能巡檢(設計方案)
- 大模型prompt實例:知識庫信息質量校驗模塊
文章目錄
- 大模型相關目錄
- 需求介紹
- 示例
- RAG-AIOS大模型應用開發模式
需求介紹
團隊開發了一個引入外接知識庫信息和在線檢索信息的項目,即RAG-AIOS大模型應用開發模式,其設計思路如下:
【情況1:未檢索到知識庫信息,未檢索到在線信息。】
【情況2:未檢索到知識庫信息,檢索到在線信息。】
【情況3:檢索到知識庫信息,且信息符合使用需求。】
【情況4:檢索到知識庫信息,但信息不符合使用需求,未檢索到在線信息。】
【情況5:檢索到知識庫信息,但信息不符合使用需求,檢索到在線信息。】
為檢測知識庫檢索出的信息質量,需設計LLM+prompt。
示例
### 職位描述:您是一個文本分類引擎,用于分析文本數據并根據用戶輸入或自動確定的類別分配類別。
### 任務:您的任務為輸入文本進行二分類判斷,結果為"合格"或"不合格"。
### 輸出:輸出只有{"類別":"合格"}或{"類別":"不合格"}兩個選項。
### 約束:不要在響應中包含 JSON 數組以外的任何內容。"用戶輸入":"縣電視臺調整節目內容應該打什么電話"
"知識檢索":"{"實施主體": "煙臺市公安局","承辦機構": "煙臺市公安局(受省公安廳委托實施);招遠經開區管委(受省公安廳委托實施)","事項版本": "22","辦理結果名稱": "保安服務許可證","法定辦結時限": "30個工作日","是否存在運行系統": "暫無","咨詢渠道": "窗口咨詢:山東省煙臺市萊山區銀海路46號煙臺市政務服務中心1樓公安綜合服務區B107治安管理窗口。 信件咨詢:馬德峪","投訴渠道": "","受理時間、地點": "受理地點:山東省煙臺市萊山區銀海路46號煙臺市政務服務中心1樓公安綜合服務區B107治安管理窗口。 (B107治安管理窗口) 受理時間:5月-10月夏季辦公時間工作日星期一至星期五上午08:00-12:00,下午14:00-17:30;11月-4月冬季辦公時間工作日星期一至星期五上午08:30-12:00,下午13:30-17:00(法定節假日除外)。"}"### 思考:用戶提問涉及關鍵詞“縣電視臺”、“調整節目內容”、“電話”,雖然用戶問題與檢索內容有一點關系,但是無法直接回答用戶提問,因此判定為不合格。
### 輸出:```json {"類別":"不合格"} ```"用戶輸入":"考古調查怎么申請"
"知識檢索":"{"實施主體": "煙臺市文化和旅游局","承辦機構": "煙臺市文化和旅游局(受省文化和旅游廳〔省文物局〕委托實施)","事項版本": "29","辦理結果名稱": "關于XXXX項目/地塊考古調查勘探的意見","法定辦結時限": "20個工作日","是否存在運行系統": "暫無","咨詢渠道": "窗口咨詢:煙臺市政務服務中心(山東省煙臺市萊山區銀海路 46 號一樓A101-A112號窗口) 信件咨詢:張志超","投訴渠道": "","受理時間、地點": "受理地點:煙臺市政務服務中心(山東省煙臺市萊山區銀海路 46 號一樓A101-A112號窗口) (綜合受理窗口) 受理時間:5月-10月 夏季辦公時間工作日:上午8:30-12:00 下午:14:00-17:30 ; 11月-4月 冬季辦公時間工作日:上午8:30-12:00 下午:13:30-17:00(法定節假日除外)"}"### 思考:用戶提問涉及關鍵詞“考古調查”、“申請”,通過與知識檢索內容進行對比,問題可直接用于回答用戶提問,可知檢索內容合格。
### 輸出:```json {"類別":"合格"} ```"用戶輸入":{{#sys.query#}}"知識檢索":{{#context#}}“特別注意”:檢索內容必須可直接用于準確回答用戶提問,信息相關、勉強合格等情況都判別為不合格